Java中的高优先级线程

Question

我目前正在研究分布式应用程序的性能。我的目标是网络组件。目前，每个连接都有一个专用线程，在阻塞模式下处理套接字。我的目标是减少线程数量（不降低性能），如果可能的话，提高性能。

我重新设计了网络组件以使用异步通信，并尝试使用1到2个线程来处理整个网络。我做了一个简单的测试，我从一个节点在一个循环中写入，然后在另一个节点上读取，这是为了测试最大nw线程能力，我发现我的繁忙循环实现消耗了100%的cpu，每秒得到的操作比我们需要的多得多。所以我在现有的应用程序中集成了这个繁忙的循环实现。

我发现的问题是其他线程不允许这些异步nw线程获得完整的cpu，即使我有一个8核系统，我们使用的cpu不超过400%。基本上作为一名C程序员，我可以通过将我的nw线程绑定在一个核上并提高它的调度优先级来解决这个问题，这样其他线程仍然可以在其他核上运行。我不能在Java做类似的事情。关于Java线程优先级有相互矛盾的评论。我也不想降低其他线程的优先级，因为它可能有自己的副作用。

你会如何解决这个问题？

Answer 1

对我来说，这真的有点过早优化的味道。你有一个8核系统，只使用400%的CPU。是什么让你认为这不是IO绑定程序的教科书示例？是什么让你认为你还没有把网络IO链发挥到极致？

@彼得知道他的东西，我相信你可以破解处理器亲和性，把你的关键线程强制到一个CPU上，但问题是它会让你的程序运行得更快吗？我真的很怀疑。JavaVM模型在线程调度方面非常聪明，我建议它正确地完成了自己的工作。除非你有很好的相反证据，否则我会让它来处理日程安排。如果大多数线程都在等待IO，那么即使优先级也没有多大意义。

另外，是什么让你认为减少线程数量更好。这将大量代码从本地（即线程多路复用）转移到Java（即NIO代码）。如果你说的是1000个线程，那么我同意，但是即使是100个线程也应该是处理连接的有效方式。

二十多年来，我做了大量的线程编程，从来没有强迫过线程亲和力。当然，调整线程池的大小并正确决定在哪里应用线程池和专用线程是一门艺术，但强制虚拟机按您认为应该的方式安排线程并不能很好地利用您的时间。花一些时间与剖析器一起，找出你的程序在哪里花费时间，这将是一个更好的投资。

Answer 2

我有一个库来支持Linux和WindowsJava中的线程亲和力。https://github.com/peter-lawrey/Java-Thread-Affinity

如果隔离CPU，可以确保分配的CPU不会用于任何其他用途（不可屏蔽中断除外），这在Linux AFAIK中效果最好。

如果您在非阻塞NIO中使用忙等待，而不是阻塞IO，您可以获得更低的延迟结果。后者在负载下效果最好，在较低的负载下，延迟会增加。

你可能会发现这个图书馆很有趣https://github.com/peter-lawrey/Java-Chronicle它允许您每秒持久保存数百万条消息，可以选择将其保存到第二个进程。

顺便说一句：线程优先级只是一个提示，操作系统可以随意忽略它（而且经常忽略）

一个比较冷热代码的简单例子。它所做的只是反复复制一个数组并给它计时。一旦代码和数据升温，你就不会期望它变慢，但是即使在一台相当大的机器上，也只需要10毫秒的延迟就能显著降低复制的时间。

public static void main(String... args) throws InterruptedException {
    int[] from = new int[60000], to = new int[60000];
    for (int i = 0; i < 10; i++)
        copy(from, to); // warm up
    for (int i = 0; i < 10; i++) {
        long start = System.nanoTime();
        copy(from, to);
        long time = System.nanoTime() - start;
        System.out.printf("Warm copy %,d us%n", time / 1000);
    }
    for (int i = 0; i < 10; i++) {
        Thread.sleep(10);
        long start = System.nanoTime();
        copy(from, to);
        long time = System.nanoTime() - start;
        System.out.printf("Cold copy %,d us%n", time / 1000);
    }
}

private static void copy(int[] a, int[] b) {
    for (int i = 0, len = a.length; i < len; i++)
        b[i] = a[i];
}

指纹

Warm copy 20 us
Warm copy 20 us
Warm copy 19 us
Warm copy 23 us
Warm copy 20 us
Warm copy 20 us
Cold copy 100 us
Cold copy 80 us
Cold copy 89 us
Cold copy 92 us
Cold copy 80 us
Cold copy 112 us