线程池大小应远远大于核心数+1

Question

自定义线程池的建议大小是number_of_cores+1（请参见此处和此处）。假设有一个Spring应用程序在一个系统上有两个核心，配置如下所示

<task:executor id="taskExecutor" 
pool-size="#{T(java.lang.Runtime).getRuntime().availableProcessors() + 1}" />
<task:annotation-driven executor="taskExecutor" />

在这种情况下，将有一个ExecutorService在几个请求之间共享。因此，如果有10个请求到达服务器，那么在ExecutorService中只能同时执行其中的3个请求。这可能会产生瓶颈，并且随着请求数量的增加，结果会变得更糟（请记住：默认情况下，tomcat最多可以处理200个同时请求=200个线程）。该应用程序在没有任何池的情况下会表现得更好。

通常一个内核一次可以处理多个线程。例如，我创建了一个服务，它调用了两次https://httpbin.org/delay/2。每个调用执行需要2秒。因此，如果不使用线程池，服务的响应时间平均为4.5秒（通过20个同时请求对此进行了测试）。如果使用线程池，则reponse会根据池大小和硬件而变化。我在4个不同池大小的核心机器上运行了一个测试。下面是以毫秒为单位的最小、最大和平均响应时间的测试结果

Answer 1

您链接到的两个页面都明确表示，这只适用于未阻塞的、CPU绑定的任务。

您的任务被阻止在远程计算机上等待，因此此建议不适用。

忽略不适用于您的建议没有错，因此您可以并且应该增加线程池大小。

陈峰，在他的博客“旧的新事物”上