Spring boot：为管理端口上的请求提供服务的线程池

Question

在Kubernetes集群中运行时，我们使用Spring Boot执行器来公开活跃度和就绪endpoint。默认情况下,spring-boot执行器公开默认标准HTTP服务器端口上的endpoint,请求由Tomcat/Jetty服务器接受器和工作线程池提供。我们最近在压力测试过程中遇到了一个问题，工作池中的所有线程都很忙，新的请求都在排队。这导致了在Kubernetes星系团中的pod坠毁，因为活性探测器开始失败。

我正在考虑暴露管理端口上的执行器。我想看看下面的情况

a）管理端口上的请求是否有一个单独的工作线程池（与标准服务器端口的工作线程池不同）？

b）如果a）的答案是否定的，那么我是否可以配置spring boot来使用一个单独的线程池来管理端口（我们在不同的微服务中使用Tomcat/Jetty和reactive netty服务器）

Answer 1

是的，如果您指定了一个不同的管理端口，那么Spring/Tomcat将使用一个单独的线程池来为该端口上的请求提供服务。

例如。如果您指定了类似于以下内容的配置：

server.port=8080
management.server.port=8081
server.tomcat.threads.max=10

端口8080上的常规请求将由来自标准线程池的线程提供服务，标准线程池总共将有10个线程(server.tomcat.threads.max)。您将看到日志中的线程名称如下所示：

... nio-8080-exec-<number from 1 to 10>..

管理/健康检查线程将由来自不同线程池的线程提供服务，该线程池的总大小也将为10。您将在日志文件中看到这些线程,如下所示：

... nio-8081-exec-<number from 1 to 10>..

注意：这样做可能会解决导致Pod重新启动的健康检查失败的问题，但是它可能无法解决当流量突发时所有工作线程被占用的根本原因。也许您需要研究一些诸如速率限制之类的东西来处理这种情况，这样您的服务就不会获得超过它所能处理的流量。