Kubernetes活跃度-使用Spring Boot为特定endpoint保留线程/内存

Question

您知道（如果可能的话）如何在spring boot微服务中为特定endpoint预留线程/内存吗？

我有一个通过Spring MVC接受HTTP请求的微服务，这些请求触发对第三个系统的HTTP调用，第三个系统有时会部分降级，并且响应非常慢。我不能减少超时时间，因为有一些调用本质上非常慢。

我启用了spring-boot-acturet/healtendpoint，并且像使用kubernetes集群中的容器LivenessProbe一样使用它。有时，当第三个系统降级时，微服务对/healtendpoint没有响应，kubernetes会重新启动我的服务。

这是因为我使用RestTemplate来进行HTTP调用，所以我不断地创建新的线程，而JVM的内存开始出现问题。

我想过一些解决办法：

>

实现高可用性“/health”endpoint、保留线程或类似的内容。

使用异步http客户端。

配置我正在使用的每个第三个endpoint的自定义超时。

创建其他小型服务（golang）并将其部署在同一个Pod中。此服务将处理活性探测。

将服务迁移/重构为小型服务，也可以使用Vert.x、go等其他框架/语言。

Answer 1

执行器健康endpoint使用Spring boot非常方便--在这种情况下几乎太方便了，因为它可以进行比在活性探测中需要的更深入的健康检查。为了准备好，你想做更深入的检查，但不是活跃。这个想法是，如果吊舱有一点不堪重负，没有做好准备，那么它将从负载平衡中退出，并获得喘息机会。但如果它的活跃度下降，它将被重新启动。因此，您只需要对活跃度进行最低限度的检查（如果运行状况检查调用其他应用程序运行状况检查的话）。通过使用促动器的健康，两者都没有办法让你忙碌的吊舱得到喘息，因为他们首先被杀死。并且kubernetes在执行两个探测时定期调用httpendpoint，这进一步加剧了线程使用问题（请考虑探测的periodSeconds）。

对于您的情况，您可以定义一个liveness命令，而不是http探测-https://kubernetes.io/docs/tasks/configure-pod-container/configure-liveness-readid-probes/#define-a-liveness-command。该命令可以检查Java进程是否正在运行（因此有点类似于基于go的探测建议）。

在许多情况下，使用促动器来增强活力是很好的（想想应用程序在线程之前遇到了不同的约束，如果您使用Reactor栈进行异步/非阻塞，就会遇到这种情况）。在您的系统中，它可能会导致问题--执行器对依赖项（如消息代理）的可用性的探测可能会导致过度重新启动（在这种情况下，是在首次部署时）。