在Kubernetes Live Probes中配置Spring Boot以使其在高负载下表现良好

Question

我使用的是Spring Boot的部署（典型的微服务web服务器部署，带有网关、独立的身份验证服务器等，前面是反向代理/负载平衡的nginx部署）。我们用Kubernetes编排Docker容器。我们正在为生产部署做准备，最近已经开始了负载测试，揭示了这些负载处理中的一些问题。

我的问题是，当服务器承受高负载时（这里是使用Gatling进行性能测试），活跃度探测返回503个错误，这是因为负载很重；这触发了库伯内特斯的重启。

当然，活跃度探测是很重要的，但是当系统开始丢弃请求时，我们应该做的最后一件事是杀死POD，这会通过将负载转移到剩余的POD而导致级联失败。

Spring执行器健康检查的这个具体问题在本SO问题中进行了描述，并提供了一些提示，但答案并不彻底。具体地说，使用活跃度命令的想法（例如检查java进程是否正在运行）在我看来是不够的，因为如果java进程正在运行，但是有一些异常，或者缺少一些资源（数据库、Kafka...)，那么它将错过实际的停机时间

1. 在Kubernetes/Cloud部署上配置production Spring有什么好的指南吗？
2. 如何处理活性探头在高负荷下失效的具体问题，有人有这方面的经验吗？

Answer 1

注意：这是@AndyWilkinson和@Chinhuang针对@AlexandreCassagne声明的解决问题的评论提供的答案：

如果一个活跃度探测表明当前的流量水平压倒了你的应用程序，以致于它无法处理html" target="_blank">请求，试图找到一种抑制的方法，这似乎对我来说是适得其反的。是否配置了就绪探测器？当你的应用变得不堪重负时，你很可能希望它表明它一时无法处理流量。一旦负载下降并恢复，它就可以重新开始处理流量，而不需要重新启动。

此外，如果缺少的资源（数据库、Kafka等）仅由单个实例使用，则活跃度探测应该只关心该资源。如果多个实例都访问了该资源，并且资源关闭，则所有活跃度探测都将失败。这将导致跨部署的级联失败和重新启动。在Spring Boot2.3参考文档中有一些关于这一点的指导。

Spring Boot 2.3引入了独立的活性和就绪探针。