如何处理长时间运行不稳定的服务器

Question

我们有一个不稳定的旧单块系统，95%的请求在500毫秒内处理，但其他5%需要

我们当前的方法是使用具有指数回退重试机制的异步http客户端。但随着流量的增加，这将导致性能问题

我的想法是在S中有一个超时500毫秒的同步超文本传输协议调用和一个回退方法，该方法将一个任务添加到队列中，以便将来重试超文本传输协议请求，同时将202返回给C，并返回一个链接来检查任务的状态，类似于/队列/任务-123。我知道我需要将S公开的服务设为C幂等，所以每次收到来自C的新请求时，我都必须检查队列，以确保我没有重复的任务。

问题：

1. 有更好的方法来解决我的问题吗
2. 队列中的任务是处理RESTendpoint中重试的最佳方式吗

我们的堆栈:Java使用Spring boot，对于队列，我认为是RabbitMQ

Answer 1

让S的请求为AsyncHttpResponse创建Futures，并将它们发送到一个执行器，该执行器有一个足够大的线程池来容纳您的负载，但不要太高以至于淹没您的Monolith。这样，当事情开始失败时，它就不会滚雪球般地压在你身上，其他请求可以排队。在这个模型中，您仍然可以有一个重试模型，但在未来之外对其进行控制，以便在重试之前允许成功的请求进来。