如何优化多次调用外部API并响应结果列表的rest API响应？

Question

我编写了一个rest API，它接受一个列表请求（这个列表的大小是动态的）。

现在我的API所做的是，对于列表中的每个项目调用一个外部API，并用所有响应的集合进行响应。

请参考下面的流程图：

现在这个过程非常耗时，而且响应时间太长。

注：

>

这必须是一个同步过程。

我们不能在这里实现分页。

此外，我们不想使用多线程，因为如果项目数量太少，那么多线程可能是一种过度使用，如果项目数量太多，那么可能会占用大量资源。

那么，我们能做些什么来缩短响应时间呢？

Answer 1

对于您的问题的解决方案，我建议使用反应式微服务，即如何开发非阻塞同步REST API和异步事件驱动服务。

传统上，作为Java开发人员，我们习惯于使用阻塞I/O实现同步通信，例如，通过HTTP的RESTful JSON API。使用阻塞I/O意味着从操作系统为请求的长度分配一个线程。如果并发请求的数量增加，服务器可能会耗尽操作系统中的可用线程，导致从更长的响应时间到服务器崩溃等问题。使用微服务架构通常会使这个问题变得更糟，其中通常使用协作微服务链来服务请求。服务请求所涉及的微服务越多，可用线程耗尽的速度就越快。

如果首选同步编程模型，请使用反应式框架，该框架可以使用非阻塞I/O执行同步请求，而无需在等待响应时分配线程。这将使微服务更易于扩展，以便处理增加的工作负载。