事件驱动编程如何帮助只执行IO的Web服务器？

Question

我正在为我们的新后端项目考虑一些框架/编程方法。它涉及后端forfrontend实现，该实现聚合了下游服务。为简单起见，以下是它所经历的步骤：

1. 请求进入Web服务器
2. Web服务器发出下游请求
3. 下游请求返回结果
4. Web服务器返回请求

事件驱动编程如何比“常规”按请求处理线程更好？一些网站试图解释，它通常归结为这样的东西：

第二种解决方案是非阻塞调用。调用方没有等待答案，而是继续执行，但提供了一个回调，该回调将在数据到达后执行。

我不明白的是：我们需要一个线程/处理程序来等待这些数据，对吗？事件处理程序可以继续很好，但我们仍然需要（在本例中）每个请求都有一个线程/处理程序，等待每个下游请求，对吗？

考虑这个例子：下游请求需要n秒才能返回。在这n秒内，r个请求进来。在每个请求线程中，我们需要r个线程：每个请求一个。n秒后，第一个线程完成处理并可用于新请求。

在实现事件驱动设计时，我们需要r 1线程：一个事件循环和r处理程序。每个处理程序接受一个请求，执行它，并在完成后调用回调。

那么这是如何改善情况的呢？

Answer 1

非阻塞范式的整体思想是通过这种称为“事件循环”的思想实现的

有趣的参考资料：

1. http://www.masterraghu.com/subjects/np/introduction/unix_network_programming_v1.3/ch06lev1sec2.html

Answer 2

我不明白的是：我们需要一个线程/处理程序来等待这些数据，对吗？

不是真的。NIO背后的思想是没有线程被阻塞。

这很有趣，因为操作系统已经以非阻塞方式工作了。是我们的编程语言以阻塞方式建模。

例如，假设您有一台只有一个CPU的计算机。您执行的任何输入/输出操作都将比CPU慢几个数量级，对吗？。假设你想读一个文件。你认为当磁头去提取几个字节并将它们放入磁盘缓冲区时，CPU会保持在那里，空闲，什么也不做吗？显然不是。操作系统将注册一个中断（即回调），同时将把有价值的CPU用于其他事情。当磁头已设法读取几个字节并使其可供使用时，将触发中断，然后操作系统将关注它，恢复以前的进程块，并分配一些CPU时间来处理可用数据。

因此，在这种情况下，CPU就像应用程序中的线程。它从不被阻塞。它总是在做一些CPU受限的事情。

NIO编程背后的思想是相同的。在您公开的情况下，假设您的HTTP服务器只有一个线程。当您收到客户的请求时，您需要发出上游请求（表示输入/输出）。因此，NIO框架在这里要做的是发出请求，并在响应可用时注册回调。

紧接着，您有价值的单线程被释放以参与另一个请求，该请求将注册另一个回调，依此类推。

当回调解析时，它将自动安排由单个线程处理。

因此，该线程可以作为一个事件循环，在其中您应该只调度CPU限制的内容。每次需要进行I/O时，都是以非阻塞的方式进行的，当I/O完成时，会将一些CPU限制的回调放入事件循环以处理响应。

这是一个强大的概念，因为使用非常少的线程，您可以处理数千个请求，因此可以更容易地扩展。少花钱多办事。

此功能是Node的主要卖点之一。js以及为什么即使使用单个线程也可以用于开发后端应用程序。

同样，这也是Netty、RxJava、反应流倡议和项目反应器等框架激增的原因。他们都在寻求推广这种优化和编程模型。

还有一个有趣的新框架运动，它们利用了这些强大的功能，并试图相互竞争或补充。我说的是像Vert. x和Ratpack这样有趣的项目。我很确定其他语言还有更多。