异步Netty HttpServer和HttpClient

Question

在过去的几天里，我一直在探索Netty，因为我正在编写一个快速而紧凑的HTTP服务器，它应该能够接收大量请求，而Netty的HTTP服务器实现非常简单，可以完成这项工作。

我的下一步是作为请求处理的一部分，我需要启动一个到外部web服务器的HTTP请求。我的直觉是实现一个可以同时发送大量请求的异步客户机，但我有点困惑什么是正确的方法。我的理解是，Netty服务器对每个传入消息都使用一个工作线程，因此在处理程序完成其工作之前，该工作线程不会被释放以接受新消息。这里有一个要点：即使我手头有一个异步HTTP客户机，我是否需要等待每个响应并用我的服务器处理程序将其处理回也无关紧要——相同的工作线程将一直处于阻塞状态。另一种方法是使用客户机的异步特性，快速返回未来对象以释放线程并放置侦听器（这意味着我必须向客户机返回200或202状态），并检查我的未来对象以指示何时收到响应，以及我可以将其推送到客户机。

这有意义吗？我是否偏离了我的假设？实现这种具有高并发性的Netty acceptor server外部客户端的良好实践是什么？

谢谢，

Answer 1

假设你问的是内蒂4号。

配置了ServerBootstrap的Netty将具有固定数量的工作线程，用于接受请求并执行通道，如下所示：

Two threads accepting / processing requests
bootstrap.group(NioEventLoopGroup(2))

One thread accepting requests, two threads processing.
bootstrap.group(NioEventLoopGroup(1), NioEventLoopGroup(1))

在您的例子中，您有一个通道，包括一堆Http编解码器解码/编码内容和您自己的处理程序，该处理程序本身发出一个传出Http请求。你是对的，你不想阻止服务器接受传入的请求，或解码传入的Http消息，你可以做两件事来缓解这种情况，你已经找到了第一件事。

首先，您希望使用一个Async netty客户端来发出传出请求，让侦听器在传出请求返回时将响应写入原始请求通道。这意味着您不会阻塞和等待，这意味着您可以处理比处理这些请求的线程数更多的并发传出请求。

其次，您可以让自定义处理程序在其自己的EventExecutorGroup中运行，这意味着它在与acceptor/http编解码器通道处理程序不同的线程池中运行，如下所示：

// Two separate threads to execute your outgoing requests..
EventExecutorGroup separateExecutorGroup new DefaultEventExecutorGroup(2);

bootstrap.childHandler(new ChannelInitializer<SocketChannel>() {
    @Override
    public void initChannel(SocketChannel ch) {
        ChannelPipeline pipeline = ch.pipeline();
        .... http codec stuff .... 
        pipeline.addLast(separateExecutorGroup, customHandler);
    }
};

这意味着您的传出请求不会占用将用于接受/处理传入请求的线程。