Netty比Tomcat慢

Question

我们刚刚构建了一个将数据存储到磁盘的服务器，并使用Netty进行了前端。在负载测试期间，我们看到Netty扩展到每秒大约8,000条消息。考虑到我们的系统，这看起来非常低。作为基准测试，我们编写了一个Tomcat前端并运行相同的负载测试。通过这些测试，我们每秒收到大约25,000条消息。

以下是我们的负载试验机的规格：

• Macbook Pro四核
• 16GB的RAM
• Java1.6

以下是Netty的负载测试设置：

• 10个线程

以下是Tomcat的负载测试设置：

• 10个线程
• 每线程100000条消息
• Tomcat 7.0.16，默认配置为使用Servlet调用服务器代码
• 客户端使用URLConnection而不使用任何池

我的主要问题是，为什么性能会有如此大的差异？关于Netty，有什么明显的东西可以让它跑得比Tomcat快吗？

编辑：这是主要的Netty服务器代码：

NioServerSocketChannelFactory factory = new NioServerSocketChannelFactory();
ServerBootstrap server = new ServerBootstrap(factory);
server.setPipelineFactory(new ChannelPipelineFactory() {
  public ChannelPipeline getPipeline() {
    RequestDecoder decoder = injector.getInstance(RequestDecoder.class);
    ContentStoreChannelHandler handler = injector.getInstance(ContentStoreChannelHandler.class);
    return Channels.pipeline(decoder, handler);
  }
});

server.setOption("child.tcpNoDelay", true);
server.setOption("child.keepAlive", true);
Channel channel = server.bind(new InetSocketAddress(port));
allChannels.add(channel);

我们的处理程序如下所示：

public class RequestDecoder extends FrameDecoder {
  @Override
  protected ChannelBuffer decode(ChannelHandlerContext ctx, Channel channel, ChannelBuffer buffer) {
    if (buffer.readableBytes() < 4) {
      return null;
    }

    buffer.markReaderIndex();
    int length = buffer.readInt();
    if (buffer.readableBytes() < length) {
      buffer.resetReaderIndex();
      return null;
    }

    return buffer;
  }
}

public class ContentStoreChannelHandler extends SimpleChannelHandler {
  private final RequestHandler handler;

  @Inject
  public ContentStoreChannelHandler(RequestHandler handler) {
    this.handler = handler;
  }

  @Override
  public void messageReceived(ChannelHandlerContext ctx, MessageEvent e) {
    ChannelBuffer in = (ChannelBuffer) e.getMessage();
    in.readerIndex(4);

    ChannelBuffer out = ChannelBuffers.dynamicBuffer(512);
    out.writerIndex(8); // Skip the length and status code

    boolean success = handler.handle(new ChannelBufferInputStream(in), new ChannelBufferOutputStream(out), new NettyErrorStream(out));
    if (success) {
      out.setInt(0, out.writerIndex() - 8); // length
      out.setInt(4, 0); // Status
    }

    Channels.write(e.getChannel(), out, e.getRemoteAddress());
  }

  @Override
  public void exceptionCaught(ChannelHandlerContext ctx, ExceptionEvent e) {
    Throwable throwable = e.getCause();
    ChannelBuffer out = ChannelBuffers.dynamicBuffer(8);
    out.writeInt(0); // Length
    out.writeInt(Errors.generalException.getCode()); // status

    Channels.write(ctx, e.getFuture(), out);
  }

  @Override
  public void channelOpen(ChannelHandlerContext ctx, ChannelStateEvent e) {
    NettyContentStoreServer.allChannels.add(e.getChannel());
  }
}

更新：

我已经设法将我的Netty解决方案控制在4000/s以内。几周前，我在连接池中测试客户端PING，作为对空闲套接字的安全防护，但在开始负载测试之前，我忘了删除该代码。每次从池（使用Commons池）签出套接字时，该代码都会有效地ping服务器。我把代码注释掉了，我现在用Netty得到了21000/秒，用Tomcat得到了25000/秒。

虽然，这对Netty来说是个好消息，但我在Netty上的速度仍然比Tomcat低4000/秒。如果有人有兴趣看到，我可以发布我的客户端（我认为我已经排除了，但显然没有）。

Answer 1

方法messageReceived是使用一个工作线程执行的，该工作线程可能被RequestHandler#handle阻塞，该工作线程可能忙于执行一些输入/输出工作。您可以尝试向通道管道中添加一个OrderdMemoryAwareThreadPoolExecutor（推荐）来执行处理程序，或者尝试将处理程序工作分配给新的ThreadPoolExecutor，并将引用传递给套接字通道，以便稍后将响应写回客户端。前任。：

@Override
public void messageReceived(ChannelHandlerContext ctx, MessageEvent e) {   

    executor.submit(new Runnable() {
        processHandlerAndRespond(e);        
    });
}

private void processHandlerAndRespond(MessageEvent e) {

    ChannelBuffer in = (ChannelBuffer) e.getMessage();
    in.readerIndex(4);
    ChannelBuffer out = ChannelBuffers.dynamicBuffer(512);
    out.writerIndex(8); // Skip the length and status code
    boolean success = handler.handle(new ChannelBufferInputStream(in), new ChannelBufferOutputStream(out), new NettyErrorStream(out));
    if (success) {
        out.setInt(0, out.writerIndex() - 8); // length
        out.setInt(4, 0); // Status
    }
    Channels.write(e.getChannel(), out, e.getRemoteAddress());
}