分析Netty性能

Question

我正在写一份棘手的申请书。该应用程序运行在64位八核linux机器上

Netty应用程序是一个简单的路由器，它接受请求（传入管道），从请求中读取一些元数据，并将数据转发给远程服务（传出管道）。

此远程服务将向传出管道返回一个或多个响应。Netty应用程序将把响应路由回发起客户端（传入管道）

会有成千上万的客户。将会有成千上万的远程服务。

我正在做一些小规模的测试（十个客户端，十个远程服务），但我没有看到99.9%的预期性能低于10毫秒。我从客户端和服务器端测量延迟。

我使用的是类似于SPDY的完全异步协议。当我们在FrameDecoder中处理第一个字节时，我捕获时间（我只使用System.nanoTime（））。我停止计时器之前，我们调用channel.write（）。我正在测量从传入管道到传出管道的亚毫秒时间（99.9百分位数），反之亦然。

我还测量了从FrameDecoder中的第一个字节到在（上面）message.write（）上调用ChannelFutureListener回调的时间。时间高达几十毫秒（99.9%），但我很难说服自己这是有用的数据。

我最初的想法是我们有一些慢客户。我看了这个频道。isWritable（）并在返回false时记录。在正常情况下，此方法不会返回false

一些事实：

• 我们正在使用NIO工厂。我们尚未定制员工人数
• 我们已禁用Nagel（tcpNoDelay=true）
• 我们已启用保持活动（keepAlive=true）
• CPU 90%的时间处于空闲状态
• 网络空闲
• GC（CMS）在很短的时间内每隔100秒左右被调用一次

有没有一种调试技术，我可以遵循来确定为什么我的Netty应用程序没有运行得像我认为的那样快？

感觉像是频道。write（）将消息添加到队列中，而我们（使用Netty的应用程序开发人员）对此队列没有透明度。我不知道这个队列是网络队列、操作系统队列、网卡队列还是什么。无论如何，我正在回顾现有应用程序的示例，我没有看到我遵循的任何反模式

感谢您的帮助/见解

Answer 1

如果使用像System.nanoTime（）这样简单的东西，在多线程环境中测量时间是非常困难的。想象一下1核系统的以下情况：

1. 线程A被唤醒并开始处理传入的请求
2. 线程B被唤醒并开始处理传入的请求。但由于我们在一台单核机器上工作，这最终需要暂停线程a
3. 线程B完成并执行得非常快
4. 线程A继续并完成，但所用的时间是线程B的两倍。因为您实际测量了线程A线程B完成所用的时间

在这种情况下，有两种方法可以正确测量：

>

您可以强制要求在任何时候只使用一个线程。
如果操作系统不干扰，这允许您测量操作的确切性能。因为在上面的例子中，线程B也可以在程序之外。在这种情况下，一种常见的方法是中置干扰，这将为您提供代码速度的估计。
然而，您可以假设，在一个空闲的多核系统上，会有另一个核心来处理后台任务，因此您的测量通常不会中断。将此线程设置为高优先级也有帮助。

您可以使用一个插入JVM的更复杂的工具来实际测量原子执行和执行时间，这将有效地几乎完全消除外部干扰。一个工具是VisualVM，它已经集成在NetBeans中，并且可以作为Eclipse的插件使用。

作为一般建议：使用比内核更多的线程不是一个好主意，除非你知道那些线程会经常被一些操作阻塞。当使用非阻塞NIO进行IO操作时，情况并非如此，因为没有阻塞。

因此，在您的特殊情况下，您实际上会降低客户机的性能，如上所述，因为在高负载情况下，通信将有50%的时间处于暂停状态。在最坏的情况下，这甚至可能导致客户端运行超时，因为无法保证线程何时实际恢复（除非您明确请求公平调度）。

Answer 2

您还没有指定您的Netty版本，但它听起来像Netty 3。Netty 4现在已经稳定，我建议您尽快更新到它。您已经指定需要超低延迟时间，以及数以万计的客户端和服务。这真的混得不好。与OIO相反，NIO本质上具有合理的潜在性。然而，这里的陷阱是OIO可能无法达到您希望的客户数量。尽管如此，我还是会使用OIO事件循环/工厂，看看它是如何运行的。

我自己有一个TCP服务器，它需要大约30毫秒的localhost来发送和接收并处理几个TCP数据包（从客户端打开一个套接字到服务器关闭它的时间来测量）。如果您确实需要如此低的延迟，我建议您切换到TCP，因为打开连接需要SYN/确认字符垃圾邮件，这将使用您的10ms的很大一部分。

Answer 3

Netty创建运行时。getRuntime（）。默认情况下，availableProcessors（）*2个工作进程。你的情况是16。这意味着您可以同时处理多达16个频道，其他频道将等待，直到您释放ChannelUpstreamHandler。handleUpstream/SimpleChannelHandler。messageReceived处理程序，因此不要在这些（IO）线程中执行繁重的操作，否则可能会阻塞其他通道。