JVM为什么需要预热？

甘兴学

2023-03-14

问题内容：

我知道在Java虚拟机（JVM）中，由于Java使用惰性加载过程加载类，因此可能需要进行预热，因此您要确保在启动主事务之前初始化对象。我是C
++开发人员，不必处理类似的要求。

但是，我无法理解的部分如下：

考虑一个示例，该应用程序期望通过套接字接收消息，并且交易可以是“新订单”，“修改订单”和“取消订单”或已确认交易。

请注意，该应用程序是关于高频交易（HFT）的，因此性能至关重要。

问题答案：

您应该预热代码的哪一部分？

通常，您无需执行任何操作。但是，对于低延迟的应用程序，应预热系统中的关键路径。您应该有单元测试，所以我建议您在启动时运行它们以预热代码。

即使对代码进行了预热，也必须确保CPU缓存也保持预热。在执行阻塞操作（例如，网络IO）长达50微秒后，您会发现性能显着下降。通常这不是问题，但是如果您大部分时间都试图保持在50微秒以下，那么大多数情况下就会出现问题。

注意：预热可以允许Escape Analysis插入并在堆栈中放置一些对象。这意味着不需要优化这些对象。最好在优化代码之前先对应用程序进行内存分析。

即使我对代码的某些部分进行了预热，它也会保持多长时间（假设此术语仅意味着您的类对象在内存中保留了多长时间）？

没有时间限制。这取决于JIt是否检测到优化代码时所做的假设是否不正确。

如果每次收到事件都需要创建对象时，它有什么帮助？

如果您想要低延迟或高性能，则应创建尽可能少的对象。我的目标是产生小于300 KB
/秒的速度。使用此分配速率，您可以拥有足够大的伊甸园空间，每天可以收集一次。

考虑一个示例，该应用程序期望通过套接字接收消息，并且交易可以是“新订单”，“修改订单”和“取消订单”或已确认交易。

我建议您尽可能多地重用对象，尽管如果它在您的分配预算之内，则不必担心。

请注意，该应用程序是关于高频交易（HFT）的，因此性能至关重要。

您可能对我们的开源软件感兴趣，该软件可用于不同投资银行和对冲基金的HFT系统。

http://chronicle.software/

我的生产应用程序用于高频交易，每时每刻的延迟都是一个问题。很明显，在启动时，如果不对应用程序进行预热，将导致几毫秒的高延迟。

特别是您可能会对https://github.com/OpenHFT/Java-Thread-
Affinity
感兴趣，因为此库可以帮助减少关键线程中的调度抖动。

而且据说需要预热的代码的关键部分（带有假消息）应至少运行12K次，以使其以优化的方式工作。为什么以及如何运作？

使用后台线程编译代码。这意味着，即使某个方法可能符合编译为本机代码的条件，但这并不意味着它在编译器已经非常忙的情况下已经在启动时这样做了。12K并非没有道理，但可能更高。