协议缓冲区首次使用高延迟

Question

在我们的一个java应用程序中，我们有很多协议缓冲区类，jar本质上公开了一个接口和另一个应用程序使用的一种方法。我们注意到第一次调用这个方法的调用时间相当高（

这一点在另一个应用程序中得到进一步证实，该应用程序的工作方式完全不同，但也使用协议缓冲区，表现出相同的行为。此外，我们还尝试创建一个虚拟实例（XY.newBuilder（）。所有proto buffer类在启动时的build（））以及我们添加的每个proto buffer类，我们都可以注意到第一次调用丢弃的开销。

在里面NET我可以找到另一个显示类似问题的问题（为什么ProtoBuf在第一次调用时速度很慢，但在循环内速度很快？），然而，那里的解决方案似乎是针对具有预编译序列化程序的C语言的。到目前为止，我在Java中找不到相同的问题。是否有类似于上述问题中所示的适用于java的变通方法？

Answer 1

JVM附带了实时（JIT）编译器，它可以对代码进行大量优化。如果您想进一步了解JVM的内部结构，可以深入了解它。将有类加载和卸载、性能概要文件、代码编译和反编译、偏置锁定等。

为了给您一个这样做有多复杂的示例，根据本文，在OpenJDK中有两个编译器（C1和C2），有五个可能的代码编译层：

分层编译有五层优化。它从第0层（解释器层）开始，在该层中，插装提供了有关性能关键方法的信息。很快，第1层即简单的C1（客户机）编译器对代码进行了优化。在第1层，没有分析信息。接下来是第2层，其中只编译了几个方法（同样由客户机编译器编译）。在第2层，对于这几个方法，将为入口计数器和环回分支收集分析信息。然后，Tier 3将看到所有方法都由客户机编译器编译，并提供完整的分析信息，最后Tier 4将利用服务器编译器C2。

这里的要点是，如果您需要可预测的性能，那么您应该始终在每次部署后运行一些虚拟请求来预热代码。

您使用虚拟代码创建所有使用的原型对象是正确的，但您应该更进一步并预热您正在使用的实际方法。