了解jvm中的循环性能

Question

我在玩jmh，在关于循环的部分，他们说

您可能会注意到重复次数越多，被测量操作的“感知”成本就越低。到目前为止，我们每次添加都使用1/20 ns，远远超出了硬件的实际能力。发生这种情况是因为循环被大量展开/流水线化，并且要测量的操作是从循环中提升的。士气：不要过度使用循环，依靠JMH来获得正确的测量。

我自己也试过了

    @Benchmark
    @OperationsPerInvocation(1)
    public int measurewrong_1() {
        return reps(1);
    }      

    @Benchmark
    @OperationsPerInvocation(1000)
    public int measurewrong_1000() {
        return reps(1000);
    }      

并得到以下结果：

Benchmark                      Mode  Cnt  Score    Error  Units
MyBenchmark.measurewrong_1     avgt   15  2.425 ±  0.137  ns/op
MyBenchmark.measurewrong_1000  avgt   15  0.036 ±  0.001  ns/op

它确实显示了MyBenchmark。MeasureError\u 1000大大快于MyBenchmark。测量错误\u 1。但我无法真正理解JVM为提高性能所做的优化。

循环展开/流水线是什么意思？

Answer 1

循环流水线=软件流水线。

基本上，它是一种用于优化顺序循环迭代效率的技术，通过并行执行循环体中的一些指令。

当然，只有在满足某些条件时才能做到这一点，例如每次迭代不依赖于另一次迭代等。

来自insidehpc.com：

软件管道，实际上与硬件管道无关，是一种循环优化技术，用于使迭代中的语句相互独立。其目标是消除依赖关系，以便看似连续的指令可以并行执行。

在这里查看更多信息：

>

软件流水线-维基百科

Answer 2

循环展开是一种通过重复循环体来展平多个循环迭代的技术
例如，在给定示例中

    for (int i = 0; i < reps; i++) {
        s += (x + y);
    }

JIT编译器可以将其展开为

    for (int i = 0; i < reps - 15; i += 16) {
        s += (x + y);
        s += (x + y);
        // ... 16 times ...
        s += (x + y);
    }

然后可以进一步优化扩展环体，以

    for (int i = 0; i < reps - 15; i += 16) {
        s += 16 * (x + y);
    }

显然计算16*（x y）比计算（x y）快得多16倍。

Answer 3

循环展开使流水线成为可能。因此，可流水线CPU（例如RISC）可以并行执行展开的代码。

因此，如果您的CPU能够并行执行5个管道，您的循环将以以下方式展开：

// pseudo code
int pipelines = 5;
for(int i = 0; i < length; i += pipelines){
    s += (x + y);
    s += (x + y);
    s += (x + y);
    s += (x + y);
    s += (x + y);
}

IF=指令提取，ID=指令解码，EX=执行，MEM=内存访问，WB=寄存器写回

来自Oracle白皮书：

... 支持更快循环执行的标准编译器优化。循环展开增加了循环体的大小，同时减少了迭代次数。循环展开还可以提高其他优化的效率。

有关流水线的更多信息：经典RISC管道