为什么getSum没有被热点jvm内联？

Question

以下是我尝试从" 逃避分析 "主题的Java Performance:The Definitive Guide,第97页重现的示例.这可能是应该发生的事情:

1. getSum()必须变得足够热并且使用适当的JVM参数必须将其内联到调用者中main().
2. 由于两者list和sum变量都没有从main()方法中转义,因此可以将它们标记为,NoEscape因此JVM可以使用堆栈分配而不是堆分配.

但是我通过jitwatch运行它,结果显示getSum()编译成本机程序集并且没有内联main().更不用说因此堆栈分配也没有发生.

我在这里做错了什么？(我已将整个代码和热点日志放在这里.)

这是代码:

import java.math.BigInteger;
import java.util.ArrayList;
import java.util.stream.IntStream;

public class EscapeAnalysisTest {

    private static class Sum {

        private BigInteger sum;
        private int n;

        Sum(int n) {
            this.n = n;
        }

        synchronized final BigInteger getSum() {
            if (sum == null) {
                sum = BigInteger.ZERO;
                for (int i = 0; i < n; i++) {
                    sum = sum.add(BigInteger.valueOf(i));
                }
            }
            return sum;
        }

    }

    public static void main(String[] args) {
        ArrayList<BigInteger> list = new ArrayList<>();
        for (int i = 1; i < 1000; i++) {
            Sum sum = new Sum(i);
            list.add(sum.getSum());
        }
        System.out.println(list.get(list.size() - 1));
    }

}

我使用的JVM参数:

-server
-verbose:gc
-XX:+UnlockDiagnosticVMOptions
-XX:+TraceClassLoading
-XX:MaxInlineSize=60
-XX:+PrintAssembly
-XX:+LogCompilation

Answer 1

为了知道为什么某些东西被内联了，你可以在编译日志中查看inline_success和inline_fail标签。

但是，即使要内联某些内容，也必须编译调用者，在您的情况下，您希望在main方法中进行内联，因此发生这种情况的唯一方法是堆栈上替换 (OSR)。查看您的日志，您可以看到一些 OSR 编译，但没有任何main方法：您的main方法中根本没有足够的工作。

您可以通过增加for循环的迭代次数来解决这个问题。通过将它增加到100_000，我得到了第一个 OSR 编译。

对于这样一个小例子，-XX:+PrintCompilation -XX:+PrintInlining而不是整个LogCompilation输出，我看到了：

@ 27   EscapeAnalysisTest$Sum::getSum (51 bytes)   inlining prohibited by policy

这不是很有帮助……但是查看 HotSpot 源代码会发现这可能是因为一项策略阻止了 C1 编译到已由 C2 编译的 OSR 内联方法。在任何情况下，查看 C1 编译完成的内联都不是那么有趣。

添加更多的循环迭代（1_000_000在参数上使用模数Sum以减少运行时间）使我们的 C2 OSR 为main：

@31   EscapeAnalysisTest$Sum::getSum (51 bytes)   already compiled into a big method  

C2 策略的那部分相当自我描述，并由InlineSmallCode标志控制：-XX:InlineSmallCode=4k告诉 HotSpot “大方法”的阈值是 4kB 的本机代码。在我的机器上足以getSum内联：

  14206   45 %     4       EscapeAnalysisTest::main @ 10 (61 bytes)
                              @ 25   EscapeAnalysisTest$Sum::<init> (10 bytes)   inline (hot)
                                @ 1   java.lang.Object::<init> (1 bytes)   inline (hot)
              s               @ 31   EscapeAnalysisTest$Sum::getSum (51 bytes)   inline (hot)
                                @ 31   java.math.BigInteger::valueOf (62 bytes)   inline (hot)
                                  @ 58   java.math.BigInteger::<init> (77 bytes)   inline (hot)
                                    @ 1   java.lang.Number::<init> (5 bytes)   inline (hot)
                                      @ 1   java.lang.Object::<init> (1 bytes)   inline (hot)
                                @ 34   java.math.BigInteger::add (123 bytes)   inline (hot)
                                  @ 41   java.math.BigInteger::add (215 bytes)   inline (hot)
                                  @ 48   java.math.BigInteger::<init> (38 bytes)   inline (hot)
                                    @ 1   java.lang.Number::<init> (5 bytes)   inline (hot)
                                      @ 1   java.lang.Object::<init> (1 bytes)   inline (hot)
                              @ 34   java.util.ArrayList::add (29 bytes)   inline (hot)
                                @ 7   java.util.ArrayList::ensureCapacityInternal (13 bytes)   inline (hot)
                                  @ 6   java.util.ArrayList::calculateCapacity (16 bytes)   inline (hot)
                                  @ 9   java.util.ArrayList::ensureExplicitCapacity (26 bytes)   inline (hot)
                                    @ 22   java.util.ArrayList::grow (45 bytes)   too big

（请注意，我从未使用过MaxInlineSize）

作为参考，这里是修改后的循环：

for (int i = 1; i < 1_000_000; i++) {
  Sum sum = new Sum(i % 10_000);
  list.add(sum.getSum());
}