Java JIT 在运行 JDK 代码时会作弊吗？答案

【问题标题】：Does Java JIT cheat when running JDK code?Java JIT 在运行 JDK 代码时会作弊吗？
【发布时间】：2018-02-05 08:10:09
【问题描述】：

我正在对一些代码进行基准测试，但即使使用完全相同的算法，我也无法让它像 java.math.BigInteger 那样快速运行。所以我将java.math.BigInteger源复制到我自己的包中并尝试了这个：

//import java.math.BigInteger;

public class MultiplyTest {
    public static void main(String[] args) {
        Random r = new Random(1);
        long tm = 0, count = 0,result=0;
        for (int i = 0; i < 400000; i++) {
            int s1 = 400, s2 = 400;
            BigInteger a = new BigInteger(s1 * 8, r), b = new BigInteger(s2 * 8, r);
            long tm1 = System.nanoTime();
            BigInteger c = a.multiply(b);
            if (i > 100000) {
                tm += System.nanoTime() - tm1;
                count++;
            }
            result+=c.bitLength();
        }
        System.out.println((tm / count) + "nsec/mul");
        System.out.println(result); 
    }
}

当我运行它（MacOS 上的 jdk 1.8.0_144-b01）时，它会输出：

12089nsec/mul
2559044166

当我在未注释导入行的情况下运行它时：

4098nsec/mul
2559044166

使用 JDK 版本的 BigInteger 几乎是我的版本的三倍，即使它使用完全相同的代码。

我已经使用 javap 检查了字节码，并比较了使用选项运行时的编译器输出：

-Xbatch -XX:-TieredCompilation -XX:+PrintCompilation -XX:+UnlockDiagnosticVMOptions 
-XX:+PrintInlining -XX:CICompilerCount=1

两个版本似乎生成相同的代码。那么热点是否使用了一些我无法在我的代码中使用的预计算优化？我一直都明白他们没有。是什么解释了这种差异？

【问题讨论】：

有趣。 1.结果是否一致（或只是幸运随机）？ 2. JVM 预热后可以试试吗？ 3. 你能消除随机因素并提供相同的数据集作为两个测试的输入吗？
您是否尝试使用 JMH openjdk.java.net/projects/code-tools/jmh 运行您的基准测试？手动正确地进行测量并不容易（热身和所有这些东西）。
是的，它非常一致。如果我让它运行 10 分钟，我仍然会得到相同的差异。固定的随机种子确保两次运行都获得相同的数据集。
您可能仍然想要 JMH，以防万一。您应该将修改后的 BigInteger 放在某个地方，以便人们可以重现您的测试并验证您正在运行您认为正在运行的内容。

标签： java jvm jit jvm-hotspot

【解决方案1】：

是的，HotSpot JVM 有点“作弊”，因为它有一些在 Java 代码中找不到的特殊版本的 BigInteger 方法。这些方法称为JVM intrinsics。

特别是，BigInteger.multiplyToLen 是 HotSpot 中的一种内在方法。在 JVM 源代码库中有一个特殊的hand-coded assembly implementation，但仅适用于 x86-64 架构。

您可以使用 -XX:-UseMultiplyToLenIntrinsic 选项禁用此内在函数，以强制 JVM 使用纯 Java 实现。在这种情况下，性能将与您复制的代码的性能相似。

P.S.这是其他 HotSpot 内部方法的 list。

【讨论】：

为什么用户相同的 java 代码也不能用相同的 instrinsics 代替？内在某种程度上仅适用于 JVM 中的特定方法？
@PresidentJamesK.Polk Java 代码无关紧要。它仅在解释器中使用。内在函数的全部意义在于忽略该方法的 Java 代码，以支持 JVM 内置实现。有一个硬编码的方法名称列表（带有类名称）可以替换。如果你重命名一个类或一个方法，它就不再被内化了。
哇，我不知道我怎么不知道这一点。看着那个方法列表，我终于明白了一些关于 Java 性能的事情，尤其是原子方法。谢谢。

【解决方案2】：

在 Java 8 中，这确实是一个内在方法；该方法的略微修改版本：

 private static BigInteger test() {

    Random r = new Random(1);
    BigInteger c = null;
    for (int i = 0; i < 400000; i++) {
        int s1 = 400, s2 = 400;
        BigInteger a = new BigInteger(s1 * 8, r), b = new BigInteger(s2 * 8, r);
        c = a.multiply(b);
    }
    return c;
}

运行这个：

 java -XX:+UnlockDiagnosticVMOptions  
      -XX:+PrintInlining 
      -XX:+PrintIntrinsics 
      -XX:CICompilerCount=2 
      -XX:+PrintCompilation   
       <YourClassName>

这将打印很多行，其中之一将是：

 java.math.BigInteger::multiplyToLen (216 bytes)   (intrinsic)

另一方面，在 Java 9 中，该方法似乎不再是内在方法，但反过来它又调用了内在方法：

 @HotSpotIntrinsicCandidate
 private static int[] implMultiplyToLen

因此在 Java 9 下运行相同的代码（使用相同的参数）将显示：

java.math.BigInteger::implMultiplyToLen (216 bytes)   (intrinsic)

下面是方法的相同代码 - 只是命名略有不同。

【讨论】：