【问题标题】:JIT not optimizing loop that involves Integer.MAX_VALUEJIT 未优化涉及 Integer.MAX_VALUE 的循环
【发布时间】:2014-10-09 04:28:51
【问题描述】:

在写another question 的答案时,我注意到 JIT 优化的一个奇怪的边界情况。

以下程序不是“微基准”并且不是旨在可靠地测量执行时间(如另一个问题的答案中所指出的)。它仅用作MCVE 来重现该问题:

class MissedLoopOptimization
{
    public static void main(String args[])
    {
        for (int j=0; j<3; j++)
        {
            for (int i=0; i<5; i++)
            {
                long before = System.nanoTime();
                runWithMaxValue();
                long after = System.nanoTime();
                System.out.println("With MAX_VALUE   : "+(after-before)/1e6);
            }
            for (int i=0; i<5; i++)
            {
                long before = System.nanoTime();
                runWithMaxValueMinusOne();
                long after = System.nanoTime();
                System.out.println("With MAX_VALUE-1 : "+(after-before)/1e6);
            }
        }
    }

    private static void runWithMaxValue()
    {
        final int n = Integer.MAX_VALUE;
        int i = 0;
        while (i++ < n) {}
    }

    private static void runWithMaxValueMinusOne()
    {
        final int n = Integer.MAX_VALUE-1;
        int i = 0;
        while (i++ < n) {}
    }
}

它基本上运行相同的循环while (i++ &lt; n){},其中限制n 一次设置为Integer.MAX_VALUE,一次设置为Integer.MAX_VALUE-1

当使用 JDK 1.7.0_21 和

在 Win7/64 上执行此操作时
java -server MissedLoopOptimization

计时结果如下:

...
With MAX_VALUE   : 1285.227081
With MAX_VALUE   : 1274.36311
With MAX_VALUE   : 1282.992203
With MAX_VALUE   : 1292.88246
With MAX_VALUE   : 1280.788994
With MAX_VALUE-1 : 6.96E-4
With MAX_VALUE-1 : 3.48E-4
With MAX_VALUE-1 : 0.0
With MAX_VALUE-1 : 0.0
With MAX_VALUE-1 : 3.48E-4

显然,对于MAX_VALUE-1 的情况,JIT 做了人们可以预料到的事情:它检测到循环是无用的,并完全消除它。但是,当循环运行到MAX_VALUE 时,它确实删除循环。

java -server -XX:+UnlockDiagnosticVMOptions -XX:+TraceClassLoading -XX:+LogCompilation -XX:+PrintAssembly MissedLoopOptimization

日志包含运行到MAX_VALUE 的方法的以下程序集:

Decoding compiled method 0x000000000254fa10:
Code:
[Entry Point]
[Verified Entry Point]
[Constants]
  # {method} &apos;runWithMaxValue&apos; &apos;()V&apos; in &apos;MissedLoopOptimization&apos;
  #           [sp+0x20]  (sp of caller)
  0x000000000254fb40: sub    $0x18,%rsp
  0x000000000254fb47: mov    %rbp,0x10(%rsp)    ;*synchronization entry
                                                ; - MissedLoopOptimization::runWithMaxValue@-1 (line 29)
  0x000000000254fb4c: mov    $0x1,%r11d
  0x000000000254fb52: jmp    0x000000000254fb63
  0x000000000254fb54: nopl   0x0(%rax,%rax,1)
  0x000000000254fb5c: data32 data32 xchg %ax,%ax
  0x000000000254fb60: inc    %r11d              ; OopMap{off=35}
                                                ;*goto
                                                ; - MissedLoopOptimization::runWithMaxValue@11 (line 30)
  0x000000000254fb63: test   %eax,-0x241fb69(%rip)        # 0x0000000000130000
                                                ;*goto
                                                ; - MissedLoopOptimization::runWithMaxValue@11 (line 30)
                                                ;   {poll}
  0x000000000254fb69: cmp    $0x7fffffff,%r11d
  0x000000000254fb70: jl     0x000000000254fb60  ;*if_icmpge
                                                ; - MissedLoopOptimization::runWithMaxValue@8 (line 30)
  0x000000000254fb72: add    $0x10,%rsp
  0x000000000254fb76: pop    %rbp
  0x000000000254fb77: test   %eax,-0x241fb7d(%rip)        # 0x0000000000130000
                                                ;   {poll_return}
  0x000000000254fb7d: retq   
  0x000000000254fb7e: hlt    
  0x000000000254fb7f: hlt    
[Exception Handler]
[Stub Code]
  0x000000000254fb80: jmpq   0x000000000254e820  ;   {no_reloc}
[Deopt Handler Code]
  0x000000000254fb85: callq  0x000000000254fb8a
  0x000000000254fb8a: subq   $0x5,(%rsp)
  0x000000000254fb8f: jmpq   0x0000000002528d00  ;   {runtime_call}
  0x000000000254fb94: hlt    
  0x000000000254fb95: hlt    
  0x000000000254fb96: hlt    
  0x000000000254fb97: hlt    

可以清楚地看到循环,与0x7fffffff 进行比较并跳转回inc。与此相反,它运行到MAX_VALUE-1 的情况下的程序集:

Decoding compiled method 0x000000000254f650:
Code:
[Entry Point]
[Verified Entry Point]
[Constants]
  # {method} &apos;runWithMaxValueMinusOne&apos; &apos;()V&apos; in &apos;MissedLoopOptimization&apos;
  #           [sp+0x20]  (sp of caller)
  0x000000000254f780: sub    $0x18,%rsp
  0x000000000254f787: mov    %rbp,0x10(%rsp)    ;*synchronization entry
                                                ; - MissedLoopOptimization::runWithMaxValueMinusOne@-1 (line 36)
  0x000000000254f78c: add    $0x10,%rsp
  0x000000000254f790: pop    %rbp
  0x000000000254f791: test   %eax,-0x241f797(%rip)        # 0x0000000000130000
                                                ;   {poll_return}
  0x000000000254f797: retq   
  0x000000000254f798: hlt    
  0x000000000254f799: hlt    
  0x000000000254f79a: hlt    
  0x000000000254f79b: hlt    
  0x000000000254f79c: hlt    
  0x000000000254f79d: hlt    
  0x000000000254f79e: hlt    
  0x000000000254f79f: hlt    
[Exception Handler]
[Stub Code]
  0x000000000254f7a0: jmpq   0x000000000254e820  ;   {no_reloc}
[Deopt Handler Code]
  0x000000000254f7a5: callq  0x000000000254f7aa
  0x000000000254f7aa: subq   $0x5,(%rsp)
  0x000000000254f7af: jmpq   0x0000000002528d00  ;   {runtime_call}
  0x000000000254f7b4: hlt    
  0x000000000254f7b5: hlt    
  0x000000000254f7b6: hlt    
  0x000000000254f7b7: hlt    

所以我的问题是:Integer.MAX_VALUE 有什么特别之处会阻止 JIT 以与 Integer.MAX_VALUE-1 相同的方式对其进行优化?我的猜测是这与 cmp 指令有关,该指令用于 signed 算术,但这本身并不是一个令人信服的理由。谁能解释一下,甚至可以指出处理这种情况的 OpenJDK HotSpot 代码?

(旁白:我希望答案也能解释另一个问题中要求的i++++i 之间的不同行为,假设缺少优化的原因是(显然)实际上是由Integer.MAX_VALUE循环限制引起的)

【问题讨论】:

  • 我想知道如果你这样做while (++i &lt;= n) {}会是什么输出
  • @Volune 实际上,我尝试了不同的配置,如i++&lt;n++i&lt;ni++&lt;=nn&lt;=++i 等,但没有系统地比较和记录all 可能的配置,以保持实际问题清晰。

标签: java compiler-optimization jit jvm-hotspot


【解决方案1】:

我还没有挖掘 Java 语言规范,但我猜它与这种差异有关:

  • i++ &lt; (Integer.MAX_VALUE - 1) 永远不会溢出。一旦i 达到Integer.MAX_VALUE - 1,它就会递增到Integer.MAX_VALUE,然后循环终止。

  • i++ &lt; Integer.MAX_VALUE 包含整数溢出。一旦i 达到Integer.MAX_VALUE,它就会加一,导致溢出,然后循环终止。

我假设 JIT 编译器“不愿意”优化具有这种角落条件的循环 - 有一个 whole bunch of bugs w.r.t.整数溢出条件下的循环优化,因此很可能不情愿。

可能还有一些硬性要求不允许优化整数溢出,尽管我有点怀疑,因为整数溢出在 Java 中不能直接检测或以其他方式处理。

【讨论】:

  • 我现在找不到参考,但是 JLS 确实有类似于 C++ 的“as-if”规则的东西,所以 JIT 有权进行优化(没有办法Java 来通知操作是否溢出,例如检查标志)。但显然,当可能溢出时允许优化会打开一大堆蠕虫,所以是的,这也是我的猜测。
  • JLS 可能不会包含这样的信息,因为它主要是 JIT 的问题。防止溢出的想法符合我的假设,即它可能与签名的cmp 指令有关,但仍然想知道为什么这似乎会导致如此完全不同的行为。
  • @Marco 我的猜测是溢出在持续传播期间会导致一些警告标志。 HotSpot 使用the following algorithm,但我从未研究过细节。
  • @Voo:有一个完整的bunch of bugs w.r.t。整数前段时间溢出...
  • 即使一个循环什么都不做,优化器在删除它时必须小心,因为它必须在消除它之前证明循环不是无限的。当循环条件中涉及的变量可能溢出时,这显然要困难得多。
猜你喜欢
  • 2021-01-27
  • 1970-01-01
  • 2019-05-31
  • 2020-10-19
  • 1970-01-01
  • 2019-05-29
  • 1970-01-01
  • 2018-06-25
相关资源
最近更新 更多