带有clang -O3优化的ARM（Apple M1）上的模运算错误结果

Question

在过去的几天里，我一直在用这段“无害”的代码（最小的可重现示例，更大的模乘例程的一部分）：

#include <iostream>
#include <limits>

using ubigint = unsigned long long int;
using bigint = long long int;

void modmul(bigint a, bigint b, ubigint p) {
    ubigint ua = a < 0 ? -a : a;
    ubigint ub = b < 0 ? -b : b;

    ua %= p;
    ub %= p;

    std::cout << "ua: " << ua << '\n';
}

int main() {
    bigint minbigint = std::numeric_limits<bigint>::min();
    bigint maxbigint = std::numeric_limits<bigint>::max();
    std::cout << "minbigint: " << minbigint << '\n';
    std::cout << "maxbigint:  " << maxbigint << '\n';

    modmul(minbigint, maxbigint, 2314); // expect ua: 2036, got ua: 0
}

我正在使用从 Homebrew 安装的 clang 12.0 在 macOS 11.4 上进行编译

clang version 12.0.0 
Target: arm64-apple-darwin20.5.0 
Thread model:posix 
InstalledDir: /opt/homebrew/opt/llvm/bin

当使用clang -O1 编译时，程序会输出预期的结果（在本例中，2036，我使用Wolfram Mathematica、Mod[9223372036854775808, 2314] 进行了检查，这是正确的）。但是，当我使用clang -O2 或clang -O3（完全优化）编译时，不知何故变量ua 被清零（它的值变为0）。我在这里完全不知所措，不知道为什么会发生这种情况。 IMO，这段代码中没有UB，也没有溢出或任何可疑的东西。非常感谢任何建议，或者您是否可以在您身边重现该问题。

PS：代码在任何其他平台（包括 Windows/Linux/FreeBSD/Solaris）上的行为都符合预期，可以使用任何编译器组合。我只在带有 clang 12 的 Apple M1 上收到此错误（未在 M1 上使用其他编译器进行测试）。

Answer 1

更新：正如@harold 在评论部分指出的那样，negq 和 subq 从 0 开始是完全一样的。所以我下面关于negq 和subq 的讨论是不正确的。请忽略该部分，抱歉在发布答案之前没有仔细检查。

关于原来的问题，我重新编译了一个稍微简单一点的代码godbolt，发现有问题的编译器优化在main而不是modmul。在main 中，clang 看到modmul 的所有操作数都是常量，因此它决定在编译时计算modmul。在计算ubigint ua = a < 0 ? -a : a; 时，clang 发现这是有符号整数溢出 UB，所以它决定返回 0 并打印出来。这似乎是一件激进的事情，但由于 UB，它是合法的。此外，由于二进制补码系统的限制，没有数学上正确的答案，因此返回 0 可以说与任何其他结果一样好（或一样坏）。

---

以下是旧答案

正如评论部分中有人指出的那样，您代码中的以下 2 行是未定义的行为 - 有符号整数溢出 UB。

    ubigint ua = a < 0 ? -a : a;
    ubigint ub = b < 0 ? -b : b;

如果您想知道 clang 在 2 个不同优化级别产生 2 个不同结果的幕后究竟是什么，请考虑一个简单的示例，如下所示。

using ubigint = unsigned long long int;
using bigint = long long int;

ubigint
negate(bigint a)
{
    ubigint ua = -a;
    return ua;
}

使用 -O0 编译时

negate(long long):                             # @negate(long long)
        pushq   %rbp
        movq    %rsp, %rbp
        movq    %rdi, -8(%rbp)
        xorl    %eax, %eax
        subq    -8(%rbp), %rax  # Negation is performed here
        movq    %rax, -16(%rbp)
        movq    -16(%rbp), %rax
        popq    %rbp
        retq

使用 -O3 编译

negate(long long):                             # @negate(long long)
        movq    %rdi, %rax
        negq    %rax  # Negation is performed here
        retq

在 -O0 处，clang 使用普通的 subq 指令执行 0 和 %rax 的二进制减法并产生具有整数环绕行为的结果。

在 -O3 处，clang 可以做得更好，它使用 negq 指令，该指令仅用其二进制补码替换操作数（即翻转所有位并加 1）。但是，您可以看到这种优化仅在有符号整数溢出是未定义行为时才合法（因此编译器可以忽略溢出情况）。如果标准要求整数环绕行为，clang 必须回退到未优化的版本。