【问题标题】:Unrelated code changes results of calculation不相关的代码更改计算结果
【发布时间】:2018-03-13 14:32:57
【问题描述】:

我们有一些代码在某些机器上会产生意想不到的结果。我把它缩小到一个简单的例子。在下面的 linqpad sn-p 中,方法 GetValGetVal2 具有基本相同的实现,尽管前者还包括对 NaN 的检查。但是,每个返回的结果是不同的(至少在我的机器上)。

void Main()
{
    var x = Double.MinValue;
    var y = Double.MaxValue;
    var diff = y/10 - x/10;

    Console.WriteLine(GetVal(x,6,diff));
    Console.WriteLine(GetVal2(x,6,diff));
}

public static double GetVal(double start, int numSteps, double step)
{
    var res = start + numSteps * step;
    if (res == Double.NaN)
        throw new InvalidOperationException();
    return res;
}

public static double GetVal2(double start, int numSteps, double step)
{
    return start + numSteps * step;
}

结果

3.59538626972463E+307
Infinity

为什么会发生这种情况,有没有一种简单的方法可以避免这种情况?跟寄存器有关系吗?

【问题讨论】:

  • 如果在GetVal 中将var 更改为double 会发生什么?
  • dotnetfiddle.net 上同时运行并获得两倍的无穷大。
  • GetVal()GetVal2() 之间有什么区别,如果您使用 ILSpy 或类似工具反编译程序集?
  • @Kuba - 我认为你是对的。 6 * diff 实际上比Double.MaxValue 大(尽管当添加到Double.MinValue 时,它会回到范围内)。所以我们应该期待Infinity,除非我们暂时获得更高的中间计算精度。
  • 旁注 - res == double.NaN 将始终返回 false。 NaN 根本不是一个数字,很像 sql 空值,这就是它的唯一定义。如果要测试一个double值是否为NaN,则需要使用double.IsNaN(value)。不过,在这种情况下没关系(已经测试过了)。

标签: c# floating-point cpu-registers non-deterministic


【解决方案1】:

您没有指定环境和编译选项,但我已经能够在 32 位发布模式的 .NET Standard 4.8 中重现您的问题

3,59538626972463E+307
∞

32位调试模式下结果是这样的

3,59538626972463E+307
3,59538626972463E+307

在 64 位模式下,结果始终如下所示

∞
∞

这是因为在 32 位 .NET 标准中,浮点运算是使用 80 位扩展浮点格式的 x87 指令完成的。 numSteps * step 不适合 double 并导致无穷大,但在扩展精度下它不会溢出并且最终结果适合 double。在计算表达式时,有时必须将中间值溢出到内存以释放一些寄存器,这会将值转换为double 精度。因此,相同的表达式可能会产生不同的结果。影响结果的另一件事是编译器优化:这里GetVal2 由编译器预先计算,它以double 精度执行所有操作。您可以很容易地看到编译器只是从内存中加载常量结果,而不是在下面的反汇编中调用GetVal2§

这种现象永远不会在 64 位模式下发生,无论是 Debug 还是 Release 以及 .NET Standard 或 .NET Core,因为 64 位中的数学是总是在 SSE 寄存器中完成。它在 .NET Core 中也无法重现,因为 .NET Core 甚至在 32 位中也使用 SSE 寄存器来进行浮点数学运算。您可以通过在 VS 中调试并查看反汇编来轻松检查。这是有道理的,因为 SSE 速度更快,结果更具确定性,而且过去 20 年中几乎所有现代计算机都支持 SSE

要避免这种不确定性功能,最简单的方法是完全避免使用 32 位 x86,或者迁移到更能保证确定性的 .NET Core。否则,您将不得不使用一些 3rd 方库。见


类似的问题还有很多:

FLT_EVAL_METHOD > 1 时在 C 和 C++ 中是同样的问题。


§ 这是我的 cmets 的完整反汇编列表。许多行消失了,因为它们已经被优化了

命名空间 FloatDeterminism { 课堂节目 { 静态无效主要(字符串 [] 参数) { var x = Double.MinValue; 02C40848 55推ebp 02C40849 8B EC 移动 ebp,esp 02C4084B DD 05 90 08 C4 02 fld qword ptr [FloatDeterminism.Program.Main(System.String[])+048h (02C40890h)] # 加载 -1.7976931348623157e+308 02C40851 83 EC 08 子 esp,8 02C40854 DD 1C 24 fstp qword ptr [esp] 02C40857 DD 05 98 08 C4 02 fld qword ptr [FloatDeterminism.Program.Main(System.String[])+050h (02C40898h)] # 加载 3.5953862697246315e+307 02C4085D 83 EC 08 子 esp,8 02C40860 DD 1C 24 fstp qword ptr [esp] 02C40863 B9 06 00 00 00 移动 ecx,6 02C40868 FF 15 60 4D 1C 01 call dword ptr [Pointer to: FloatDeterminism.Program.GetVal(Double, Int32, Double) (011C4D60h)] # Call GetVal() 02C4086E 83 EC 08 子 esp,8 02C40871 DD 1C 24 fstp qword ptr [esp] 02C40874 E8 7F 10 2F 70 call System.Console.WriteLine(Double) (72F318F8h) # Print GetVal() 02C40879 DD 05 A0 08 C4 02 fld qword ptr [FloatDeterminism.Program.Main(System.String[])+058h (02C408A0h)] #加载inf 02C4087F 83 EC 08 子 esp,8 02C40882 DD 1C 24 fstp qword ptr [esp] 02C40885 E8 6E 10 2F 70 call System.Console.WriteLine(Double) (72F318F8h) # Print GetVal2() = inf 02C4088A 5D pop ebp 02C4088B C3 RET Console.WriteLine(GetVal2(x, 6, diff)); 02C4088C 00 00 添加字节 ptr [eax],al 02C4088E 00 00 添加字节 ptr [eax],al 02C40890 FF ?? ??? 02C40891 FF ?? ??? 02C40892 FF ?? ??? 02C40893 FF ?? ??? 02C40894 FF ?? ??? 02C40895 FF ?? ??? Console.WriteLine(GetVal2(x, 6, diff)); 02C40896 EF 输出 dx,eax 02C40897 FF 99 99 99 99 99 调用 fword ptr [ecx-66666667h] 02C4089D 99 cdq 02C4089E C9 离开 02C4089F 7F 00 jg FloatDeterminism.Program.Main(System.String[])+059h (02C408A1h) 02C408A1 00 00 添加字节 ptr [eax],al 02C408A3 00 00 添加字节 ptr [eax],al 02C408A5 00 F0 添加 al,dh 02C408A7 7F 20 jg FloatDeterminism.Program.GetVal(Double, Int32, Double)+011h (02C408C9h) 02C408A9 13 1C 01 adc ebx,dword ptr [ecx+eax] 02C408AC 00 00 添加字节 ptr [eax],al 02C408AE 00 00 添加字节 ptr [eax],al 02C408B0 14 13 ADC al,13h 02C408B2 1C 01 sbb al,1 02C408B4 58 流行音乐 02C408B5 4D dec ebp 02C408B6 1C 01 sbb al,1 public static double GetVal(double start, int numSteps, double step) { var res = start + numSteps * step; 02C408B8 56推esi 02C408B9 50推eax 02C408BA 89 0C 24 mov dword ptr [esp],ecx 02C408BD DB 04 24 字段 dword ptr [esp] 02C408C0 DC 4C 24 0C fmul qword ptr [esp+0Ch] 02C408C4 DC 44 24 14 fadd qword ptr [esp+14h] 02C408C8 DD 05 00 09 C4 02 fld qword ptr [FloatDeterminism.Program.GetVal(Double, Int32, Double)+048h (02C40900h)] 02C408CE DF F1 fcomip st,st(1) # 检查 NaN 02C408D0 7A 06 jp FloatDeterminism.Program.GetVal(Double, Int32, Double)+020h (02C408D8h) 02C408D2 75 04 jne FloatDeterminism.Program.GetVal(Double, Int32, Double)+020h (02C408D8h) 02C408D4 DD D8 fstp st(0) 02C408D6 EB 05 jmp FloatDeterminism.Program.GetVal(Double, Int32, Double)+025h (02C408DDh) 02C408D8 59 流行音乐 02C408D9 5E 流行音乐 02C408DA C2 10 00 恢复 10h 02C408DD B9 74 D6 3F 72 移动 ecx,723FD674h 02C408E2 E8 0D 28 57 FE 调用 CORINFO_HELP_NEWSFAST (011B30F4h) 02C408E7 8B F0 移动 esi,eax 02C408E9 8B CE mov ecx,esi 抛出新的 InvalidOperationException(); 02C408EB FF 15 AC D6 3F 72 调用 dword ptr [指向:System.InvalidOperationException..ctor() (723FD6ACh)] 02C408F1 8B CE mov ecx,esi 02C408F3 E8 88 2D 9D 71 致电74613680 02C408F8 CC 诠释 3 02C408F9 CC 诠释 3

【讨论】:

    猜你喜欢
    • 2017-06-24
    • 2021-04-06
    • 1970-01-01
    • 1970-01-01
    • 2018-02-13
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多