【发布时间】:2010-11-02 09:42:53
【问题描述】:
一些重复:
1.265 * 10000 = 126499.99999999999 ?????
How is floating point stored? When does it matter?
Strange floating-point behaviour in a Java program
Why do I see a double variable initialized to some value like 21.4 as 21.399999618530273?
Error in Flash addition
我将 23 除以 40 (23/40)。在 C 中,此操作的结果为 0.5749999999999996。但实际上它必须是 0.575!
我该如何解决这个问题?
【问题讨论】:
-
你见过this
-
我们真的需要开始认真考虑禁止更多毫无意义的“浮点不准确”问题:-)
-
在 SO.. 上有无数关于此的问题。
-
如果您真的需要任意精度的算术,请查看gmplib.org
-
我们需要更好的自动化来检测这些常规问题并将提问者引导至现有答案。不要问我怎么做,我不知道。
标签: c visual-studio math