【发布时间】:2011-11-26 18:14:47
【问题描述】:
当我做这个乘法时
0.94 * 8700
输出是
8177.999999999999
但应该是这样的
8178
我正在使用 java ,但我认为此错误与特定的编程语言无关
现在我的问题是……为什么会这样??
还有哪些其他数字(仅作为示例)会导致相同的错误?
【问题讨论】:
-
以下是浮点工作原理的一个很好的概述:download.oracle.com/docs/cd/E19957-01/806-3568/…
-
en.wikipedia.org/wiki/Floating_point#Accuracy_problems 世界上有10种人:懂二进制的和不懂二进制的。
标签: floating-point floating-accuracy double-precision