【发布时间】:2013-06-15 12:15:29
【问题描述】:
我对这种减法和求和的工作方式有点困惑:
A = 5
B = 0.1
C = A+B-A
我发现答案是 0.0999999999999999645。为什么答案不是 0.1?
【问题讨论】:
-
尝试搜索浮点数学。
-
浮点运算本质上是不准确的,因为并非所有数字都可以用 32 位或 64 位值表示。每个计算机科学家都应该知道的关于浮点运算的知识:docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html
标签: python