【问题标题】:How can 0.2 + 0.1 be equal to 0.3 in Excel?0.2 + 0.1 如何在 Excel 中等于 0.3?
【发布时间】:2020-02-15 12:41:45
【问题描述】:

我完全理解为什么 0.1 + 0.2 由于浮点数不等于 0.3。在大多数编程语言中,0.1 + 0.2 == 0.3False

但在 Excel 中 if(0.1 + 0.2 == 0.3; 1; 0) 给出 1

【问题讨论】:

标签: excel floating-point


【解决方案1】:

在 Excel 中发生这种情况的原因是 Excel 仅跟踪 15 位精度。 0.2 + 0.1 的浮点数学运算结果为0.30000000000000004,而 4 位是第 17 位。这意味着 Excel 只会截断第 15 个 0 之后的所有内容,并留下 0.300000000000000 which = 0.3

查看这里了解更多信息:https://en.wikipedia.org/wiki/Numeric_precision_in_Microsoft_Excel

【讨论】:

猜你喜欢
  • 2021-11-04
  • 2020-10-24
  • 2011-10-16
  • 1970-01-01
  • 1970-01-01
  • 2013-03-10
  • 2014-05-05
  • 1970-01-01
  • 2012-01-26
相关资源
最近更新 更多