对于简单的公式，Excel 给出了 False 而不是 True

Question

我偶然发现了一个从未遇到过的 Excel 2013 问题。

简而言之，我有一列（= 我的特定工作表的 V），它根据两个完全匹配的数字（即没有舍入错误）返回 0 或 1。这是对我工作的简单错误检查。

在单元格 F31 中，我有 = 0.1（手动输入）。在单元格 M31、L31 和 J31 中，我分别有 4.5、0.0 和 4.4。单元格 Q31 中的公式是 Q31 = M31 - L31 - J31。这是 4.5 - 0.0 - 4.4 = 0.1。这些数字都不是来自其他公式。应该没有舍入误差。

现在，在 V31 列中，我有 If(Q31=F31,0,1)。毫无疑问，0.1 [F31] = 0.1 [Q31]，但是V中的返回值是1。这没有意义！

如果我输入其他值以使 Q31 不 = 0.1 但 F31 = Q31，则返回值应为 0（或 Q31 = F31）。例如，我可以将 F31 更改为 0.2，将 L31 更改为 4.3，这样 0.2 = 0.2 基于 4.5 - 0.0 - 4.3。这工作正常。

0.1 怎么了？

非常感谢！ 埃里克

Answer 1

浮点数“几乎从不”相等。这是由于浮点运算和精度。

并非所有十进制数都有精确的浮点表示。您手动输入的值必须由 Excel 替换为 最接近 浮点表示。此外，计算得出的值会被处理器的浮点单元替换为最接近的值。

比较浮点数时，请使用一些“epsilon”容差。为您的V31 公式使用类似的内容：

=IF(ABS(Q31-F31) < 1e-10, 0, 1)

这将两个数字进行比较，直到第 10 位小数。

为了灵活性，您可以在名称管理器中为公差常数定义一个“名称”，即“TOL”，这样您就可以在一处更改它而无需编辑公式。

=IF(ABS(Q31-F31) < TOL, 0, 1)

公差的选择取决于您的应用程序。1e-10 在许多情况下是一个不错的选择。