【问题标题】:General floating-point maths query一般浮点数学查询
【发布时间】:2014-02-24 18:20:14
【问题描述】:

好吧,我知道有些数字不能用二进制正确表示,就像 1/3 不能完全用十进制表示一样。

那么当我 console.log(0.3) 时它返回 0.3 是怎么回事 但是当我 console.log(0.1 + 0.2) 它返回 0.30000000000000004

当简单地输出 0.3 而当加法发生时,它为什么会解释错误(如果它甚至是)?

【问题讨论】:

  • 移除了 [python] 标记,因为它是 JavaScript 数字显示所特有的。
  • @Wooble 实际上 Python 表现出相同的行为,即使在最近的一次更改中隐藏了许多浮点数显示中的小错误。
  • 好吧,repr 可以。 str 没有。
  • 要自己查看得到的答案,请尝试强制系统以比默认值更高的精度表示数字。例如,尝试(在 Python 中){:.20f}".format(0.1)
  • @Wooble 在最近的版本中,两者都使用新算法。

标签: javascript math floating-point-precision


【解决方案1】:

0.1 和 0.2 的内部表示中的不准确之处非常小,以至于 Javascript 打印机在打印这些数字时会忽略它们。但是当你把它们加在一起时,不准确就会累积起来,这足以在打印结果时显示出来。

【讨论】:

    【解决方案2】:

    假设我们近似十进制的 1/3 和 2/3。

    1/3 = 0.333
    2/3 = 0.667
    

    我们添加 1/3+1/3:

    1/3+1/3 = 0.333 + 0.333 = 0.666
    

    我们没有得到 2/3 的近似值。将 1/3 舍入为我们可以用十进制表示的值并不会产生等于我们舍入 2/3 时得到的数字的一半。

    同样的事情发生在二进制文件中。我们将 0.1 和 0.2 舍入为可以用二进制表示的数字,但近似值的总和与我们近似 0.3 时得到的值略有不同。我们得到了一些更高的东西,结果显示为0.30000000000000004。

    【讨论】:

    • 在一个易于识别的平行线中很好地解释了
    【解决方案3】:

    正如您所说,以 10 为底,您无法准确描述分数 1/3。同样,在基数 2 中,您无法准确描述某些其他分数。因此,当计算机添加 0.1 和 0.2 时,它实际上添加了 0.10000000001 和 0.20000000003 之类的东西。

    【讨论】:

    • 但这并不能解释为什么console.log(0.1) 显示0.1 而不是0.10000000001
    • 当您只想向console.log 发送内容时,不涉及任何算术运算。当您添加两个浮点数时,就会出现不准确性。
    • 当它把0.1解析成一个浮点数时产生的不准确怎么办,它的内部值类似于0.1000000001`。
    • @danmullen:向console.log 发送内容涉及算术。该值必须经过格式化,包括从double 到十进制数字的转换。这涉及到相当多的算术。并且存在不准确之处:当 double 值 0.299999999999999988897769753748434595763683319091796875 被打印时,会产生“.3”。所以打印的转换引入了错误。
    • 已接受,但从您的示例中我猜想,当仅打印一个数字时,可能会涉及一些舍入。当您添加浮点数(或对其进行其他算术运算)时,它们内部表示方式的不准确性会产生累积效应。
    【解决方案4】:

    Java 打印浮点数的方式是您所看到的行为的一个重要部分:默认情况下,Java 不会打印浮点数的确切值。它只打印足够的数字来精确识别正在打印的double。

    因此,如果将x 设置为.3,则x 实际上设置为0.299999999999999988897769753748434595763683319091796875。当 Java 打印这个时,它只打印“.3”,因为将“.3”转换为 double 会产生 x 的值,即 0.2999999999999999988897769753748434595763683319091796875。

    [P >>>>>>>>>>>>>>>添加时(double 格式),结果为 0.3000000000000000444089209850062616169452667236328125。

    当您打印此值时,Java 会打印“0.30000000000000004”,因为它需要显示所有这些数字才能生成一个数字,当转换回 double 时,将生成 0.30000000000000000444089209850062616169452667236328125。


    这里是the documentation for how double values are printed。它说:

    小数部分必须打印多少位……?必须至少有一个数字来表示小数部分,除此之外,必须有尽可能多的数字,但仅能将参数值与double 类型的相邻值唯一区分开来。

    【讨论】:

      猜你喜欢
      • 2016-04-18
      • 1970-01-01
      • 2022-10-02
      相关资源
      最近更新 更多