【发布时间】:2020-04-27 16:20:50
【问题描述】:
谁能解释一下:
>>> numpy.array([22.0], dtype=numpy.float64) / (2 ** 11)
array([0.01074219])
>>> 22.0 / (2 ** 11)
0.0107421875
>>>
Numpy 似乎会产生错误的结果,可能是某种精度错误。
我该如何解决这个问题?
【问题讨论】:
-
非整数浮点数的小数点右边的最后一个非零数字始终是 5。我发现这个事实(不确定它写在哪里;我自己假设它)很有用.
标签: numpy floating-point precision floating-accuracy