【发布时间】:2020-08-31 23:08:04
【问题描述】:
有许多值可以精确地表示为 64 位 long,但不能表示为 64 位 double。 (一个简单的例子:262-1。)在给定间距的情况下,四舍五入是远离零、向零还是最接近的可能值?
【问题讨论】:
-
可以通过
fesetround()函数设置舍入方式。 -
2^62可以精确地表示为双精度数。 -
是的,一个不能精确表示为 double 的 long 的简单示例是 2⁶²-1。
标签: c floating-point rounding precision ieee-754