【发布时间】:2016-09-14 12:14:20
【问题描述】:
IEEE754 标准定义了五种舍入规则。前两轮为A 最接近的值(与偶数相关,与零相关);其他的称为定向舍入:朝向零、朝向正无穷和朝向负无穷。 其中哪一个最常用,为什么?
【问题讨论】:
IEEE754 标准定义了五种舍入规则。前两轮为A 最接近的值(与偶数相关,与零相关);其他的称为定向舍入:朝向零、朝向正无穷和朝向负无穷。 其中哪一个最常用,为什么?
【问题讨论】:
最常用的模式是默认模式:四舍五入到最近,平到偶数。
为什么?这只是一个猜测,但是:
【讨论】:
1.0+1e-300。实数运算结果非常略大于1.0。总而言之,错误将是1 ulp - 1e-300,几乎是 ulp。在四舍五入中,错误是1e-300。同样,考虑向下取整并从可表示的数字中减去一个小数。