【问题标题】:Commonest rounding algorithm for IEEE754 floating pointIEEE754浮点最常用的舍入算法
【发布时间】:2016-09-14 12:14:20
【问题描述】:

IEEE754 标准定义了五种舍入规则。前两轮为A 最接近的值(与偶数相关,与零相关);其他的称为定向舍入:朝向零、朝向正无穷和朝向负无穷。 其中哪一个最常用,为什么?

【问题讨论】:

    标签: floating-point ieee-754


    【解决方案1】:

    最常用的模式是默认模式:四舍五入到最近,平到偶数。

    为什么?这只是一个猜测,但是:

    • 最小化错误:定向舍入最多可以有 1 个 ulp 舍入误差,而舍入到最近则为 1/2 ulp
    • 避免四舍五入偏差:当数千个四舍五入将被链接时,从零开始可能会产生偏差

    【讨论】:

    • 您能否提供一些示例,说明定向舍入最多可以有 1 个 ulp 舍入误差,而舍入到最近则为 1/2 ulp
    • @Maximus 假设您正在四舍五入并添加1.0+1e-300。实数运算结果非常略大于1.0。总而言之,错误将是1 ulp - 1e-300,几乎是 ulp。在四舍五入中,错误是1e-300。同样,考虑向下取整并从可表示的数字中减去一个小数。
    猜你喜欢
    • 2013-02-04
    • 1970-01-01
    • 1970-01-01
    • 2015-08-13
    • 2018-09-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多