【问题标题】:How to determine if a Javascript Number is in single-precision range?如何确定 Javascript 数字是否在单精度范围内?
【发布时间】:2015-09-08 02:03:49
【问题描述】:

根据ECMAScript specification,Javascript 数字值对应于双精度 64 位二进制格式 IEEE 754 值。

对于我目前正在研究的 WebIDL 验证器,我需要能够确定给定的数值是否可以转换为 WebIDL float 类型,即它是否可以表示为有限单精度 32-位 IEEE 754 值。

我目前已确定以下方法:

validate: function(value) {
    if (typeof value !== 'number' || !Number.isFinite(value)) {
        return false;
    }

    if (value === 0) {
        return true;
    }

    var view = new DataView(new ArrayBuffer(4));

    view.setFloat32(0, value);

    var converted = view.getFloat32(0);
    var relativeError = Math.abs(value - converted) / value;

    return relativeError < Number.EPSILON;
}

本质上,我在做的是:

  1. 将DataView 包裹在一个4 字节的ArrayBuffer 周围。
  2. 将 Number 值作为 32 位浮点数存储在缓冲区中。
  3. 从缓冲区中取回转换后的数字。
  4. 计算原始值与转换值之间的相对误差。
  5. 使用Number.EPSILON检查浮点数的相对误差是否小于machine epsilon。

几个cmets:

上述逻辑是否符合我想要实现的目标?是不是矫枉过正?有没有更惯用、更优雅或更高效的方式来做到这一点?

更新

与此同时,我发现上述方法是不正确的。对于1.001、3.14159 等范围广泛的值,它将失败。另一方面,将 epsilon 值更改为机器 epsilon 以用于 32 位浮点数 (2−23) 过于宽松,允许使用像 16777217 这样的值。

仍在寻找一个好的解决方案,但目前正在使用下面的函数来检查整数上限和下限(224 和 -(224)) .

validate: function(value) {
    return typeof value === 'number' && Number.isFinite(value)
            && value >= -16777216 && value <= 16777216;
}

【问题讨论】:

  • 你可以创建一个缓冲区和它的 64 位视图,然后检查低位。
  • 或Math.fround()一步完成转换...blog.mozilla.org/javascript/2013/11/07/…
  • 如果您接受了一个字符串,您只需检查该数字是否不超过 6 个有效数字。
  • @zerkms 不起作用:例如转换为双精度时,最接近 1.1 的单精度数是 1.100000023841858
  • @zerkms 试试Math.fround(1.1)

标签: javascript floating-point ieee-754 floating-point-conversion webidl


【解决方案1】:

当您使用 ECMAScript 6 时,您可以使用 Math.fround 来检查它是否是单精度数字:

function isfloat32(x) {
  return isNaN(x) || x == Math.fround(x);
}

更新:我错过了关于 WebIDL float 是有限的部分(即不是 Inf 或 NaN)。在这种情况下,

function isfloat32(x) {
  return isFinite(x) && x == Math.fround(x);
}

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2021-03-15
    • 2012-01-27
    • 2010-10-26
    • 2017-06-26
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多