JavaScript 中的精确浮点运算

Question

我正在 JavaScript 中创建数字微调器小部件，以从本质上模仿 webkit 中的数字字段。

当你更改数字时，它需要检查该值是否不仅在可接受的范围内，而且是否在步内：

<input type="number" min="0" max="100" step="1" />

如果用户输入5.5，该字段会将其截断为低于该值的最接近的步长，在本例中为5。

对于2的步骤，如果用户输入5.5，结果将是4。

我计划用于此计算的方程式如下所示：

...code...
_checkStep: function (val) {
    val ret,
        diff,
        moddedDiff;
    diff = val - this._min;
    moddedDiff = diff % this._step;
    ret = val - moddedDiff;
    return ret;
},
//set elsewhere
_min,
_step,
...more code...

尽管出于测试目的，您可以简单地使用：

function checkStep(val, min, step) {
    var ret,
        diff,
        moddedDiff;
    diff = val - min;
    moddedDiff = diff % step;
    ret = val - moddedDiff;
    return ret;
}

这对于整数和更大的值非常有效，但是由于 JavaScript 处理浮点数的方式，我遇到了小数问题。

例如：

checkStep(0.5, 0, 0.1) //returns 0.4, 0.5 is expected

在分析每一行时，发现 JavaScript 中的 0.5 % 0.1 返回 0.09999999999999998。

怎样做才能使这个函数更准确*？

---

*准确的是它适用于0.01 及以上的增量。

Answer 1

您可以尝试确保步长大于 1（通过反复乘以 10），然后计算模数，然后按比例缩小到原始值。例如：

function checkStep(val, min, step) {
  var ret,
    diff,
    moddedDiff;
  var pows = 0;
  while( step < 1 ) { // make sure step is > 1
    step *= 10;
    val *= 10;
    min *= 10;
    pows++;
  }
  diff = val - min;
  moddedDiff = diff % step;
  ret = val - moddedDiff;
  return ret / Math.pow( 10, pows );
}

这适用于您提供的示例，但我不能保证它适用于所有示例。在此处查看 jsfiddle：

http://jsfiddle.net/bCTL6/2/

Answer 2

没有绝对保证准确的浮点计算。请改用整数计算。在您的 0.1 示例中，您可以用整数计算“0.1”的数量，在用户的最后一位数字之前直观地添加点。