【问题标题】:Scale() of Divide method in BigDecimalBigDecimal 中 Divide 方法的 Scale()
【发布时间】:2011-03-19 05:24:33
【问题描述】:
new BigDecimal("37146555.53880000").divide(new BigDecimal("1000000")).scale()

这将返回 10。但根据 API,divide 方法:

返回一个 BigDecimal,其值为 (这个/除数),以及谁的首选 规模是 (this.scale() - 除数.scale());

所以在这种情况下,37146555.53880000's 的比例是 8,1000000 的比例是 0。所以结果应该是8,而不是10。

我在这里错过了什么?

谢谢

【问题讨论】:

  • 如果 this.scale() 值小于 divisor.scale() 那么 ?

标签: java formatting bigdecimal


【解决方案1】:

它说的是“首选比例”而不是“肯定会是比例”。

绝对肯定,我会使用BigDecimal.divide(BigDecimal, int, int)。

【讨论】:

    【解决方案2】:

    这些秤是 返回精确算术的方法 结果; 除了一个精确的划分 可能不得不使用更大的比例,因为 确切的结果可能有更多的数字。 例如,1/32 是 0.03125。

    【讨论】:

      【解决方案3】:

      实际结果是 37.1465555388,它的比例必须是 10 才能准确。

      JavaDoc 所说的是首选比例是差异,这意味着如果结果实际上不需要为 10,那么它会尝试将其设为 8。例如,如果您将除以 2,其比例也是 0,结果将是 18573277.76940000(比例 8)。

      编辑:小附加 - 您可以使用重载的除法方法强制除法到一定比例:

      • divide(BigDecimal, RoundingMode) 将给出 BigDecimal 的比例为 this,如果结果实际上需要更多小数才能准确,则使用指定的舍入方法舍入值。

      • divide(BigDecimal, scale, RoundingMode) 将给出具有指定比例的BigDecimal,如果需要,可以通过指定的方法四舍五入的值。

      如果您除以一个您知道的数字会导致重复小数,例如 3 (1/3 = 0.333333...),这可能会很有用,因为如果发生这种情况,简单的除法将引发异常。将其限制为最大小数位数将有助于您避免异常,但会使您的计算不太精确。

      【讨论】:

      • 是否有确定结果比例的公式?
      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2015-12-08
      • 1970-01-01
      • 1970-01-01
      • 2023-03-27
      • 2010-12-23
      • 1970-01-01
      相关资源
      最近更新 更多