【发布时间】:2019-05-08 08:34:21
【问题描述】:
我们在业务逻辑中发现了一个有趣的案例,它完全打破了我们的逻辑,我们不明白为什么 NSDecimalNumber 和 Decimal 会这样。
我的案例如下:
import Foundation
let pQuantity = Decimal(string: "0.2857142857142857")!
let pPrice = Decimal(string: "7.00000000000000035")!
let calced = NSDecimalNumber(decimal: pQuantity * pPrice * Decimal(integerLiteral: 100)) // 200
let decimal = calced.decimalValue // 199.9999999999999999999999999999995
let integer = calced.intValue // 0
NSDecimalNumber(decimal: Decimal(string: "199.9999999999999999999999999999995")!).intValue // 0
NSDecimalNumber(decimal: Decimal(string: "199.9999999999999995")!).intValue // 199
NSDecimalNumber(decimal: Decimal(string: "199.99999999999999995")!).intValue // 15
NSDecimalNumber(decimal: Decimal(string: "199.999999999999999995")!).intValue // -2
在上面的操场代码中,如果你不想自己运行,你可以向右滚动看到返回值。
我们需要将原始十进制值、数量和价格临时转换为整数,以计算将这些数量平均分配多少以产生美观的价格。但是,由于某种原因,在这种情况下我们不能,因为转换的初始步骤失败,产生 0 而不是 200(是的,当前代码会产生 199 这是一个错误)。
为什么 NSDecimalNumber 会根据小数位数返回这些奇怪的值,范围从 -2 到 199?
我们的解决方案是在将内部计算放入NSDecimalNumber 之前对其进行四舍五入,但我们首先想知道造成这种情况的原因。这是一个错误还是预期的,应该知道它可能会发生?
【问题讨论】:
-
很可能与这个错误bugs.swift.org/browse/SR-2980有关。
-
@MartinR 似乎是这里的明显候选人。我想在我们等待错误解决之前,除了四舍五入之外我无能为力?
-
在stackoverflow.com/q/25705511 处观察到 NSDecimalNumber 的类似奇怪行为。
-
@MartinR 所以根据那个线程它是超类中的东西而不是覆盖访问器?有趣的是,在这种情况下它并没有这样做。
-
我不确定该问答的接受答案是否正确解释了它,但我没有花太多时间阅读它(因此我现在不会将其作为副本关闭)。我只是想提供另一个这种行为的例子。 – NSDecimalNumber 是 Apple 平台上(闭源)Foundation 框架的一部分,因此我只能建议在 Apple Bugreporter 上提交错误。
标签: swift int decimal rounding nsdecimalnumber