【发布时间】:2010-12-07 17:53:29
【问题描述】:
问题总结:
对于某些十进制值,当我们将类型从十进制转换为双精度时,会在结果中添加一小部分。
更糟糕的是,可能有两个“相等”的十进制值在转换时会产生不同的双精度值。
代码示例:
decimal dcm = 8224055000.0000000000m; // dcm = 8224055000
double dbl = Convert.ToDouble(dcm); // dbl = 8224055000.000001
decimal dcm2 = Convert.ToDecimal(dbl); // dcm2 = 8224055000
double dbl2 = Convert.ToDouble(dcm2); // dbl2 = 8224055000.0
decimal deltaDcm = dcm2 - dcm; // deltaDcm = 0
double deltaDbl = dbl2 - dbl; // deltaDbl = -0.00000095367431640625
查看 cmets 中的结果。结果是从调试器的手表中复制的。 产生这种效果的数字的小数位数远远少于数据类型的限制,所以它不可能是溢出(我猜!)。
更有趣的是可以有两个相等十进制值(在上面的代码示例中,请参见“dcm”和“dcm2”,其中“deltaDcm”等于零)转换时在 不同 双精度值中。 (在代码中,“dbl”和“dbl2”,它们有一个非零的“deltaDbl”)
我想这应该与两种数据类型中数字的按位表示的差异有关,但不知道是什么!而且我需要知道该怎么做才能按照我需要的方式进行转换。 (如 dcm2 -> dbl2)
【问题讨论】:
-
我已经在 MS Connect 上报告了这个问题。这是链接:connect.microsoft.com/VisualStudio/feedback/…
-
我不确定是什么原因,但似乎问题出在 (6) 个大小数位上。我测试了 5 个小数位并且工作正常。我有类似的情况,我从十进制转换为双精度并返回,因为我的精度只有 2 位小数,所以我的代码是安全转换的。