【发布时间】:2015-04-24 20:00:43
【问题描述】:
我无法精确到尽可能多的小数位。如果我将 6 个不同的数字转换为 numeric(36,18),然后在它们之间进行计算,结果值将被截断到小数点后 6 位。如果我使用浮动,我可以走得更远,但据我所知,这些也被切断了。
任何帮助都会很棒,谢谢。
【问题讨论】:
-
显示您的架构和代码。
-
为什么你认为结果在 6 处被截断?也许你的输出削减了它,但实际值是正确的?
-
这不是 SQL Server 问题。您需要在 Web 上搜索许多文章,这些文章解释了定点数据类型 (
NUMERIC) 和浮点数据类型 (FLOAT) 的行为、差异和相对优点。这些行为跨语言存在,非常值得理解。
标签: sql-server