SQLServer如何将0.2表示为FLOAT

Question

DECLARE @f as float

SELECT @f = 0.2

SELECT @f

以上代码返回

----------------------
0.2

(1 row(s) affected)

这并不奇怪。 Except that floating-point cannot represent 0.2 exactly.

那么 SQLServer 在这里做什么呢？它是否使用以 10 为底的浮点数？我的理解是它总是处理以 2 为底的浮点数（因为以 10 为底的浮点数基本上是DECIMAL?）。

它在做一些四舍五入吗？

Answer 1

float is accurate to 15 significant figures 所以0.2 通常会显示为0.2

您的链接中提到的技术可以减轻（但可能无法消除）此类数值的精度损失，因为这样的数字很少

但是数字越大，精度就会下降

DECLARE @f as float

SELECT @f = 0.1234567890123456E0
SELECT @f

SELECT @f = 1.000000000000023E0
SELECT @f