SQL Server 浮点数不稳定的最后一位数字

Question

在 SQL Server 中，我创建了一个聚合列（我添加的其他列、多个列、总和等的组合），它是 SQL 数据类型 float。

但是，当我多次运行相同的查询时，我的浮点数的最后 2 位数字不稳定并不断变化。

在我得到随机最后两位数字的浮点数下方 - 我尝试转换为十进制，然后去掉最后两位数字。

select round(convert(decimal(20,19), 0.0020042890676442646), 17,1)
select round(convert(decimal(20,19), 0.0020042890676442654), 17,1)

在 SSMS 中，两者的结果都是：0.0020042890676442600 符合预期。

请注意，这里的输入常量是我从 python 中获取的，所以它们可能已经被修改过。我不能直接从 sql 中获取它们，因为计算异常非常罕见，而且我不知道如何重现它。

但是通过 pypyodbc 到 python 运行这个，有时结果是 python decimal.Decimal 类型，第二个语句的值为 0.0020042890676442700，所以它似乎做舍入而不是截断。

我还注意到 sql 中的计算结果并不总是相同，并且浮点数的最后一位存在不稳定 - 但不知道如何系统地测试它。

转换为浮点数的常量给出：

select convert(float,0.0020042890676442646)
select convert(float,0.0020042890676442654)

结果：0.00200428906764427。

用小数括起来并四舍五入：

select round(convert(decimal(20,19), convert(float,0.0020042890676442646)), 17,1)
select round(convert(decimal(20,19), convert(float,0.0020042890676442654)), 17,1)

SSMS 中的结果是：0.0020042890676442700 在这两种情况下。

我尝试直接发回浮点数而不是转换为十进制，但似乎两个不稳定的数字总是在到达 python 时添加到末尾。即使截断也无济于事，然后会添加其他随机数。

似乎python在传输过程中以随机方式同时修改了浮点数和小数点，或者不稳定性已经存在于sql中或两者兼而有之。

我尝试像这样在 python 端截断 np.float64：Truncating decimal digits numpy array of floats

但由于 sql 中的最后一个浮点数可以在 e15 和 e19 之间，我无法设置一致的截断级别，除非我将所有内容都设置为 e15。

Answer 1

聚合的处理顺序未定义，就像任何查询结果的顺序未定义一样，除非您使用ORDER BY 子句。对于floats，订单很重要。可以使用OVER 子句强制聚合处理的顺序。下面是一些代码来演示：

 -- demonstrate that order matters when adding floats

declare @a float
declare @b float
declare @c float
declare @d float
declare @e float

set @a = 1
set @b = 1
set @c = 9024055778268167

-- add A to B, and then add C
-- result is 9024055778268170

set @d = @a + @b

set @e = @d + @c

select cast( @e as decimal(38,0) )

-- add C to B, and then add A
-- result is 9024055778268168

set @d = @c + @b

set @e = @d + @a

select cast( @e as decimal(38,0) )

-- put these values into a table

create table OrderMatters ( x float )

insert into OrderMatters ( x ) values ( @a )
insert into OrderMatters ( x ) values ( @b )
insert into OrderMatters ( x ) values ( @c )

declare @x float

-- add them in ascending order
-- result is 9024055778268170

select @x = sum(x) over (order by x asc ) from OrderMatters

select cast(@x as decimal(38,0))

-- add them in descending order
-- result is 9024055778268168

select @x = sum(x) over (order by x desc ) from OrderMatters

select cast(@x as decimal(38,0))