偶尔发现SQL Server中除法运算结果总是为0的现象,之所以称为现象,而不称为BUG,是因为实际上的运算结果并不是错误的。

来看一个具体的例子:

SELECT 500/520; -- 0

通过这个例子可以看出来,语句的执行结果是0。这是因为SQL Server会自动根据除数与被除数的最大精度去对运算结果取精度,这里的除数和被除数都是整数,所以得到的结果也是整数。

来验证一下这个结论:

SELECT 500.0/520; -- 0.961538
SELECT 500/520.0; -- 0.961538

通过上面的验证可以看出来,只要除数与被除数之中有一个是小数,得到的结果也会是小数。

这样的话,在SQL Server中除法运算中如果出现结果总是为0的现象,不用慌,只要知道了原因,就可以简单通过以下技巧来解决:

SELECT (500 + 0.0)/520; -- 0.961538

技巧就是给除数或被除数加上一个0的小数,结果就有精度了,也就不会总是为0了。

 

"死亡就像是水消失在水里,几乎不引起一丝波澜。"

相关文章:

  • 2022-12-23
  • 2021-06-17
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
  • 2022-02-06
  • 2022-12-23
  • 2022-12-23
猜你喜欢
  • 2021-05-27
  • 2021-06-24
  • 2022-12-23
  • 2022-12-23
相关资源
相似解决方案