java和python都存在着这样的问题,3*0.1不是等于0.3,而是等于0.30000000000000004。
换个思维,如果有这么一个判断,3*0.1==0.3,这样的结果就是False。

如果当我们做比较精密的计算比较时,一定要把尾差问题处理好,微小的差距错误可能导致整个项目的崩溃!!!
一般的话我们保留常用的8位或几位小数,就可以解决此类问题。
Python 技术篇-容易被忽略的尾差问题
喜欢的点个赞❤吧!

相关文章:

  • 2021-07-21
  • 2021-05-15
  • 2021-07-27
  • 2022-12-23
  • 2022-12-23
  • 2022-02-05
  • 2021-11-22
猜你喜欢
  • 2021-12-06
  • 2021-07-05
  • 2022-01-02
  • 2021-09-11
  • 2022-01-11
  • 2022-12-23
相关资源
相似解决方案