【基础】浮点型运算结果不精确的原因

解析:

单精度有7~8位小数,双精度有15位小数
二进制存储,单精度只有16个二进制位,双精度有64个二进制位,二进制位里面包含正负号,整数部分,小数点,小数部分 正 负号和小数点占用二进制位数是定值。
将十进制浮点数转换为二进制浮点数时,小数的二制有时也是不可能精确的,就如同十进制不能准确表示1/3,二进制也无法准确表示1/10,而double类型存储尾数部分最多只能存储52位,于是,计算机在存储该浮点型娄据时,便出现了精度丢失。
在进行浮点类数据计算的时候,浮点参与计算,会左移或右移n位,直到小数点移动到第一个有效数字的右边,于是也可能出现精度丢失。
————————————————
版权声明:本文为CSDN博主「shaoliu5905」的原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/shaoliu5905/article/details/83348178

相关文章:

  • 2021-08-29
  • 2021-07-19
  • 2022-12-23
  • 2022-12-23
  • 2022-02-08
  • 2021-11-25
  • 2021-11-14
  • 2021-12-13
猜你喜欢
  • 2021-06-25
  • 2021-09-01
  • 2022-12-23
  • 2021-10-28
  • 2022-12-23
  • 2022-12-23
  • 2022-12-23
相关资源
相似解决方案