【发布时间】:2022-01-15 04:45:02
【问题描述】:
假设我的机器中有一个单精度浮点格式变量,我想将给定操作的结果分配给它。 来自Wikipedia:
IEEE 754 标准将 binary32 指定为:
- 符号位:1 位
- 指数宽度:8 位
- 有效位精度:24 位(23 位显式存储)
这提供了 6 到 9 位有效十进制数字的精度。
我不清楚最后一个声明(e-6 的精度)是如何得出的。
一般来说,给定上面float32或float64的数据类型,如何找出以10为底的精度限制?
【问题讨论】:
-
叹息。 It is wrong.
标签: floating-point precision floating-accuracy representation