【发布时间】:2018-02-13 14:48:43
【问题描述】:
我正在尝试为有关测量压力的问题找出答案。 测量值应该以二进制浮点格式存储,我的任务是在一些约束条件下确定这样做所需的最小位数;
最大压力为1e+07 Pa
最小压力为 10 Pa
测量精度为 0.001 %
所以如果我理解正确,我可能会碰巧测量
1e+07 + 0.00001 * 1e+07 = 10000100 帕
并且想要精确地存储它。这意味着我需要 24 位,因为
2^23
这是否包括负号的 1 位?由于我们不测量负压,所以更准确的答案是 23 位吗?
对于最小压力,我可能碰巧测量到 9.9999 Pa,并希望正确存储它,所以 4 位小数。 因为我可以进行相同类型的计算并最终得到 p>
2^13
这是否已经包含在我首先选择的 23-24 位中?
我对此很陌生,所以任何帮助或只是澄清将不胜感激。
【问题讨论】:
标签: binary precision point floating