【发布时间】:2016-05-14 19:43:37
【问题描述】:
我正在尝试使用 Octave 检查与 sin(x) 相关的舍入误差,我得到了这些数字:
>> single(sin(10))
ans = -0.544021129608154
>> sin(10)
ans = -0.544021110889370
>> (single(sin(10))) - (sin(10))
ans = 0
应该是: -1.8718784 × 10^-8
我输入了:format long,但它仍然给我零,我不知道如何获得实际答案。
【问题讨论】:
-
你真的应该把它标记为 Octave 而不是 MATLAB;这似乎是一个仅 Octave 的问题。
标签: octave precision single-precision