【发布时间】:2016-11-08 05:43:06
【问题描述】:
Matlab 默认将输入设置为双精度,所以如果我输入a=1/3 则变量将转换为双精度
>> a=1/3
a =0.3333
>> whos('a')
a 1x1 8 double
但是,当我之后输入vpa(a,100) 时,我得到:
ans=0.3333333333333333333333333333333333333333333333333333333333333333333333333333333333333333333333333333
我的问题是
既然a是双精度的,只有8个字节来存储它的数据,为什么vpa(a,100)能有100位的精度呢?总之,Matlab如何将a的精度从'double'提升到100位?
【问题讨论】:
标签: matlab wolfram-mathematica precision