【问题标题】:Octave-online.net vpa((pi-1),100) strange result?Octave-online.net vpa((pi-1),100) 奇怪的结果?
【发布时间】:2023-01-19 23:07:46
【问题描述】:

octave-online.net 中,vpa() 函数返回了不精确的结果。如果我尝试在 49 位后的小数点后进行一些计算,则结果为零。有没有一些技巧可以计算小数点后的很多数字?

vpa((pi-1),100)

回报:

2.141592653589793115997963468544185161590576171875000000000000000000000000000000000000000000000000000

对于不同长度的类似输入,我有类似的问题(例如vpa((113/111),100)

谢谢你。

试: vpa((pi-1),100)

expecting: 2.141592653589793238462643383279502884197169399375105820974944592307816406286208998628034825342117068

【问题讨论】:

    标签: octave


    【解决方案1】:

    对于vpa((p-1),100)pi-1的计算是使用有限精度完成的,然后将(不精确的)结果应用于vpa函数。

    相反,vpa 函数需要进行计算:

       vpa('pi-1',100)
    

    给出预期的结果:

    2.141592653589793238462643383279502884197169399375105820974944592307816406286208998628034825342117068
    

    vpa reference 页面上查看更多详细信息。

    【讨论】:

      猜你喜欢
      • 2023-04-07
      • 2016-08-12
      • 2014-02-23
      • 1970-01-01
      • 1970-01-01
      • 2016-11-28
      • 2012-12-16
      • 2012-12-06
      • 2016-08-24
      相关资源
      最近更新 更多