【发布时间】:2023-01-19 23:07:46
【问题描述】:
在 octave-online.net 中,vpa() 函数返回了不精确的结果。如果我尝试在 49 位后的小数点后进行一些计算,则结果为零。有没有一些技巧可以计算小数点后的很多数字?
vpa((pi-1),100)
回报:
2.141592653589793115997963468544185161590576171875000000000000000000000000000000000000000000000000000
对于不同长度的类似输入,我有类似的问题(例如vpa((113/111),100))
谢谢你。
试:
vpa((pi-1),100)
expecting: 2.141592653589793238462643383279502884197169399375105820974944592307816406286208998628034825342117068
【问题讨论】:
标签: octave