【发布时间】:2018-09-04 20:39:54
【问题描述】:
julia round 函数在阶乘 (75) 之前似乎可以正常工作,但在阶乘 76 处中断。这是 round 函数中的错误吗?
julia>round(factorial(big(75)), sigdigits=2)
2.5e+109
julia>round(factorial(big(76)), sigdigits=2)
1.900000000000000000000000000000000000000000000000000000000000000000000000000006e+111
【问题讨论】:
标签: julia precision biginteger digits arbitrary-precision