【发布时间】:2022-11-19 06:59:38
【问题描述】:
我在 SQL 数据库中有一组随机数字:
1.2
0.4
5.1
0.0000000000232
1
7.54
0.000000000000006534
零以下的小数位显示为科学记数法
num = 0.0000000000232
print(num)
> 2.23e-11
但这会导致我的其余代码出现错误,因为它需要十进制数。
由于非常小的数字的精度不是恒定的,因此简单地设置静态 .11f 是不明智的。
有什么更优雅的方法可以将其转换为正确的小数,始终保持动态精度?
【问题讨论】:
-
我会说“更优雅的方式”是科学计数法。有什么方法可以修复您的其余代码以这样接受它,而不是“调试”吗?
标签: python floating-point precision