【问题标题】:Convert scientific to decimal - dynamic float precision?将科学转换为十进制 - 动态浮点精度?
【发布时间】:2022-11-19 06:59:38
【问题描述】:

我在 SQL 数据库中有一组随机数字:

1.2
0.4
5.1
0.0000000000232
1
7.54
0.000000000000006534

零以下的小数位显示为科学记数法

num =  0.0000000000232
print(num)
> 2.23e-11

但这会导致我的其余代码出现错误,因为它需要十进制数。

由于非常小的数字的精度不是恒定的,因此简单地设置静态 .11f 是不明智的。

有什么更优雅的方法可以将其转换为正确的小数,始终保持动态精度?

【问题讨论】:

  • 我会说“更优雅的方式”科学计数法。有什么方法可以修复您的其余代码以这样接受它,而不是“调试”吗?

标签: python floating-point precision


【解决方案1】:

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2014-02-07
    • 2020-07-22
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2013-12-16
    • 1970-01-01
    • 2014-03-01
    相关资源
    最近更新 更多