【发布时间】:2014-07-09 08:46:04
【问题描述】:
我在树莓派上使用 python。我正在使用互补滤波器从陀螺仪中获得更好的值,但它消耗了太多覆盆子的能量——大约是 70%。我认为我可以通过降低浮点精度来提高性能。现在,结果大约有 12 位小数,这比我需要的要多。有没有办法设置最大精度?只是将数字四舍五入并不能满足我的需求,因为这只是另一个计算。谢谢!
编辑:我尝试使用 Decimal 模块,并将精度设置为 6,它比浮点数慢了近 6 倍!除了 Decimal 之外,还有没有其他方法可以处理定点数(它看起来是为了比性能更高的精度而创建的)
【问题讨论】:
-
你需要浮点数吗?定点算术有什么问题?
-
@CommuSoft:哦,我可能误会了什么。如何将python中的变量设置为定点?如果可以的话,这将是最好的解决方案。
-
所以,我尝试使用 Decimal 来设置精度......它甚至比简单的浮点数更糟糕:/
-
你试过 gmpy (aleax.it/gmpy.html) 吗?或
cdecimal?
标签: python performance raspberry-pi floating-point-precision