【发布时间】:2019-07-28 06:13:22
【问题描述】:
我正在尝试研究一个用 Python 编写的小 FIR 示例。见https://scipy-cookbook.readthedocs.io/items/FIRFilter.html
我的目标是研究每个 float16、float32 和 float64(在 numpy 中可用)的输出精度如何变化。所以对于第一种情况,我只需要在float16 中完成所有计算。问题是我每次都应该转换数据以确保我使用的是正确的格式。有没有一种方法可以一致地为整个计算使用统一的上下文,即使用 float16 执行所有计算(加法、减法、cos、sin ...等),例如无需使用强制转换重写代码?
【问题讨论】:
-
一种一次性解决问题的方法是使用变量为所有操作分配 dtype,然后您可以根据需要在文件顶部进行设置和更改。跨度>
标签: python numpy floating-point precision