我有一些使用多个大型 MEX 函数的 matlab 代码，我想通过使用 openCL 来加快速度（我正在使用 openCL API 将 MEX 函数的部分代码替换为 openCL 代码）。我已经将一小部分代码翻译成一个 openCL 内核，但我已经遇到了困难。
在GPU上执行后得到的矩阵的某些元素与调用原始MEX函数时得到的矩阵的对应元素不同，误差小于0.01。这会导致最终结果出现小错误，但我担心随着我翻译更多代码，错误会累积。
这可能与 CPU 和 GPU 的计算精度不同有关。有谁知道如何确保相同的精度？我在 Ubuntu 12.04 上运行 64 位 matlab R2012b。我使用的硬件是 Intel Core2 Duo E4700 和 NVIDIA GeForce GT 520。
【问题讨论】：
一个常见的问题是，浮点值保存在 80 位 CPU 寄存器中，而不是每次都被截断和存储。在这些情况下，额外的精度会导致偏差。因此，您可以检查您的编译器提供了哪些选项来解决此类问题。查看发布版本和调试版本的差异也很有趣。
【讨论】：
如果您将代码从在 CPU 上使用双精度（64 位）浮点数修改为使用单精度，则 CPU 和 GPU 上的结果之间的微小差异很容易解释为浮点精度的差异GPU 上的（32 位）fp 数字。
我不会将这种差异称为错误，而是在使用浮点数的计算机上进行算术运算时的人工产物。您在纯 CPU 代码上获得的结果已经与任何理论上的“真实”结果不同。数值计算的大部分技术是在整个计算期间保持理论计算和实际计算之间的差异足够小（不管这意味着什么）。这需要比我现在更多的时间和空间来扩展，但是由于对浮点运算是什么和不是什么缺乏理解而产生的惊喜是关于 SO 的丰富问题来源。这些问题的一些答案非常有启发性。 This one 应该可以帮助您入门。
如果您注意在 CPU 和 GPU 上使用相同的精度，那么您报告的差异可能由浮点运算的非交换性来解释：在浮点运算中，不能保证 (a+b)+c == a+(b+c) .操作顺序很重要；如果您正在进行任何 SIMD，我敢打赌这两个实现的操作顺序并不相同。即使你没有，你做了什么来确保 GPU 和 CPU 上的操作顺序相同？
至于你应该怎么做，这完全取决于你。您可以（尽管我个人不推荐）编写自己的例程来在 GPU 上执行双精度 f-p 算术。如果您选择这样做，请期待与 GPU 承诺的大部分加速说再见。
更好的做法是确保您的单精度软件为您的目的提供足够的准确性。例如，在我工作的世界中，我们从环境中进行的原始测量通常不准确到超过 3 位有效数字，因此我们的代码产生的任何结果在大约 3 s-f 之后都无效。因此，如果我能将错误保持在第 5 个和更低的 s-fs 中就足够了。
不幸的是，从您的角度来看，通过将 double 全局替换为 float 并重新编译，不一定能保证从单精度计算中获得足够的准确性，您可能（通常）需要实现不同的算法，这需要更多时间来保证更高的准确性，并且随着计算的进行不会漂移太多。同样，您将失去一些 GPU 承诺的速度优势。
【讨论】：