发布模式和调试模式之间的CUDA运行时差异

Question

我正在运行 Visual Studio 2013。 我正在运行 CUDA 7.0.28

我可以通过选中或取消选中 CUDA 选项来切换运行时差异：

生成 GPU 调试信息。

我的设备内核使用 >> 运行，即使在那时也会发生错误。

我的问题是：

1. 为什么会在发布和调试模式下给我不同的结果？
2. 我应该寻找什么样的东西来尝试找出发生这种情况的原因。
3. 有没有办法在内核函数中设置断点？事实并非如此。除了制作 printf 语句之外，我还可以使用哪些其他方法来追踪问题？

谢谢。

Answer 1

为什么它会在发布和调试模式下给我不同的结果？

在后台，从 CUDA C/C++ 源代码生成的机器代码在调试模式下看起来会非常不同。差异列表太长，无法在此处涵盖，但主要是通过在调试模式下所有编译器优化都已关闭来总结。这可能会导致竞争条件，例如，在调试中很明显但在发布时不明显，反之亦然。

我应该寻找什么样的东西来尝试找出发生这种情况的原因。

我将从最简单的工具开始。首先单独使用 cuda-memcheck 来确认内核正在运行而不会产生基本错误。如果 cuda-memcheck 报告您的内核出现故障，请按照方法 here 将故障隔离到一行源代码。修复 cuda-memcheck 以这种方式报告的任何错误后，使用 cuda-memcheck subtool options 包括 racecheck、synccheck 和 initcheck，查看是否有任何这些问题。

有没有办法在内核函数中断点？

是的，在 windows 和 linux 上都有可用的调试器。在 Windows 上，调试器集成到 Visual Studio 中。有 documentation available、演练，甚至 youtube 视频演示如何执行各种操作，例如设置断点。但是，在使用 cuda-memcheck 之前，我不会走这条路。