如何使用 CUDA 在一个 GPU 上运行多个内核？

Question

kernel1 <<< blocks1, threads1, 0, stream1 >>> ( args ... );
...
kernel2 <<< blocks2, threads2, 0, stream2 >>> ( args ... );
...

我有两个内核要同时运行，
而且设备是GTX460，所以是费米架构。
cuda 工具包和 sdk 是 3.2 rc。

像上面的代码一样，两个内核被编码为同时运行，
但没有来自任何内核的响应。

内核在做什么有什么限制吗？ 两个内核共享一些数据
他们有一些共同点。
如果我注释掉一个内核函数的大部分内容，程序就会停止。

请给我任何帮助。

Answer 1

在不同流上运行的事实并不意味着它们将同时运行。 如果第一个内核所需的资源量足以允许运行第二个内核，那么情况就是如此，否则它们将串行运行。 确保在两次内核调用之后有一个 cudaSyncThreads()，或者在两个线程上同步。请记住，所有 cuda 调用都是异步的。