为什么我们需要 cudaDeviceSynchronize();在带有 device-printf 的内核中？

Question

__global__ void helloCUDA(float f)
{
    printf("Hello thread %d, f=%f\n", threadIdx.x, f);
}

int main()
{
    helloCUDA<<<1, 5>>>(1.2345f);
    cudaDeviceSynchronize();
    return 0;
}

为什么是 cudaDeviceSynchronize();在很多地方，例如here 内核调用后不需要？

Answer 1

内核启动是异步的。这意味着它在启动 GPU 进程后，在内核完成执行之前立即将控制权返回给 CPU 线程。

那么 CPU 线程的下一步是什么？应用程序退出。

在应用程序退出时，将输出发送到标准输出的能力被操作系统终止。

因此内核后面生成的输出无处可去，你也看不到。

另一方面，如果你使用cudaDeviceSynchronize()，那么内核保证完成（并且内核的输出会找到一个等待的标准输出队列），之前应用程序被允许退出。