CUDA线程和块解释

Question

我一直在关注这里的教程 http://www.nvidia.com/docs/IO/116711/sc11-cuda-c-basics.pdf

尝试自学基本的 GPU 编程。我还是不太了解块和线程的拓扑结构。在第 42 页，代码定义尺寸数据如下：

#define N (2048*2048)
#define THREADS_PER_BLOCK 512

本教程是否做出假设？我目前正在使用带有 Nvidia 520m GPU 的笔记本电脑。使用结构 cudaDeviceProp 我能够确定我能够在每个块中运行 1024 个线程。 2048x2048 究竟量化了什么？块数？我怎么知道这是否正确？

Answer 1

N (2048*2048) 数量是数据集的整体大小。这个问题是向量相加问题，所以要相加的向量总大小为N个元素。

每个块的线程数已在 512 处定义。

块的数量可以从内核启动中确定：

add<<<N/THREADS_PER_BLOCK,THREADS_PER_BLOCK>>>(d_a, d_b, d_c);
       ^                          ^  
    number of blocks            number of threads in each block

所以网格中正在启动的总块数是 2048*2048/512 = 8192

这些特定参数（每个块 512 个线程，总共 8192 个块）应该与任何当前可用的 CUDA GPU 兼容。