【问题标题】:What CUDA shared memory size meansCUDA 共享内存大小意味着什么
【发布时间】:2012-07-14 23:22:10
【问题描述】:

我正在尝试自己解决这个问题,但我做不到。 所以我想听听你的建议。

我正在编写这样的内核代码。 VGA 是 GTX 580。

xxxx <<< blockNum, threadNum, SharedSize >>> (... threadNum ...)
(note. SharedSize is set 2*threadNum)

__global__ void xxxx(..., int threadNum, ...)
{
    extern __shared__ int shared[];
    int* sub_arr = &shared[0];
    int* sub_numCounting = &shared[threadNum];
    ...
}

我的程序创建了大约 1085 个块和每个块 1024 个线程。

(我正在尝试处理巨大的数组)

所以每个块的共享内存大小是 8192(1024*2*4)字节,对吧?

我发现通过使用 cudaDeviceProp,我可以在 GTX 580 上的每个块中使用最多 49152 字节的共享内存。

而且我知道 GTX 580 有 16 个处理器,线程块可以在处理器上实现。

但是我的程序出现错误。(8192bytes

我在内核中使用“printf”来查看是否运行良好,但有几个块没有运行。 (虽然我创建了 1085 块,但实际上只有 50~100 块在运行。)

我想知道在同一处理器上运行的块是否共享相同的共享内存地址。 (如果没有,为共享内存分配其他内存?)

我当然不能理解每个块的最大共享内存大小是什么意思。

给我建议。

【问题讨论】:

  • 希望共享内存大小为 2*threadNum*sizeof(int),否则你的问题不是要求太多共享内存,而是太少了。

标签: cuda shared-memory


【解决方案1】:

是的,同一多处理器上的块共享相同数量的共享内存,对于您的 GPU 卡,每个多处理器 48KB(计算能力 2.0)。因此,如果您在同一个多处理器上有 N 个块,则每个块的最大共享内存大小为 (48/N) KB。

【讨论】:

  • 非常感谢。这就是我想要的答案。我还有一个问题。 (对不起......)是否可以重用共享内存空间?我的意思是,将在处理器上执行的线程块可以使用已完成其工作的先前线程块正在使用的共享内存空间。 (对不起我的英语不好)
  • 虽然单个多处理器在内核代码中有 N 个块,但我认为实际上 N 个块不会同时运行。所以我认为多处理器选择线程块是有顺序的,哪个是第一个,哪个是下一个。
  • @Umbrella 你是对的,如果你的块多于多处理器,则并非所有块都会同时处理。并且共享内存具有块的生命周期,因此当块完成时,共享内存被释放,当然可以被即将到来的块重用。请参阅here 了解更多信息。
  • 您非常友好的回复给我留下了深刻的印象。非常非常感谢。
  • 计算多处理器块真的这样工作吗?在阅读devtalk.nvidia.com/default/topic/999749/… 并进行一些测试之后,方向似乎是相反的——使用的共享内存大小决定了每个处理器使用了多少块。
猜你喜欢
  • 1970-01-01
  • 2019-06-22
  • 2021-08-24
  • 2018-09-17
  • 1970-01-01
  • 2019-05-25
  • 1970-01-01
  • 2023-03-10
  • 2011-06-29
相关资源
最近更新 更多