通过将固定值作为内核参数传递来减少寄存器压力

Question

我正在尝试减少内核中的寄存器压力。我目前正在计算某些固定值，例如我正在处理的图像的尺寸；将这些维度作为内核参数传递是否有意义？它们对于所有工作组都是固定的。我在某处读到内核参数得到特殊处理并且没有分配给寄存器。

Answer 1

OpenCL 规范要求内核参数位于__private 地址空间中，因此理论上内核参数可以存储在寄存器、常量内存、专用寄存器文件或其他任何东西中。在实践中，实现通常会将内核参数放在常量内存中（常量内存，而不是__constant 地址空间）。常量内存是 GPU 用于广播一般数据（如相机矩阵）的只读小内存。它们非常快，比全局内存快得多。与本地内存类似的速度。

如果您将一个值传递给内核，那么它​​将驻留在常量内存中。不会获取到全局。

但是，该数据最终将驻留在寄存器中（与任何其他数据一样）以便对其进行操作。您不会保存任何寄存器。但至少它会让你的内核运行得更快。