我是 cuda 的新手，我想编写一个 cuda 内核，在给定输入矩阵、卷积（或滤波器）和输出矩阵的情况下计算卷积。
注意：我希望 cuda 内核的每个线程在输出矩阵中计算一个值。
我该怎么做？
【问题讨论】：
标签： cuda nvidia gpgpu convolution
如果过滤器覆盖矩阵的填充范围，则可以直接转换为cublasSgemm。
例如，假设矩阵的维度是 5 * 4，需要 130 个过滤器，那么要训练的过滤器矩阵的维度是 130 * 20，那么 5 * 4 的矩阵可以取为 20 * 1 .
这样计算速度是最优的；它被转换为 m1 (130, 20) 和 m2 (20, 1) 之间的矩阵乘法。
【讨论】：
我想编写一个 cuda 内核来计算给定输入矩阵、卷积（或滤波器）和输出矩阵的卷积。
您可能对该主题的this treatment 感兴趣（虽然它有点老了）。或者看CUDA卷积核示例程序：non-separable和separable
我希望 cuda 内核的每个线程在输出矩阵中计算一个值。
如果您点击该链接，您会意识到您并不完全希望这样做。换句话说：不要对内核应该如何在线程之间分配工作做出严格的假设，您以后可能会改变主意。
【讨论】：
如果您正在寻找图像卷积核，此链接可能会有所帮助 (Two Dimensional (2D) Image Convolution in CUDA by Shared & Constant Memory: An Optimized way )。
就我而言，使用每个线程计算输出中的像素或位置可能不是一个好主意。请考虑如何加载此卷积的子区域，或者同一 warp 中的线程是否在每次读取时读取连续内存。否则，即使有数百个线程可用，内核也可能会受到数据加载的影响。
因此，基本上您可以只编写您描述的代码，并使用分析器 (nvvp) 获得进一步的优化建议。
【讨论】：