OpenCL max_work_item_sizes

Question

我无法理解工作项约束的含义。我正在使用pyopencl 并查看max_work_item_sizes，它给出了我假设的每个维度的最大全局工作线程数。

import pyopencl as cl
import numpy as np

ctx = cl.create_some_context()
queue = cl.CommandQueue(ctx)

queue.device.max_work_item_sizes # [1024, 1024, 64]

我可以通过以下方式模拟np.arange 函数：

prg = cl.Program(ctx, """
__kernel void arange(__global int *res_g)
{
  int gid = get_global_id(0);
  res_g[gid] = gid;
}
""").build()

res_g = cl.Buffer(ctx, cl.mem_flags.READ_WRITE, 4 * 4096)
prg.arange(queue, [4096], None, res_g)

# transfer back to cpu
res_np = np.empty(4096).astype(np.int32)
cl.enqueue_copy(queue, res_np, res_g)

assert (res_np == np.arange(4096)).all() # this is true

如何为第一个维度指定超过 1024 个工作项？ max_work_item_sizes 是什么意思？

与此相关的另一个问题是使用尽可能多的工作维度是否有益？据我了解，最多可以使用 3 个维度。使用 2 个工作项维度模拟 np.arange 的方法可以通过以下方式完成：

prg = cl.Program(ctx, """
__kernel void arange(__global int *res_g)
{
  int gid = get_global_id(0) * get_global_id(1);
  barrier(CLK_GLOBAL_MEM_FENCE);
  res_g[gid] = gid;
}
""").build()

res_g = cl.Buffer(ctx, cl.mem_flags.READ_WRITE, 4 * 4096)
prg.arange(queue, [64, 64], [1,1], res_g)

# transfer back to cpu
res_np = np.empty(4096).astype(np.int32)
cl.enqueue_copy(queue, res_np, res_g)

assert (res_np == np.arange(4096)).all()

由于某种原因，断言并不总是正确的

但我的问题是，在处理大型数组时，是否最好使用全部 3 个work_item_dimensions？还是将数组视为一维连续数组并仅使用get_global_id(0) 更好？

Answer 1

如何为第一个指定超过 1024 个工作项 方面？ max_work_item_sizes 是什么意思？

max_work_item_sizes 返回每​​个维度中每个工作组的最大工作项数。

通过将None 作为第三个参数传递：

prg.arange(queue, [4096], None, res_g)
                          ^^^^

要求实施选择最佳的工作组规模。可以通过这种方式检查工作组大小，例如：

res_g[gid] = get_local_size(0);

在我的系统max_work_item_sizes=[4096, 4096, 4096] 中，get_local_size(0) 返回的值为 1024，这意味着实施决定工作组大小为 1024 项，而 4096 / 1024 为我们安排了 4 个工作组。

指定工作组大小，例如到 256 个工作项：

prg.arange(queue, [4096], [256], res_g)

将安排 4 倍的工作组。

与此相关的另一个问题是使用尽可能多的 工作尺寸尽可能？据我了解可以使用 3 最大尺寸。

和

但我的问题是，在处理大型数组时，是否更好 利用所有 3 个 work_item_dimensions？还是治疗比较好 数组作为一维连续数组并且只使用 get_global_id(0)？

根据我的经验，使用一个或多个维度没有区别。所以你做对你来说更方便。

由于某种原因，断言并不总是正确的

那是因为您的代码中存在错误。计算索引应该是：

int gid = get_global_id(0) * get_global_size(0) + get_global_id(1);