【问题标题】:OpenCL how to change the memory address of cl_mem?OpenCL如何改变cl_mem的内存地址?
【发布时间】:2016-04-05 03:02:02
【问题描述】:

我想做一个子矩阵乘法。假设我有一个函数:

void MatMul(cl_mem A, cl_mem B, cl_mem C, int M, int K, int N)

其中A是M*K,B是K*N,C是M*N,A、B、C都是主机内存float *h_A, *h_B, *hC传递的行主一维数组,函数如下:

void ocl_push_array(cl_mem d_x, float *h_x, int n){
    size_t data_size = sizeof(float)*n;
    err = clEnqueueWriteBuffer(queue, d_x, CL_TRUE, 0, data_size, h_x, 0, NULL, NULL);
}

我想问:

如果我想进行子矩阵乘法,比如说按行切片 A:

    // cl_mem A, B, C;
    for(int x=0; x<M; x+=16)
    {
        cl_mem A_sub = (cl_mem)((float *)A+x*K);
        cl_mem C_sub = (cl_mem)((float *)C+x*N);
        if((M-x+1)>=16)
            MatMul(A_sub, B, C_sub, 16, K, N);
        else
            MatMul(A_sub, B, C_sub, M-x+1, K, N);
    }

执行此操作的代码是否正确?我收到一个运行时错误:"CL_INVALID_MEM_OBJECT" (-38) 当它为 OpenCL 内核分配参数时 (clSetKernelArg)。

我想做这个操作的原因是当我的输入矩阵 A 和 B 变大时,我发现矩阵乘法得到了错误的答案。

我的 OpenCL 内核是:

#define BLOCK_SIZE 16

#define AS(i, j) As[j + i * BLOCK_SIZE]
#define BS(i, j) Bs[j + i * BLOCK_SIZE]

__kernel void
matrixMul(__global float* A, __global float* B, __global float* C, 
   __local float* As, __local float* Bs, int uiWA, int uiWB)
{
    int bx = get_group_id(0);
    int by = get_group_id(1);
    int tx = get_local_id(0);
    int ty = get_local_id(1);
    int aBegin = uiWA * BLOCK_SIZE * by;
    int aEnd   = aBegin + uiWA - 1;
    int aStep  = BLOCK_SIZE;
    int bBegin = BLOCK_SIZE * bx;
    int bStep  = BLOCK_SIZE * uiWB;
    float Csub = 0.0f;
    for (int a = aBegin, b = bBegin; a <= aEnd; a += aStep, b += bStep) {
        AS(ty, tx) = A[a + uiWA * ty + tx];
        BS(ty, tx) = B[b + uiWB * ty + tx];
        barrier(CLK_LOCAL_MEM_FENCE); 
        #pragma unroll
        for (int k = 0; k < BLOCK_SIZE; ++k)
        Csub += AS(ty, k) * BS(k, tx);
            barrier(CLK_LOCAL_MEM_FENCE);
        }
        C[get_global_id(1) * get_global_size(0) + get_global_id(0)] = Csub; 
    }

大小为:

#define BLOCK_SIZE 16

size_t localWorkSize[] = {BLOCK_SIZE, BLOCK_SIZE};
size_t globalWorkSize[] = {shrRoundUp(BLOCK_SIZE, N), shrRoundUp(BLOCK_SIZE, M)};

size_t shrRoundUp(int group_size, int global_size) 
{
    int r = global_size % group_size;
    if(r == 0) 
    {
        return global_size;
    } else 
    {
        return global_size + group_size - r;
    }
}

代码取自 Nvidia OpenCL 矩阵乘法示例。我的 GPU 是:Intel(R) HD Graphics 4600。

谢谢!

【问题讨论】:

    标签: opencl matrix-multiplication


    【解决方案1】:

    我认为你不能这样做:

    cl_mem A_sub = (cl_mem)((float *)A+x*K);
    

    因为 cl_mem 是 OpenCL 中的一个对象,它实际上是一个复杂的数据结构,而不仅仅是一个数据指针。它维护诸如指向实际内存的数据指针、对对象的引用、内存属性等信息。不同的运行时甚至可能有不同的 cl_mem 对象实现。这就是您收到 CL_INVALID_MEM_OBJECT 错误消息的原因。

    获取子矩阵所需数据的方法是以下之一:

    1. 定义两个新的cl_mem对象,使用单独的内核来做 复制工作。

    2. 使用clEnqueueCopyBuffer函数在主机复制数据 码域。

    3. 使用 CL_MEM_ALLOC_HOST_PTR 到内存缓冲区,然后使用 clEnqueueMapBuffer 将 GPU 内存映射到主机内存指针,并且 然后使用映射的主机内存修改内存内容 指针,完成后,取消映射指针以返回 GPU 内存 到设备内存域。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 2014-05-01
      • 1970-01-01
      • 2012-07-25
      • 2018-07-04
      • 1970-01-01
      • 2017-03-27
      • 2010-10-12
      相关资源
      最近更新 更多