【问题标题】:How to launch custom OpenCL kernel in OpenCV (3.0.0) OCL?如何在 OpenCV (3.0.0) OCL 中启动自定义 OpenCL 内核?
【发布时间】:2020-07-06 23:40:04
【问题描述】:

我可能误用了 OpenCV,将其用作官方 OpenCL C++ 绑定的包装器,以便我可以启动自己的内核。

然而,OpenCV 确实有像 Program、ProgramSource、Kernel、Queue 等类,它们似乎告诉我可以使用 OpenCV 启动我自己的(甚至是非基于图像的)内核。我很难找到这些类的文档,更不用说示例了。所以,到目前为止,我尝试了一下:

#include <fstream>
#include <iostream>

#include "opencv2/opencv.hpp"
#include "opencv2/core/ocl.hpp"

#define ARRAY_SIZE 128

using namespace std;
using namespace cv;

int main(int, char)
{
    std::ifstream file("kernels.cl");
    std::string kcode(std::istreambuf_iterator<char>(file),
        (std::istreambuf_iterator<char>()));

    cv::ocl::ProgramSource * programSource;
    programSource = new cv::ocl::ProgramSource(kcode.c_str());

    cv::String errorMessage;
    cv::ocl::Program * program;
    program = new cv::ocl::Program(*programSource, NULL, errorMessage);

    cv::ocl::Kernel * kernel;
    kernel = new cv::ocl::Kernel("simple_add", *program);
    /* I'm stuck here at the args. */

    size_t globalSize[2] = { ARRAY_SIZE, 1 };
    size_t localSize[2] = { ARRAY_SIZE, 1 };    
    kernel->run(ARRAY_SIZE, globalSize, localSize, true);

    return 0;
}

请注意,我还没有设置我的主机变量。我被困在kernel-&gt;args(...)。有 15 个重载,但没有一个指定我应该指定以下每个参数的顺序:

  1. 参数索引,所以我按照内核给定的顺序手动匹配参数。
  2. 宿主变量本身。
  3. 主变量的数组大小 - 通常我会说类似 sizeof(int) * ARRAY_SIZE 之类的内容,尽管我曾经在普通 OpenCL 中的 clEnqueueWriteBuffer 函数中指定它。
  4. 设备缓冲内存访问,例如 CL_MEM_READ_ONLY

它看起来不像我调用 enqueueWriteBufer(...)、enqueueNDRangeKernel(...) 或 enqueueReadBuffer(...) 因为(我猜)kernel->run() 为我完成了所有这些在引擎盖下。我假设 kernel->run() 会将新值写入我的输出参数。

我没有指定命令队列、设备或上下文。我认为只有一个命令队列和一个上下文,以及默认设备——所有这些都是在后台创建的,并且可以从这些类中访问。

那么,我又该如何使用内核的args函数呢?

【问题讨论】:

标签: c++ opencv opencl gpgpu


【解决方案1】:

虽然我不是 100% 确定,但我想出了一个方法来做到这一点。 此示例包含有关如何使用 cv::UMat、基本类型(例如 int/float/uchar)和 Image2D 向自定义内核传递/检索数据的技巧。

#include <iostream>
#include <fstream>
#include <string>
#include <iterator>
#include <opencv2/opencv.hpp>
#include <opencv2/core/ocl.hpp>

using namespace std;

void main()
{
    if (!cv::ocl::haveOpenCL())
    {
        cout << "OpenCL is not avaiable..." << endl;
        return;
    }
    cv::ocl::Context context;
    if (!context.create(cv::ocl::Device::TYPE_GPU))
    {
        cout << "Failed creating the context..." << endl;
        return;
    }

    // In OpenCV 3.0.0 beta, only a single device is detected.
    cout << context.ndevices() << " GPU devices are detected." << endl;
    for (int i = 0; i < context.ndevices(); i++)
    {
        cv::ocl::Device device = context.device(i);
        cout << "name                 : " << device.name() << endl;
        cout << "available            : " << device.available() << endl;
        cout << "imageSupport         : " << device.imageSupport() << endl;
        cout << "OpenCL_C_Version     : " << device.OpenCL_C_Version() << endl;
        cout << endl;
    }

    // Select the first device
    cv::ocl::Device(context.device(0));

    // Transfer Mat data to the device
    cv::Mat mat_src = cv::imread("Lena.png", cv::IMREAD_GRAYSCALE);
    mat_src.convertTo(mat_src, CV_32F, 1.0 / 255);
    cv::UMat umat_src = mat_src.getUMat(cv::ACCESS_READ, cv::USAGE_ALLOCATE_DEVICE_MEMORY);
    cv::UMat umat_dst(mat_src.size(), CV_32F, cv::ACCESS_WRITE, cv::USAGE_ALLOCATE_DEVICE_MEMORY);

    std::ifstream ifs("shift.cl");
    if (ifs.fail()) return;
    std::string kernelSource((std::istreambuf_iterator<char>(ifs)), std::istreambuf_iterator<char>());
    cv::ocl::ProgramSource programSource(kernelSource);

    // Compile the kernel code
    cv::String errmsg;
    cv::String buildopt = cv::format("-D dstT=%s", cv::ocl::typeToStr(umat_dst.depth())); // "-D dstT=float"
    cv::ocl::Program program = context.getProg(programSource, buildopt, errmsg);

    cv::ocl::Image2D image(umat_src);
    float shift_x = 100.5;
    float shift_y = -50.0;
    cv::ocl::Kernel kernel("shift", program);
    kernel.args(image, shift_x, shift_y, cv::ocl::KernelArg::ReadWrite(umat_dst));

    size_t globalThreads[3] = { mat_src.cols, mat_src.rows, 1 };
    //size_t localThreads[3] = { 16, 16, 1 };
    bool success = kernel.run(3, globalThreads, NULL, true);
    if (!success){
        cout << "Failed running the kernel..." << endl;
        return;
    }

    // Download the dst data from the device (?)
    cv::Mat mat_dst = umat_dst.getMat(cv::ACCESS_READ);

    cv::imshow("src", mat_src);
    cv::imshow("dst", mat_dst);
    cv::waitKey();
}

下面是一个“shift.cl”文件。

__constant sampler_t samplerLN = CLK_NORMALIZED_COORDS_FALSE | CLK_ADDRESS_CLAMP_TO_EDGE | CLK_FILTER_LINEAR;
__kernel void shift(
   __global const image2d_t src,
   float shift_x,
   float shift_y,
   __global uchar* dst,
   int dst_step, int dst_offset, int dst_rows, int dst_cols)
{
   int x = get_global_id(0);
   int y = get_global_id(1);
   if (x >= dst_cols) return;
   int dst_index = mad24(y, dst_step, mad24(x, (int)sizeof(dstT), dst_offset));
   __global dstT *dstf = (__global dstT *)(dst + dst_index);
   float2 coord = (float2)((float)x+0.5f+shift_x, (float)y+0.5f+shift_y);
   dstf[0] = (dstT)read_imagef(src, samplerLN, coord).x;
}

重点是使用UMat。我们使用 KernelArg::ReadOnly(umat); 在内核中接收 5 个参数(*data_ptr、int step、int offset、int rows、int cols); 3 (*data_ptr, int step, int offset) with KernelArg::ReadOnlyNoSize(umat);并且只有 1 个 (*data_prt) 带有 KernelArg::PtrReadOnly(umat)。此规则对于 WriteOnly 和 ReadWrite 相同。

访问数据数组时需要步长和偏移量,因为由于内存地址对齐,UMat可能不是密集矩阵。

cv::ocl::Image2D 可以从 UMat 实例构造,并且可以直接传递给 kernel.args()。使用 image2D_t 和 sampler_t,我们可以从 GPU 的硬件纹理单元中受益,用于线性插值采样(具有实值像素坐标)。

请注意,“-D xxx=yyy”构建选项提供了内核代码中从 xxx 到 yyy 的文本替换。

您可以在我的帖子中找到更多代码:http://qiita.com/tackson5/items/8dac6b083071d31baf00

【讨论】:

  • 我无法编译你的 OpenCL 内核。 error: parameter may not be qualified with an address space: __global const image2d_t src 我的 OCL 设备是 Intel Iris GPU。有什么建议吗?
  • @max0r 就我而言,我通过将__global const image2d_t src 替换为read_only image2d_t src 解决了这个问题。不确定这是否是我开始学习 OpenCL 的正确方法。
  • @Catree 你怎么知道我们应该使用哪个输入参数?这里有官方文件吗?提前谢谢
  • @WeiYuangHsu 您可以在OpenCL site 上找到一些参考资料。有一个cheat sheetOpenCL 2.2 here 的参考指南。
  • @Catree 谢谢您的回复!
猜你喜欢
  • 2011-01-26
  • 2021-09-24
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2014-04-12
  • 2021-10-05
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多