OpenCV CUDA 运行速度比 OpenCV CPU 慢

Question

当我从 avi 文件中读取视频时，我一直在努力让 OpenCV CUDA 提高侵蚀/扩张、帧差分等方面的性能。通常我在 GPU (580gtx) 上获得的 FPS 比在 CPU (AMD 955BE) 上低一半。在你问我是否正确测量 fps 之前，你可以用肉眼清楚地看到 GPU 上的延迟，尤其是在使用高腐蚀/扩张级别时。

似乎我没有在框架中并行阅读？代码如下：

#include <opencv2/imgproc/imgproc.hpp>
#include <opencv2/highgui/highgui.hpp>
#include <opencv2/video/tracking.hpp>
#include <opencv2/gpu/gpu.hpp>
#include <stdlib.h>
#include <stdio.h>

using namespace cv;
using namespace cv::gpu;

Mat cpuSrc;
GpuMat src, dst;

int element_shape = MORPH_RECT;

//the address of variable which receives trackbar position update
int max_iters = 10;
int open_close_pos = 0;
int erode_dilate_pos = 0;

// callback function for open/close trackbar
void OpenClose(int)
{
     IplImage disp;
     Mat temp;
    int n = open_close_pos - max_iters;
    int an = n > 0 ? n : -n;
    Mat element = getStructuringElement(element_shape, Size(an*2+1, an*2+1), Point(an, an) );
    if( n < 0 )
        cv::gpu::morphologyEx(src, dst, CV_MOP_OPEN, element);
    else
        cv::gpu::morphologyEx(src, dst, CV_MOP_CLOSE, element);

    dst.download(temp);
    disp = temp;    
   // cvShowImage("Open/Close",&disp);
}

// callback function for erode/dilate trackbar
void ErodeDilate(int)
{
     IplImage disp;
     Mat temp;
    int n = erode_dilate_pos - max_iters;
    int an = n > 0 ? n : -n;
    Mat element = getStructuringElement(element_shape, Size(an*2+1, an*2+1), Point(an, an) );
    if( n < 0 )
        cv::gpu::erode(src, dst, element);
    else
        cv::gpu::dilate(src, dst, element);
    dst.download(temp);
    disp = temp;    
    cvShowImage("Erode/Dilate",&disp);
}


int main( int argc, char** argv )
{

    VideoCapture capture("TwoManLoiter.avi");

    //create windows for output images
    namedWindow("Open/Close",1);
    namedWindow("Erode/Dilate",1);

    open_close_pos = 3;
    erode_dilate_pos = 0;
    createTrackbar("iterations", "Open/Close",&open_close_pos,max_iters*2+1,NULL);
    createTrackbar("iterations", "Erode/Dilate",&erode_dilate_pos,max_iters*2+1,NULL);

    for(;;)
    {

         capture >> cpuSrc;
         src.upload(cpuSrc);
         GpuMat grey;
         cv::gpu::cvtColor(src, grey, CV_BGR2GRAY); 
         src = grey;

        int c;

        ErodeDilate(erode_dilate_pos);
        c = cvWaitKey(25);

        if( (char)c == 27 )
            break;

    }

    return 0;
}

CPU 实现与使用命名空间 cv::gpu 和 Mat 而不是 GpuMat 相同。

谢谢

Answer 1

我的猜测是，GPU 侵蚀/扩张带来的性能增益被每帧向 GPU 传输图像和从 GPU 传输图像的内存操作过度加权。请记住，内存带宽是 GPGPU 算法的关键因素，更重要的是 CPU 和 GPU 之间的带宽。

编辑：要优化它，您可以编写自己的图像显示例程（而不是 cvShowImage），它使用 OpenGL 并将图像显示为 OpenGL 纹理。在这种情况下，您不需要将处理后的图像从 GPU 读取回 CPU，并且可以直接使用 OpenGL 纹理/缓冲区作为 CUDA 图像/缓冲区，因此您甚至不需要将图像复制到 GPU 内.但在这种情况下，您可能必须自己管理 CUDA 资源。使用这种方法，您还可以使用 PBO 将视频上传到纹理中，并从异步中获利。