cufftPlan2d 异常执行时间长

Question

我正在使用 cufft 库。我正在使用 cufftPlan2d 函数来创建我需要的计划。以下是我的代码：

cudaEvent_t start1,stop1;
    cudaEventCreate(&start1);
    cudaEventCreate(&stop1);
    cudaEventRecord(start1, 0);

    cufftHandle plan1;
    cufftPlan2d(&plan1,HEIGHT2,WIDTH2,CUFFT_C2C);
    cudaEventRecord(stop1,0);
    cudaEventSynchronize(stop1);
    float etime;
    cudaEventElapsedTime(&etime,start1,stop1);

其中 HEIGHT2=1080*2，WIDTH2=1920*2。但是etime=919.542419ms，时间太长了，怎么做才能减少时间？

Answer 1

第一次调用 cuda 命令时会发生很多初始化。这是因为 cuda 使用延迟初始化，有关如何捕获它，请参阅 talonmies 之前的答案 here。

引用Nvidia forums:

CUDA 使用延迟初始化。如果您想确保函数 xyz 的所有必要初始化都已完成，唯一确定的方法是调用函数 xyz。之后，如果再次调用 xyz，应该没有初始化开销。

对于 CUDA，在第一次调用设备内存分配器（如 cudaMalloc）后，应该完成大量初始化。

对于像 CUFFT 这样的库，在调用任何调用设备内核的库函数（例如任何 cufft exec 调用）后，应该完成大量初始化。