第二个内核上的cuda“无效参数”错误

Question

我遇到了内核启动问题。我有一个使用一个大内核的程序。由于同步问题，现在我需要将其分成两部分。第一个内核做了一些初始化工作，并获得了传递给第二个内核的参数子集。只运行第一个内核工作正常。由于缺少初始化，仅运行第二个内核在执行时失败，但内核本身已启动。连续运行这两个内核会使第二个内核因“无效参数”错误而失败。如有必要，我将提供代码，但现在无法弄清楚它可能有什么帮助。提前致谢。

编辑： 这里是请求的启动代码：

void DeviceManager::integrate(){
  assert(hostArgs->neighborhoodsSize > 0);
  size_t maxBlockSize;
  size_t blocks;
  size_t threadsPerBlock;
  // init patch kernel
  maxBlockSize = 64;
  blocks = (hostArgs->patchesSize /maxBlockSize);
  if(0 != hostArgs->patchesSize % maxBlockSize){
    blocks++;
  }
  threadsPerBlock = maxBlockSize;
  std::cout << "blocks: " << blocks << ", threadsPerBlock: " << threadsPerBlock << std::endl;
  initPatchKernel<CUDA_MAX_SPACE_DIMENSION><<<blocks,threadsPerBlock>>>(devicePatches, hostArgs->patchesSize);
  cudaDeviceSynchronize();

  //calc kernel
  maxBlockSize = 64;
  blocks = (hostArgs->neighborhoodsSize /maxBlockSize);
  if(0 != hostArgs->neighborhoodsSize % maxBlockSize){
    blocks++;
  }
  threadsPerBlock = maxBlockSize;
  size_t maxHeapSize = hostArgs->patchesSize * (sizeof(LegendreSpace) + sizeof(LinearSpline)) + hostArgs->neighborhoodsSize * (sizeof(ReactionDiffusionCCLinearForm) + sizeof(ReactionDiffusionCCBiLinearForm));
  std::cout << "maxHeapSize: " << maxHeapSize << std::endl;
  cudaDeviceSetLimit(cudaLimitMallocHeapSize, maxHeapSize);
  std::cout << "blocks: " << blocks << ", threadsPerBlock: " << threadsPerBlock << std::endl;
  integrateKernel<CUDA_MAX_SPACE_DIMENSION><<<blocks,threadsPerBlock>>>(deviceNeighborhoods, hostArgs->neighborhoodsSize, devicePatches, hostArgs->patchesSize, hostArgs->biLinearForms, hostArgs->linearForms, deviceRes);
  cudaDeviceSynchronize();
}

内存传输和分配应该不是问题，因为它在只使用一个内核时工作。

编辑 2： 通过包装函数在调试模式下构建时，我会在每次内核调用后检查错误。所以在每次内核调用之后都会执行以下操作：

cudaError_t cuda_result_code = cudaGetLastError();                        
if (cuda_result_code!=cudaSuccess) {                                      
   fprintf("message: %s\n",cudaGetErrorString(cuda_result_code));
}

很抱歉没有提到这一点，包装器不是我的，很抱歉没有粘贴这个技巧。 失败前的输出如下：

blocks: 1, threadsPerBlock: 64
maxHeapSize: 4480
blocks: 1, threadsPerBlock: 64
message: invalid argument

Answer 1

cudaDeviceSetLimit

cudaLimitMallocHeapSize 控制 malloc() 和 free() 设备系统调用使用的堆的大小（以字节为单位）。必须在启动任何使用 malloc() 或 free() 设备系统调用的内核之前执行设置 cudaLimitMallocHeapSize，否则将返回 cudaErrorInvalidValue。此限制仅适用于计算能力 2.0 及更高版本的设备。尝试在计算能力小于 2.0 的设备上设置此限制将导致返回错误 cudaErrorUnsupportedLimit。