【发布时间】：2010-09-22 22:06:29
【问题描述】：
我现在开始使用 CUDA，不得不承认我对 C API 有点失望。我理解选择 C 的原因，但是如果该语言是基于 C++ 的，那么几个方面会简单得多，例如设备内存分配（通过cudaMalloc）。
我的计划是自己做这件事，使用重载的 operator new 和放置 new 和 RAII（两种选择）。我想知道到目前为止是否有任何我没有注意到的警告。代码似乎可以工作，但我仍然想知道潜在的内存泄漏。
RAII代码的用法如下：
CudaArray<float> device_data(SIZE);
// Use `device_data` as if it were a raw pointer.
也许在这种情况下一个类是多余的（特别是因为你仍然必须使用cudaMemcpy，这个类只封装了RAII）所以另一种方法是放置new：
float* device_data = new (cudaDevice) float[SIZE];
// Use `device_data` …
operator delete [](device_data, cudaDevice);
这里，cudaDevice 只是作为一个标签来触发过载。然而，由于在正常放置 new 这将指示放置，我发现语法奇怪地一致，甚至可能比使用类更可取。
我会很感激各种批评。有人可能知道下一个版本的 CUDA 是否计划在这个方向上做一些事情（据我所知，这将改进其对 C++ 的支持，不管他们的意思是什么）。
所以，我的问题实际上是三方面的：
- 我的位置
new重载在语义上是否正确？它会泄漏内存吗？ - 有没有人知道未来 CUDA 发展朝着这个大方向发展的信息（让我们面对现实：C++ s*ck 中的 C 接口）？
- 我怎样才能以一致的方式更进一步（还有其他 API 需要考虑，例如，不仅有设备内存，还有常量内存存储和纹理内存）？
// Singleton tag for CUDA device memory placement.
struct CudaDevice {
static CudaDevice const& get() { return instance; }
private:
static CudaDevice const instance;
CudaDevice() { }
CudaDevice(CudaDevice const&);
CudaDevice& operator =(CudaDevice const&);
} const& cudaDevice = CudaDevice::get();
CudaDevice const CudaDevice::instance;
inline void* operator new [](std::size_t nbytes, CudaDevice const&) {
void* ret;
cudaMalloc(&ret, nbytes);
return ret;
}
inline void operator delete [](void* p, CudaDevice const&) throw() {
cudaFree(p);
}
template <typename T>
class CudaArray {
public:
explicit
CudaArray(std::size_t size) : size(size), data(new (cudaDevice) T[size]) { }
operator T* () { return data; }
~CudaArray() {
operator delete [](data, cudaDevice);
}
private:
std::size_t const size;
T* const data;
CudaArray(CudaArray const&);
CudaArray& operator =(CudaArray const&);
};
关于这里使用的单例：是的，我知道它的缺点。但是，这些在这种情况下无关紧要。我在这里只需要一个不可复制的小型标签。其他所有内容（即多线程注意事项、初始化时间）均不适用。
【问题讨论】：
-
您的单例实现充其量是危险的。请参阅有关如何在 C++ 中创建单例的许多其他讨论。
-
是的，你是对的。但是，请参阅我在代码下方的新说明。
标签： c++ cuda raii placement-new