cudaMemcpy 设备到远程主机

Question

我正在做一个在主机上运行并使用 GPU 进行计算的模拟。计算完成后，主机将内存从设备复制到自身，然后将计算的数据发送到远程主机。

基本上数据会做：GPU -> HOST -> NETWORK CARD

由于模拟是实时的，所以时间很重要，我想要这样的东西：GPU -> NETWORKCARD，以减少数据传输的延迟。

有可能吗？ 如果不是，我们有朝一日会看到吗？

编辑：远程主机 => CPU

Answer 1

是的，这在 CUDA 4.0 和更高版本中可以在支持统一直接寻址的平台上使用GPUDirect facility（我认为现阶段基本上是带有 Fermi 或 Kepler Telsa 卡的 linux）。您对“远程主机”的含义没有多说，但是如果您有一个 MPI 可行的网络，那么可能有一个现成的解决方案供您使用。

至少mvapich2 已经支持使用 Infiniband 或 TCP/IP 进行 GPU-GPU 传输，包括通过 PCI express 总线直接到 Infiniband 适配器的 RDMA。到目前为止，其他 MPI 实现可能也得到了支持，尽管我最近没有仔细研究过它，无法确定。