我对 cudamallocmanaged 的疑问是，如果我 malloc N 个数字，在 GPU 完成对这些数字的操作（比如说扫描操作）之后，我只需要数组中的最后一个数字，并且只访问主机中的这个数字. cudamallocmanaged 只会复制这个数字吗？
我做了一个测试，我的答案是否定的。所以我认为在这种情况下 cudamalloc/free/copy 比 cudamallocmanaged 更快。如果我错了，请纠正我。
那么接下来的问题是：如何知道来回复制的时间和数量？
【问题讨论】：
您的问题的答案通常是“是”，以页面（通常为 4K）为基础。对于 CPU->GPU 副本，驱动程序通过跟踪脏位来懒惰地复制 CPU 页面。内核启动后，托管内存被标记为非驻留内存，因此 CPU 访问将出错。然后在 CPU/GPU 同步操作之后，它处于非驻留状态，驱动程序通过将访问的页面从设备内存复制回来来解决页面错误。
这是基于我去年某个时候所做的一项研究，因此从那时起它可能已经发生了变化。鉴于托管内存的语义，NVIDIA 有许多不同的实现选项，您可以期望它们会随着 NVIDIA 优化其代码而改变。
我以 500MB/s 的速度测量了托管内存的块 GPU->CPU 副本，比固定的 memcpy 慢 25 倍，因此随着 NVIDIA 弄清楚如何优化这些代码路径，预计会发生变化。例如，如果他们在 GPU 端进行脏位跟踪，他们可以推测性地将 GPU 写入的页面复制回 CPU 内存。这将提供更高的带宽，但可能会导致永远不会访问的多余数据副本。
【讨论】：