如何用 NVIDIA GPU 解释这个关于 `nvidia-smi` 的图？

Question

我刚刚在安装了两个K20m GPU 的服务器上运行simpleMultiGPU。然后运行nvidia-smi 命令以显示 GPU 的状态。结果如下：

问题如下：

1. GPU 内存使用情况似乎不一样。
2. device 1 的 Volatile GPU-Util 为 99%。

有什么建议吗？

Answer 1

1. 没有概念表明在多个 GPU 上运行应用程序时内存利用率必须相同。此外，内存利用率在应用程序的不同点可能会有所不同，具体取决于内存使用采样发生时的底层活动（例如进行分配的点）。

2. 设备 1 的不稳定 GPU 使用可能表明应用程序和/或 nvidia-smi 正在设备 1 上引起活动。

不清楚您为什么将这些称为问题。您正在监控设备上的活动。