如何使用 GPU 确保 caffe？答案

【问题标题】：How can I make ensure caffe using GPU?如何使用 GPU 确保 caffe？
【发布时间】：2016-11-10 11:29:27
【问题描述】：

有什么方法可以确保 caffe 使用 GPU？在安装 CUDA 驱动程序并且在 cmake 中没有 CPU_ONLY 标志并且在编译 cmake 时记录了对 CUDA 8.0 的检测时，我编译了 caffe。

但是在训练样本时，我怀疑它是否根据nvidia-smi 结果使用 GPU。如何保证？

【问题讨论】：

如果您没有看到在 nvidia-smi 中运行的 caffe，它可能没有使用 GPU。你有没有在你的solver.prototxt中设置solver_mode: gpu？

【解决方案1】：

对于未来四处搜寻的caffe流浪者，这对我来说终于成功了：

caffe.set_mode_gpu()
caffe.set_device(0)

我确实有 solver_mode: GPU，它会在 gpu 上显示进程，但是使用 nvidia-smi 看到的“GPU 内存使用情况”不足以适合我的模型（所以我知道出了点问题...... )

【讨论】：

【解决方案2】：

我知道的最可靠的方法是正确配置solver.prototxt 文件。包含该行

求解器模式：GPU

如果您对模型的每一层中使用的引擎有任何规范，您还需要确保它们引用 GPU 软件。

【讨论】：

【解决方案3】：

您可以在程序中显式使用Caffe::set_mode(Caffe::GPU);。

为了确保进程正在使用 GPU，您可以在 ubuntu 中使用nvidia-smi 命令来确定哪个进程使用 GPU。

对于我来说，我是使用 MTCNN 做人脸检测（caffe 实现）：

我使用nvidia-smi命令来显示使用GPU的进程，如果你想按间隔查看它使用watch nvidia-smi。

如下图，我们可以看到进程mtcnn_c(use caffe backend)正在使用GPU。

【讨论】：