Caffe 多 CPU 构建答案

【问题标题】：Caffe multi CPU buildCaffe 多 CPU 构建
【发布时间】：2016-05-19 14:59:00
【问题描述】：

我正在尝试在 VirtualBox 中的 Ubuntu 14.04 x64 上构建 Caffe，openblas 处于 CPU_ONLY 模式。（Enviroment install script，Makefile.config）

另外我没有编译OpenBlas，而是通过apt-get 像sudo apt-get -y install libopenblas-dev 安装它，这可能是问题的原因吗？

设置任何这些变量后，速度都没有提高，在 htop 中我只看到一个 CPU 利用率。

export OPENBLAS_NUM_THREADS=4
export GOTO_NUM_THREADS=4
export OMP_NUM_THREADS=4

如何检查 Caffe 是否使用多个线程/CPU？

更新：

我在 MNIST example 上尝试了 caffe 二进制文件，它使用了 400% 的 CPU。

1 个线程

I0520 15:58:09.749832 12424 caffe.cpp:178] Use CPU.
...
I0520 16:06:14.553506 12424 caffe.cpp:222] Optimization Done.
~8 min

4 个线程

I0520 16:06:44.634735 12446 caffe.cpp:178] Use CPU.
...
I0520 16:13:15.904394 12446 caffe.cpp:222] Optimization Done.
~6.5 min

ps -T -p <PID> 给我：

export OPENBLAS_NUM_THREADS=1 6个线程

export OPENBLAS_NUM_THREADS=4 9 个线程

似乎 openblas 工作，但它取决于网络架构？

好像也是Caffe also use BLAS for conv layers。

【问题讨论】：

标签： multithreading build multiprocessing caffe

【解决方案1】：

我在 CentOS 7.3 上使用 intel 分支，并且在训练 caffenet 示例时能够在我的 Broadwell 上看到 2500% 的 CPU 使用率。以下是我用来构建工具的步骤：

git clone https://github.com/BVLC/caffe.git caffe_intel
cd caffe_intel
git branch -r
git checkout intel
cp Makefile.config.example Makefile.config
  # mkl will be automatically download once make is run
  # Edit Makefile.config in the following lines
  PYTHON_LIB := /usr/lib64
  LIBRARY_DIRS := $(PYTHON_LIB) /usr/local/lib /usr/lib64 /usr/lib   
yum install cmake # will be used to build mkl as a sub-routine of make
make -j32 all
make pycaffe
make distribute
cd distribute/lib
ln -s ../../external/mkldnn/install/lib/libmkldnn.so .

并将 caffe_intel/distribute/bin 放入 $PATH，caffe_intel/distribute/lib 放入 $LD_LIBRARY_PATH。另外，通过在 prototxt 文件的开头添加以下行来启用 mkl 库

engine: "MKL2017"

【讨论】：