Anaconda MKL 无法设置线程数

Question

我使用 anaconda 中的 numpy 来对大矩阵乘法（8192x8192 类型为 float32）进行基准测试，如下所示：（在 jupyter 中）

import numpy as np
a = np.empty((8192, 8192), 'f')
%timeit a @ a

numpy 是针对 MKL 构建的。当做乘法（连续）时，我发现 python 的 CPU 使用率总是 50%。我想知道为什么它不是 100%（因为矩阵乘法应该自动颚化）。因此，我四处搜索并找到两种方法来设置 MKL 使用的线程数。

一种方法是直接使用 DLL：

from ctypes import CDLL
mkl = CDLL('../conda/pkgs/mkl-2019.0-118/Library/bin/mkl_rt.dll')
print(mkl.MKL_Set_Num_Threads(4))
print(mkl.MKL_Get_Max_Threads())

我相信它给了我一些未知的错误代码并且未能设置：

-899695632
2

另一种方式是通过mkl-service包：

import mkl
print(mkl.set_num_threads(4))
print(mkl.get_max_threads())

这也没有成功。

None
2

我想知道为什么在 MKL 中设置 4 个线程总是失败以及如何使其工作。我在Win7，64bit。我的 CPU 是 i5-2520M，它应该有 4 个核心。我的anaconda环境如下：（略）

mkl                       2019.0                      118
mkl-service               1.1.2            py36hb217b18_5
mkl_fft                   1.0.6            py36hdbbee80_0
mkl_random                1.0.1            py36h77b88f5_1
numpy                     1.15.3           py36ha559c80_0
numpy-base                1.15.3           py36h8128ebf_0
zeromq                    4.2.5                he025d50_1

Answer 1

请考虑以下文档： https://software.intel.com/en-us/articles/intel-math-kernel-library-intel-mkl-intel-mkl-100-threading

关键变量是MKL_NUM_THREADS，您可以将其设置为全局Windows 变量。

我强烈反对@roro 在这点上。您看到 50% 的原因是您没有使用超线程功能。话虽如此，请记住，计算速度有两个限制因素：CPU 能力和！！内存访问带宽。通常第二个会限制速度，说是 CPU 功率的 70%，因为 RAM/缓存不能足够快地向算法提供数据。

正确处理并行性是 HPC 中更具挑战性的部分之一。