【问题标题】:use multithreading in numba在 numba 中使用多线程
【发布时间】:2018-09-24 01:03:12
【问题描述】:

我有一个在多边形测试中执行点的函数。它需要两个 2D numpy 数组作为输入(一系列点和一个多边形)。该函数返回一个布尔值作为输出(如果该点位于多边形内,则为 True,否则为 False)。代码借自this SO answer。下面是一个例子:

from numba import jit
from numba.pycc import CC
cc = CC('nbspatial')
import numpy as np

@cc.export('array_tracing2', 'b1[:](f8[:,:], f8[:,:])')
@jit(nopython=True, nogil=True)
def array_tracing2(xy, poly):
    D = np.empty(len(xy), dtype=numba.boolean)
    n = len(poly)
    for i in range(1, len(D) - 1):
        inside = False
        p2x = 0.0
        p2y = 0.0
        xints = 0.0
        p1x,p1y = poly[0]
        x = xy[i][0]
        y = xy[i][1]
        for i in range(n+1):
            p2x,p2y = poly[i % n]
            if y > min(p1y,p2y):
                if y <= max(p1y,p2y):
                    if x <= max(p1x,p2x):
                        if p1y != p2y:
                            xints = (y-p1y)*(p2x-p1x)/(p2y-p1y)+p1x
                        if p1x == p2x or x <= xints:
                            inside = not inside
            p1x,p1y = p2x,p2y
        D[i] = inside
    return D


if __name__ == "__main__":
    cc.compile()

上面的代码可以通过运行python numba_src.py进行编译并用:

import numpy as np
# regular polygon for testing
lenpoly = 10000
polygon = np.array([[np.sin(x)+0.5,np.cos(x)+0.5] for x in np.linspace(0,2*np.pi,lenpoly)[:-1]])

# random points set of points to test 
N = 100000
# making a list instead of a generator to help debug
pp = np.array([np.random.random(N), np.random.random(N)]).reshape(N,2)


import nbspatial
nbspatial.array_tracing2(pp, polygon) 

我的尝试是将上面的代码并行化,以便利用所有可用的 CPU。

我尝试按照numba official documentation 中的示例使用@njit

import numba

@njit(parallel=True)
def array_tracing3(xy, poly):
    D = np.empty(len(xy), dtype=numba.boolean)
    n = len(poly)
    for i in range(1, len(D) - 1):
        inside = False
        p2x = 0.0
        p2y = 0.0
        xints = 0.0
        p1x,p1y = poly[0]
        x = xy[i][0]
        y = xy[i][1]
        for i in range(n+1):
            p2x,p2y = poly[i % n]
            if y > min(p1y,p2y):
                if y <= max(p1y,p2y):
                    if x <= max(p1x,p2x):
                        if p1y != p2y:
                            xints = (y-p1y)*(p2x-p1x)/(p2y-p1y)+p1x
                        if p1x == p2x or x <= xints:
                            inside = not inside
            p1x,p1y = p2x,p2y
        D[i] = inside
    return D

上面的代码为N=1000000 在预编译串行版本的55'' 与1' 33'' 中完成。系统监视器显示只有一个 CPU 以 100% 运行。

如何尝试利用所有可用的 CPU,并将结果返回到单个 booleansd 数组中?

【问题讨论】:

  • 请始终包含对代码应该做什么的英文描述,而不仅仅是大块代码。我们是人类,而不是编译器。
  • 感谢 cmets,我在描述中添加了一点人性,并参考了之前的 SO 问题。希望现在好多了。
  • 您使用的是哪个版本的 Numba?我会注意到最近刚刚发布的 0.40 包括对线程相关部分的大量重写,并且之前的版本有许多错误(也许 0.40 也有错误,但我肯定不会建议多线程代码的早期版本) .
  • 我正在使用 2018 年 9 月 23 日构建的 git master '0.41.0dev0+17.g29e951436'

标签: python multithreading multiprocessing numba


【解决方案1】:

Numba 的 parallel=True 仅对某些函数启用自动并行性,而不是对所有循环。您应该用numba.prange 替换您的range() 表达式之一以启用多核计算。

见:https://numba.pydata.org/numba-doc/dev/user/parallel.html

【讨论】:

  • 谢谢!就是这样! -- 通过添加parallel=True 并使用numba.prange,我得到了使用所有CPU 的代码。但它仅适用于代码的交互式非预编译版本。我做了一个笔记本来重现这个例子。任何线索为什么预编译版本不能并行调整? gist.github.com/47340242f5be2de2c50577bf82c37143
  • @epifanio: numba.prange 只是一个调用range 的函数。它由 JIT 编译器检测到。我猜预编译器 (pycc) 无法识别它。我想你可以提交一个功能请求,但现在看来 prange 在预编译时可能不会做任何特别的事情(就像你使用 parallel=False 进行 JIT 编译一样)。
  • 感谢您的解释!我更新了要点,以便包含一个在单点(而不是数组)上运行 numba 函数的版本,然后编写一个简单的函数,使用惊人的 numba.prange 在数组上循环
  • 注意:Numba 的 parallel=True 在交互式运行代码时似乎工作正常,但如果我尝试使用 numba.pycc 预编译代码则会失败。公开问题here
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2019-01-16
  • 2015-12-21
  • 2020-07-04
  • 2015-07-16
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多