【问题标题】:How to convert the python function "any()" to CUDA python compatible code(running on GPU)?如何将 python 函数“any()”转换为 CUDA python 兼容代码(在 GPU 上运行)?
【发布时间】:2018-09-16 09:05:12
【问题描述】:
我想知道如何在 GPU 上实现 numpy 函数any()(使用 Numba python)。 any() 函数接受一个数组,如果输入的至少一个元素的计算结果为 True,则返回 True。
类似:
@vectorize(["boolean(boolean)"], target='cuda')
def AnyFunction(a):
return any(a)
或
@vectorize(["boolean(boolean)"], target='cuda')
def AnyFunction(a):
for i in range(len(a)):
if a[i]==True:
return True
return False
【问题讨论】:
标签:
python
numpy
cuda
numba
【解决方案1】:
any 函数的操作更困难的方面(也许)是归约方面。每个项目的真/假测试是一个可以很容易地完成的操作,例如vectorize,但是将许多结果组合成一个值(减少方面)不能(很容易);事实上vectorize 并不是为了解决这类问题而设计的,至少不是直接的。
但是 numba cuda 提供了一些 help 来解决简单的归约问题(例如这个),而不会强迫您编写自定义的 numba cuda 内核。
这是一种可能的方法:
$ cat t20.py
import numpy
from numba import cuda
@cuda.reduce
def or_reduce(a, b):
return a or b
A = numpy.ones(1000, dtype=numpy.int32)
B = numpy.zeros(1000, dtype=numpy.int32)
expect = A.any() # numpy reduction
got = or_reduce(A) # cuda reduction
print expect
print got
expect = B.any() # numpy reduction
got = or_reduce(B) # cuda reduction
print expect
print got
B[100] = 1
expect = B.any() # numpy reduction
got = or_reduce(B) # cuda reduction
print expect
print got
$ python t20.py
True
1
False
0
True
1
$
一些关于性能的cmets:
- 这可能不是执行此操作的最快方法。但是我从你的问题中得到的印象是,你正在寻找接近普通 python 的东西。
- 写一个custom CUDA kernel in numba 可能会更快地完成这项工作。
- 如果您对性能很认真,那么建议您尝试将此操作与其他要在 GPU 上完成的工作结合起来。在这种情况下,为了获得最大的灵活性,自定义内核将使您能够以最高的性能完成任务。