【问题标题】:Numpy item faster than operator[]Numpy 项目比 operator[] 快
【发布时间】:2015-09-01 14:06:08
【问题描述】:

我在 python 中有以下代码,至少对我来说会产生奇怪的结果:

import numpy as np
import timeit

a = np.random.rand(3,2)

print timeit.timeit('a[2,1] + 1', 'from __main__ import a', number=1000000)
print timeit.timeit('a.item((2,1)) + 1', 'from __main__ import a', number=1000000)

这给出了结果:

0.533630132675
0.103801012039

如果我只尝试访问 numpy 元素似乎没问题,但是当增加这个元素时,时间变得很奇怪......为什么时间会有这样的差异?

【问题讨论】:

  • a[2,1] 是 a.item((2,1)) 的快捷方式吗?另外,您是否多次尝试过您的代码?

标签: python performance numpy


【解决方案1】:

在这种情况下,它们不会返回完全相同的东西。 a[2,1] 返回一个 numpy.float64,而 a.item((2,1)) 返回一个本机 python 浮点数。

本机 vs numpy 标量floatint 等)

numpy.float64 标量与原生 python float 并不完全相同(但是它们的行为相同)。使用原生 python 浮点数对单个元素进行简单操作会更快,因为间接性更少。请查看docstring for ndarray.item 了解更多详情。

作为速度差异的示例,请考虑以下几点:

In [1]: x = 1.2

In [2]: y = np.float64(1.2)

In [3]: %timeit x + 1
10000000 loops, best of 3: 58.9 ns per loop

In [4]: %timeit y + 1
1000000 loops, best of 3: 241 ns per loop

最初,我错误地指出第二个因素是a.item(...)a[...] 稍快。这实际上不是真的。 a.item 将 numpy 标量转换为原生 python 标量所需的时间超过了 a[...]/a.__getitem__(...) 中附加逻辑所需的时间。


不要将此结果推广到多个项目

但是,您应该小心尝试将 numpy 标量所发生的情况概括为 numpy 数组如何作为一个整体运行。如果您在 numpy 中进行大量单项索引,这通常是一种反模式。

例如,比较:

In [5]: a = np.random.rand(1000)

In [6]: %timeit a + 1
100000 loops, best of 3: 2.32 us per loop

无论我们做什么,我们都无法匹配上述矢量化版本 (a + 1) 的速度(或更低的内存使用量):

In [7]: %timeit [x + 1 for x in a]
1000 loops, best of 3: 257 us per loop

In [8]: %timeit [a.item(i) + 1 for i in range(len(a))]
1000 loops, best of 3: 208 us per loop

其中一些原因是遍历 ndarrays 比遍历列表要慢。为了完全公平的比较,让我们将所有内容都转换为原生 python 浮点数列表:

In [9]: b = a.tolist()

In [10]: type(b[0])
Out[10]: float

In [11]: %timeit [x + 1 for x in b]
10000 loops, best of 3: 69.4 us per loop

显然,当您对较大的数组进行操作时,使用矢量化操作(第一种情况)要快得多。它的内存效率也高得多,因为lists 需要存储指向每个项目的指针,而ndarrays 在内存中是连续的。

【讨论】:

    猜你喜欢
    • 2021-06-15
    • 2014-06-28
    • 2012-11-12
    • 1970-01-01
    • 2019-04-30
    • 2022-09-30
    • 1970-01-01
    • 2011-04-08
    • 2017-04-16
    相关资源
    最近更新 更多