【问题标题】:Replace numpy matrix elements with submatrices用子矩阵替换 numpy 矩阵元素
【发布时间】:2017-05-09 09:19:20
【问题描述】:

鉴于我有一个索引方阵,例如:

idxs = np.array([[1, 1],
                 [0, 1]])

和一个彼此大小相同的方阵数组(不一定与idxs大小相同):

mats = array([[[ 0. ,  0. ],
               [ 0. ,  0.5]],

              [[ 1. ,  0.3],
               [ 1. ,  1. ]]])

我想将idxs中的每个索引替换为mats中对应的矩阵,得到:

array([[ 1. ,  0.3,  1. ,  0.3],
       [ 1. ,  1. ,  1. ,  1. ],
       [ 0. ,  0. ,  1. ,  0.3],
       [ 0. ,  0.5,  1. ,  1. ]])

mats[idxs] 给了我这个的嵌套版本:

array([[[[ 1. ,  0.3],
         [ 1. ,  1. ]],

        [[ 1. ,  0.3],
         [ 1. ,  1. ]]],


       [[[ 0. ,  0. ],
         [ 0. ,  0.5]],

        [[ 1. ,  0.3],
         [ 1. ,  1. ]]]])

所以我尝试使用reshape,但没有用! mats[idxs].reshape(4,4) 返回:

array([[ 1. ,  0.3,  1. ,  1. ],
       [ 1. ,  0.3,  1. ,  1. ],
       [ 0. ,  0. ,  0. ,  0.5],
       [ 1. ,  0.3,  1. ,  1. ]])

如果有帮助,我发现 skimage.util.view_as_blocks 与我需要的完全相反(它可以将我想要的结果转换为嵌套的 mats[idxs] 形式)。

是否有(希望非常)快速的方法来做到这一点?对于应用程序,我的mats 仍然只有几个小矩阵,但我的idxs 将是一个最大为 2^15 的方阵,在这种情况下,我将替换超过一百万个索引来创建一个新的 2^16 阶矩阵。

非常感谢您的帮助!

【问题讨论】:

  • 糟糕!是的,应该 - 谢谢!

标签: python performance numpy indexing vectorization


【解决方案1】:

我们正在使用这些索引对输入数组的第一个轴进行索引。要获得2D 输出,我们只需要置换轴并在之后重塑。因此,一种方法是使用np.transpose/np.swapaxesnp.reshape,就像这样 -

mats[idxs].swapaxes(1,2).reshape(-1,mats.shape[-1]*idxs.shape[-1])

示例运行 -

In [83]: mats
Out[83]: 
array([[[1, 1],
        [7, 1]],

       [[6, 6],
        [5, 8]],

       [[7, 1],
        [6, 0]],

       [[2, 7],
        [0, 4]]])

In [84]: idxs
Out[84]: 
array([[2, 3],
       [0, 3],
       [1, 2]])

In [85]: mats[idxs].swapaxes(1,2).reshape(-1,mats.shape[-1]*idxs.shape[-1])
Out[85]: 
array([[7, 1, 2, 7],
       [6, 0, 0, 4],
       [1, 1, 2, 7],
       [7, 1, 0, 4],
       [6, 6, 7, 1],
       [5, 8, 6, 0]])

使用np.take 提升重复索引的性能

对于重复索引,为了提高性能,我们最好使用np.take,沿axis=0 进行索引。让我们列出这两种方法,并用idxs 有很多重复索引来计时。

函数定义-

def simply_indexing_based(mats, idxs):
    ncols = mats.shape[-1]*idxs.shape[-1]
    return mats[idxs].swapaxes(1,2).reshape(-1,ncols)

def take_based(mats, idxs):np.take(mats,idxs,axis=0)
    ncols = mats.shape[-1]*idxs.shape[-1]
    return np.take(mats,idxs,axis=0).swapaxes(1,2).reshape(-1,ncols)

运行时测试-

In [156]: mats = np.random.randint(0,9,(10,2,2))

In [157]: idxs = np.random.randint(0,10,(1000,1000))
                 # This ensures many repeated indices

In [158]: out1 = simply_indexing_based(mats, idxs)

In [159]: out2 = take_based(mats, idxs)

In [160]: np.allclose(out1, out2)
Out[160]: True

In [161]: %timeit simply_indexing_based(mats, idxs)
10 loops, best of 3: 41.2 ms per loop

In [162]: %timeit take_based(mats, idxs)
10 loops, best of 3: 27.3 ms per loop

因此,我们看到 1.5x+ 的整体改进。

只是为了了解 np.take 的改进,让我们单独计算索引部分的时间 -

In [168]: %timeit mats[idxs]
10 loops, best of 3: 22.8 ms per loop

In [169]: %timeit np.take(mats,idxs,axis=0)
100 loops, best of 3: 8.88 ms per loop

对于这些数据大小,它的 2.5x+。还不错!

【讨论】:

  • 非常感谢!这非常有效 - 我会记住 swapaxes 以供将来参考。
  • @JubJub 添加了对np.take 的改进。看看吧!
  • 天哪,非常感谢!这非常有帮助:D
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 2016-11-13
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2014-12-17
  • 2017-02-10
  • 1970-01-01
相关资源
最近更新 更多