【问题标题】:Extract indices of intersecting array from numpy 2D array in subarray从子数组中的numpy 2D数组中提取相交数组的索引
【发布时间】:2015-05-22 21:04:23
【问题描述】:

我有两个 2D numpy 方形数组,A 和 B。B 是从 A 中提取的数组,其中删除了一定数量的列和行(具有相同的索引)。两者都是对称的。例如,A 和 B 可以是:

A = np.array([[1,2,3,4,5],
              [2,7,8,9,10],
              [3,8,13,14,15],
              [4,9,14,19,20],
              [5,10,15,20,25]])
B = np.array([[1,3,5],
              [3,13,15],
              [5,15,25]])

使得缺失的索引为 [1,3],相交的索引为 [0,2,4]。

是否有一种“智能”方法来提取 A 中与 B 中存在的涉及高级索引等的行/列相对应的索引?我能想到的只有:

        import numpy as np
        index = np.array([],dtype=int)
        n,m = len(A),len(B)
        for j in range(n):
            k = 0
            while set(np.intersect1d(B[j],A[k])) != set(B[j]) and k<m:
                k+=1
            np.append(index,k)

我知道在处理大型数组时会很慢且耗费资源。

谢谢!

编辑: 我确实找到了更聪明的方法。我从两个数组中提取对角线,并通过简单的相等性检查对其执行上述循环:

        index = []
        a = np.diag(A)
        b = np.diag(B)
        for j in range(len(b)):
            k = 0
            while a[j+k] != b[j] and k<n:
                k+=1
            index.append(k+j)

虽然它仍然不使用高级索引并且仍然迭代可能很长的列表,但这个部分解决方案看起来更干净,我暂时会坚持下去。

【问题讨论】:

  • 这个应该和matlab函数ismember类似。看看这个SO
  • A中有重复值吗?总是有一个唯一的答案吗? (例如,如果 A 都是一呢?)
  • @unutbu 是的,A 中可以有重复的值,是的,答案应该是唯一的。两个矩阵都应该足够大,以便所有列或行向量都不同。
  • @Bort 我还能在二维数组上使用np.searchsorted 吗? B中的列和行都不等于A。
  • A 有多大? (最快的方法可能取决于大小。)

标签: python arrays numpy intersection


【解决方案1】:

考虑所有值都不同的简单情况:

A = np.arange(25).reshape(5,5)
ans = [1,3,4]
B = A[np.ix_(ans, ans)]

In [287]: A
Out[287]: 
array([[ 0,  1,  2,  3,  4],
       [ 5,  6,  7,  8,  9],
       [10, 11, 12, 13, 14],
       [15, 16, 17, 18, 19],
       [20, 21, 22, 23, 24]])

In [288]: B
Out[288]: 
array([[ 6,  8,  9],
       [16, 18, 19],
       [21, 23, 24]])

如果我们用 A 的每一行测试 B 的第一行,我们最终会得出 [6, 8, 9][5, 6, 7, 8, 9] 的比较,我们可以从中收集 索引的候选解[1, 3, 4]

我们可以通过将 first 配对来生成一组所有可能的候选解决方案 B 的行与A的每一行

如果只有一个候选人,那么我们就完成了,因为给定 B 是一个 A 的子矩阵,因此总有解。

如果有多个候选人,那么我们可以对 B的第二行,取候选解的交集 -- 之后 总而言之,一个解决方案必须是 B 的每一行的解决方案。

因此我们可以循环遍历 B 的行,并且一旦我们找到那里 short-circuit 只是一名候选人。同样,我们假设 B 始终是 A 的子矩阵。

下面的find_idx函数实现了上面描述的思路:

import itertools as IT
import numpy as np

def find_idx_1d(rowA, rowB):
    result = []
    if np.in1d(rowB, rowA).all():
        result = [tuple(sorted(idx)) 
                  for idx in IT.product(*[np.where(rowA==b)[0] for b in rowB])]
    return result

def find_idx(A, B):
    candidates = set([idx for row in A for idx in find_idx_1d(row, B[0])])
    for Bi in B[1:]:
        if len(candidates) == 1:
            # stop when there is a unique candidate
            return candidates.pop()
        new = [idx for row in A for idx in find_idx_1d(row, Bi)]  
        candidates = candidates.intersection(new)
    if candidates:
        return candidates.pop()
    raise ValueError('no solution found')

正确性:您提出的两种解决方案可能并不总是返回正确的结果,尤其是当存在重复值时。例如,

def is_solution(A, B, idx):
    return np.allclose(A[np.ix_(idx, idx)], B)

def find_idx_orig(A, B):
    index = []
    for j in range(len(B)):
        k = 0
        while k<len(A) and set(np.intersect1d(B[j],A[k])) != set(B[j]):
            k+=1
        index.append(k)
    return index

def find_idx_diag(A, B):
    index = []
    a = np.diag(A)
    b = np.diag(B)
    for j in range(len(b)):
        k = 0
        while a[j+k] != b[j] and k<len(A):
            k+=1
        index.append(k+j)
    return index

def counterexample():
    """
    Show find_idx_diag, find_idx_orig may not return the correct result
    """
    A = np.array([[1,2,0],
                  [2,1,0],
                  [0,0,1]])
    ans = [0,1]
    B = A[np.ix_(ans, ans)]
    assert not is_solution(A, B, find_idx_orig(A, B))
    assert is_solution(A, B, find_idx(A, B))

    A = np.array([[1,2,0],
                  [2,1,0],
                  [0,0,1]])
    ans = [1,2]
    B = A[np.ix_(ans, ans)]

    assert not is_solution(A, B, find_idx_diag(A, B))
    assert is_solution(A, B, find_idx(A, B))

counterexample()

基准测试:出于好奇而忽略正确性问题,后果自负 让我们根据速度来比较这些功能。

def make_AB(n, m):
    A = symmetrize(np.random.random((n, n)))
    ans = np.sort(np.random.choice(n, m, replace=False))
    B = A[np.ix_(ans, ans)]
    return A, B

def symmetrize(a):
    "http://stackoverflow.com/a/2573982/190597 (EOL)"
    return a + a.T - np.diag(a.diagonal())

if __name__ == '__main__':
    counterexample()
    A, B = make_AB(500, 450)
    assert is_solution(A, B, find_idx(A, B))

In [283]: %timeit find_idx(A, B)
10 loops, best of 3: 74 ms per loop

In [284]: %timeit find_idx_orig(A, B)
1 loops, best of 3: 14.5 s per loop

In [285]: %timeit find_idx_diag(A, B)
100 loops, best of 3: 2.93 ms per loop

所以find_idxfind_idx_orig 快得多,但不如find_idx_origfind_idx_diag.

【讨论】:

  • 感谢您的详细解答!你的解决方案只比我的慢一点,但总是正确的,所以我会改用它。
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2021-02-01
  • 2017-03-15
  • 1970-01-01
  • 2019-12-23
  • 2023-03-30
  • 2015-06-13
相关资源
最近更新 更多