Pandas：如何在数据框列中找到特定模式？答案

【问题标题】：Pandas: How to find a particular pattern in a dataframe column?Pandas：如何在数据框列中找到特定模式？
【发布时间】：2021-10-21 04:07:41
【问题描述】：

我想在 pandas 数据框列中查找特定模式，并返回相应的索引值以便对数据框进行子集化。

这是一个带有可能模式的示例数据框：

生成数据框的片段：

import pandas as pd
import numpy as np

Observations = 10
Columns = 2
np.random.seed(123)
df = pd.DataFrame(np.random.randint(90,110,size=(Observations, Columns)),
                  columns = ['ColA','ColB'])
datelist = pd.date_range(pd.datetime(2017, 7, 7).strftime('%Y-%m-%d'),
                         periods=Observations).tolist()
df['Dates'] = datelist
df = df.set_index(['Dates'])

pattern = [100,90,105]
print(df)

数据框：

            ColA  ColB
Dates                 
2017-07-07   103    92
2017-07-08    92    96
2017-07-09   107   109
2017-07-10   100    91
2017-07-11    90   107
2017-07-12   105    99
2017-07-13    90   104
2017-07-14    90   105
2017-07-15   109   104
2017-07-16    94    90

在这里，感兴趣的模式出现在Column A 中，日期为2017-07-10 到2017-07-12，这就是我想要的结果：

期望的输出：

2017-07-10   100    91
2017-07-11    90   107
2017-07-12   105    99

如果相同的模式多次出现，我想以相同的方式对数据帧进行子集化，并计算模式出现的次数，但我希望只要我能理清第一步，这会更直接。

感谢您的任何建议！

【问题讨论】：

标签： python pandas

【解决方案1】：

使用列表推导的魔力：

[df.index[i - len(pattern)] # Get the datetime index 
 for i in range(len(pattern), len(df)) # For each 3 consequent elements 
 if all(df['ColA'][i-len(pattern):i] == pattern)] # If the pattern matched 

# [Timestamp('2017-07-10 00:00:00')]

【讨论】：

这是迄今为止最优雅的解决方案。

【解决方案2】：

这里有一个解决方案：

使用rolling 检查是否在任何列中找到了该模式。这将为您提供匹配模式的组的最后一个索引

matched = df.rolling(len(pattern)).apply(lambda x: all(np.equal(x, pattern)))
matched = matched.sum(axis = 1).astype(bool)   #Sum to perform boolean OR

matched
Out[129]: 
Dates
2017-07-07    False
2017-07-08    False
2017-07-09    False
2017-07-10    False
2017-07-11    False
2017-07-12     True
2017-07-13    False
2017-07-14    False
2017-07-15    False
2017-07-16    False
dtype: bool

对于每个匹配，添加完整模式的索引：

idx_matched = np.where(matched)[0]
subset = [range(match-len(pattern)+1, match+1) for match in idx_matched]

获取所有模式：

result = pd.concat([df.iloc[subs,:] for subs in subset], axis = 0)

result
Out[128]: 
            ColA  ColB
Dates                 
2017-07-10   100    91
2017-07-11    90   107
2017-07-12   105    99

【讨论】：

【解决方案3】：

最短的方法是找到模式开始的索引。然后你只需要选择以下三行。

为了找到这些索引，一行就足够了：

indexes=df[(df.ColA==pattern[0])&(df["ColA"].shift(-1)==pattern[1])&(df["ColA"].shift(-2)==pattern[2])].index

然后按照其他答案的说明获取所需的子集。

【讨论】：

【解决方案4】：

for col in df:
    index = df[col][(df[col] == pattern[0]) & (df[col].shift(-1) == pattern[1]) & (df[col].shift(-2) == pattern[2])].index
    if not index.empty: print(index)

【讨论】：

【解决方案5】：

虽然 Deena 的回答很优雅，但对于较长的序列来说，它的速度非常慢。

另一方面，Flab 的解决方案可能更快，但它只适用于数值。

因此，我想提出一个不同的解决方案，它速度快，适用于所有数据类型。对于以下内容，我假设数据类型为字符串。如果不是你的情况，你应该先转换它。

rolling_cat = lambda s, n: pd.Series(zip(*[s.shift(-x) for x in range(n)])).str.join(",")

indices = df.loc[rolling_cat(df["ColA"], n=len(pattern) == (",".join(pattern))].index

在这里，我定义了一个函数，它将每个接下来的 n 个条目连接到列中的每个条目。这意味着，现在每一行都包含字符串形式的潜在模式

然后我通过连接模式的每个条目将这些模式与模式的字符串表示进行比较。

这比 Deena 的方法快得多的原因是，字符串比较比比较列表中的每个项目要快得多。

【讨论】：