在pandas数据框列中查找特定模式

ves*_*and 4 python pandas

我想在pandas数据框列中找到一个特定的模式,并返回相应的索引值以对数据框进行子集化。

这是带有可能模式的示例数据框:

生成数据框的代码段:

import pandas as pd
import numpy as np

Observations = 10
Columns = 2
np.random.seed(123)
df = pd.DataFrame(np.random.randint(90,110,size=(Observations, Columns)),
                  columns = ['ColA','ColB'])
datelist = pd.date_range(pd.datetime(2017, 7, 7).strftime('%Y-%m-%d'),
                         periods=Observations).tolist()
df['Dates'] = datelist
df = df.set_index(['Dates'])

pattern = [100,90,105]
print(df)
Run Code Online (Sandbox Code Playgroud)

数据框:

            ColA  ColB
Dates                 
2017-07-07   103    92
2017-07-08    92    96
2017-07-09   107   109
2017-07-10   100    91
2017-07-11    90   107
2017-07-12   105    99
2017-07-13    90   104
2017-07-14    90   105
2017-07-15   109   104
2017-07-16    94    90
Run Code Online (Sandbox Code Playgroud)

下面,感兴趣的格局发生Column A的日期2017-07-102017-07-12,这就是我想要结束了一下:

所需的输出:

2017-07-10   100    91
2017-07-11    90   107
2017-07-12   105    99
Run Code Online (Sandbox Code Playgroud)

如果同一模式多次出现,我希望以相同的方式对数据帧进行子集化,并计算该模式出现了多少次,但是我希望只要整理出第一步就可以更加直接。

感谢您的任何建议!

FLa*_*Lab 5

这是一个解决方案:

使用滚动检查是否在任何列中找到该模式。这将为您提供与模式匹配的组的最后一个索引

matched = df.rolling(len(pattern)).apply(lambda x: all(np.equal(x, pattern)))
matched = matched.sum(axis = 1).astype(bool)   #Sum to perform boolean OR

matched
Out[129]: 
Dates
2017-07-07    False
2017-07-08    False
2017-07-09    False
2017-07-10    False
2017-07-11    False
2017-07-12     True
2017-07-13    False
2017-07-14    False
2017-07-15    False
2017-07-16    False
dtype: bool
Run Code Online (Sandbox Code Playgroud)

对于每个匹配项,添加完整模式的索引:

idx_matched = np.where(matched)[0]
subset = [range(match-len(pattern)+1, match+1) for match in idx_matched]
Run Code Online (Sandbox Code Playgroud)

获取所有模式:

result = pd.concat([df.iloc[subs,:] for subs in subset], axis = 0)

result
Out[128]: 
            ColA  ColB
Dates                 
2017-07-10   100    91
2017-07-11    90   107
2017-07-12   105    99
Run Code Online (Sandbox Code Playgroud)


Dee*_*ena 5

使用列表理解的魔力:

[df.index[i - len(pattern)] # Get the datetime index 
 for i in range(len(pattern), len(df)) # For each 3 consequent elements 
 if all(df['ColA'][i-len(pattern):i] == pattern)] # If the pattern matched 

# [Timestamp('2017-07-10 00:00:00')]
Run Code Online (Sandbox Code Playgroud)

  • 这是迄今为止最优雅的解决方案。 (2认同)