pandas 数据帧中前 N 行的条件均值和总和
bol*_*lla 7 python dataframe pandas rolling-computation rolling-sum
令人担忧的是这个示例性的熊猫数据框：
Measurement Trigger Valid
0 2.0 False True
1 4.0 False True
2 3.0 False True
3 0.0 True False
4 100.0 False True
5 3.0 False True
6 2.0 False True
7 1.0 True True
只要Trigger是True的，我希望计算金额和最后3（从当前开始）有效测量的意思。如果列Valid是，则测量被认为是有效的True。因此，让我们使用上述数据框中的两个示例进行澄清：
Index 3:2,1,0应该使用指数。预期的Sum = 9.0, Mean = 3.0Index 7:7,6,5应该使用指数。预期的Sum = 6.0, Mean = 2.0
我曾尝试pandas.rolling创建新的、移动的列，但没有成功。请参阅我的测试中的以下摘录（应直接运行）：
import unittest
import pandas as pd
import numpy as np
from pandas.util.testing import assert_series_equal
def create_sample_dataframe_2():
df = pd.DataFrame(
{"Measurement" : [2.0, 4.0, 3.0, 0.0, 100.0, 3.0, 2.0, 1.0 ],
"Valid" : [True, True, True, False, True, True, True, True],
"Trigger" : [False, False, False, True, False, False, False, True],
})
return df
def expected_result():
return pd.DataFrame({"Sum" : [np.nan, np.nan, np.nan, 9.0, np.nan, np.nan, np.nan, 6.0],
"Mean" :[np.nan, np.nan, np.nan, 3.0, np.nan, np.nan, np.nan, 2.0]})
class Data_Preparation_Functions(unittest.TestCase):
def test_backsummation(self):
N_SUMMANDS = 3
temp_vars = []
df = create_sample_dataframe_2()
for i in range(0,N_SUMMANDS):
temp_var = "M_{0}".format(i)
df[temp_var] = df["Measurement"].shift(i)
temp_vars.append(temp_var)
df["Sum"] = df[temp_vars].sum(axis=1)
df["Mean"] = df[temp_vars].mean(axis=1)
df.loc[(df["Trigger"]==False), "Sum"] = np.nan
df.loc[(df["Trigger"]==False), "Mean"] = np.nan
assert_series_equal(expected_result()["Sum"],df["Sum"])
assert_series_equal(expected_result()["Mean"],df["Mean"])
def test_rolling(self):
df = create_sample_dataframe_2()
df["Sum"] = df[(df["Valid"] == True)]["Measurement"].rolling(window=3).sum()
df["Mean"] = df[(df["Valid"] == True)]["Measurement"].rolling(window=3).mean()
df.loc[(df["Trigger"]==False), "Sum"] = np.nan
df.loc[(df["Trigger"]==False), "Mean"] = np.nan
assert_series_equal(expected_result()["Sum"],df["Sum"])
assert_series_equal(expected_result()["Mean"],df["Mean"])
if __name__ == '__main__':
suite = unittest.TestLoader().loadTestsFromTestCase(Data_Preparation_Functions)
unittest.TextTestRunner(verbosity=2).run(suite)
非常感谢任何帮助或解决方案。谢谢和干杯！
编辑：澄清：这是我期望的结果数据框：
Measurement Trigger Valid Sum Mean
0 2.0 False True NaN NaN
1 4.0 False True NaN NaN
2 3.0 False True NaN NaN
3 0.0 True False 9.0 3.0
4 100.0 False True NaN NaN
5 3.0 False True NaN NaN
6 2.0 False True NaN NaN
7 1.0 True True 6.0 2.0
EDIT2：另一个说明：
我确实没有算错，而是我没有尽可能清楚地表达我的意图。这是使用相同数据框的另一个尝试：
让我们先看看Trigger列：我们True在索引 3（绿色矩形）中找到第一个。所以索引 3 是我们开始寻找的重点。索引 3 处没有有效的测量值（列Valid是False；红色矩形）。于是，我们开始往回往前走，直到我们累积了三行，哪里Valid是True。这发生在索引 2,1 和 0 上。对于这三个索引，我们计算列Measurement（蓝色矩形）的总和和均值：
- 总和：2.0 + 4.0 + 3.0 = 9.0
- 平均值：(2.0 + 4.0 + 3.0) / 3 = 3.0
在未来再看看：现在我们开始这个小算法的下一次迭代True中的Trigger列。我们在索引 7（绿色矩形）处找到它。在索引 7 处也有一个有效的度量，因此我们这次将其包括在内。对于我们的计算，我们使用索引 7,6 和 5（绿色矩形），因此得到：
- 总和：1.0 + 2.0 + 3.0 = 6.0
- 平均值：(1.0 + 2.0 + 3.0) / 3 = 2.0
我希望，这对这个小问题有更多的了解。
这是一个选项，取 3 个周期的滚动平均值和总和
df['RollM'] = df.Measurement.rolling(window=3,min_periods=0).mean()
df['RollS'] = df.Measurement.rolling(window=3,min_periods=0).sum()
现在设置 False Triggers 等于 NaN
df.loc[df.Trigger == False,['RollS','RollM']] = np.nan
产量
Measurement Trigger Valid RollM RollS
0 2.0 False True NaN NaN
1 4.0 False True NaN NaN
2 3.0 False True NaN NaN
3 0.0 True False 2.333333 7.0
4 100.0 False True NaN NaN
5 3.0 False True NaN NaN
6 2.0 False True NaN NaN
7 1.0 True True 2.000000 6.0
编辑，更新以反映有效的论点
df['mean'],df['sum'] = np.nan,np.nan
roller = df.Measurement.rolling(window=3,min_periods=0).agg(['mean','sum'])
df.loc[(df.Trigger == True) & (df.Valid == True),['mean','sum']] = roller
df.loc[(df.Trigger == True) & (df.Valid == False),['mean','sum']] = roller.shift(1)
产量
Measurement Trigger Valid mean sum
0 2.0 False True NaN NaN
1 4.0 False True NaN NaN
2 3.0 False True NaN NaN
3 0.0 True False 3.0 9.0
4 100.0 False True NaN NaN
5 3.0 False True NaN NaN
6 2.0 False True NaN NaN
7 1.0 True True 2.0 6.0