如何计算pandas组中每组(和其他统计信息)的行数？
Rom*_*man 365 python group-by dataframe pandas pandas-groupby
我有一个数据框df,我使用它的几个列groupby:
df['col1','col2','col3','col4'].groupby(['col1','col2']).mean()
以上面的方式,我几乎得到了我需要的表(数据框).缺少的是包含每个组中行数的附加列.换句话说,我有意思,但我也想知道有多少数字被用来获得这些手段.例如,在第一组中有8个值,在第二组中有10个,依此类推.
Ped*_*rte 801
快速回答:
获取每组行数的最简单方法是通过调用.size(),返回一个Series:
df.groupby(['col1','col2']).size()
通常你希望这个结果为DataFrame(而不是a Series)所以你可以这样做:
df.groupby(['col1', 'col2']).size().reset_index(name='counts')
如果您想了解如何计算每个组的行数和其他统计数据,请继续阅读下面的内容.
详细示例:
请考虑以下示例数据帧:
In [2]: df
Out[2]:
col1 col2 col3 col4 col5 col6
0 A B 0.20 -0.61 -0.49 1.49
1 A B -1.53 -1.01 -0.39 1.82
2 A B -0.44 0.27 0.72 0.11
3 A B 0.28 -1.32 0.38 0.18
4 C D 0.12 0.59 0.81 0.66
5 C D -0.13 -1.65 -1.64 0.50
6 C D -1.42 -0.11 -0.18 -0.44
7 E F -0.00 1.42 -0.26 1.17
8 E F 0.91 -0.47 1.35 -0.34
9 G H 1.48 -0.63 -1.14 0.17
首先让我们.size()用来获取行数:
In [3]: df.groupby(['col1', 'col2']).size()
Out[3]:
col1 col2
A B 4
C D 3
E F 2
G H 1
dtype: int64
然后让我们.size().reset_index(name='counts')用来获取行数:
In [4]: df.groupby(['col1', 'col2']).size().reset_index(name='counts')
Out[4]:
col1 col2 counts
0 A B 4
1 C D 3
2 E F 2
3 G H 1
包括更多统计数据的结果
如果要计算分组数据的统计信息,通常如下所示:
In [5]: (df
...: .groupby(['col1', 'col2'])
...: .agg({
...: 'col3': ['mean', 'count'],
...: 'col4': ['median', 'min', 'count']
...: }))
Out[5]:
col4 col3
median min count mean count
col1 col2
A B -0.810 -1.32 4 -0.372500 4
C D -0.110 -1.65 3 -0.476667 3
E F 0.475 -0.47 2 0.455000 2
G H -0.630 -0.63 1 1.480000 1
由于嵌套列标签,上面的结果有点烦人,也因为行数是基于每列的.
为了获得对输出的更多控制,我通常将统计数据拆分为单个聚合,然后使用它们进行组合join.它看起来像这样:
In [6]: gb = df.groupby(['col1', 'col2'])
...: counts = gb.size().to_frame(name='counts')
...: (counts
...: .join(gb.agg({'col3': 'mean'}).rename(columns={'col3': 'col3_mean'}))
...: .join(gb.agg({'col4': 'median'}).rename(columns={'col4': 'col4_median'}))
...: .join(gb.agg({'col4': 'min'}).rename(columns={'col4': 'col4_min'}))
...: .reset_index()
...: )
...:
Out[6]:
col1 col2 counts col3_mean col4_median col4_min
0 A B 4 -0.372500 -0.810 -1.32
1 C D 3 -0.476667 -0.110 -1.65
2 E F 2 0.455000 0.475 -0.47
3 G H 1 1.480000 -0.630 -0.63
脚注
用于生成测试数据的代码如下所示:
In [1]: import numpy as np
...: import pandas as pd
...:
...: keys = np.array([
...: ['A', 'B'],
...: ['A', 'B'],
...: ['A', 'B'],
...: ['A', 'B'],
...: ['C', 'D'],
...: ['C', 'D'],
...: ['C', 'D'],
...: ['E', 'F'],
...: ['E', 'F'],
...: ['G', 'H']
...: ])
...:
...: df = pd.DataFrame(
...: np.hstack([keys,np.random.randn(10,4).round(2)]),
...: columns = ['col1', 'col2', 'col3', 'col4', 'col5', 'col6']
...: )
...:
...: df[['col3', 'col4', 'col5', 'col6']] = \
...: df[['col3', 'col4', 'col5', 'col6']].astype(float)
...:
免责声明:
如果您聚合的某些列具有空值,那么您确实希望将组行计数视为每列的独立聚合.否则,您可能会被误导为实际使用了多少记录来计算平均值,因为大熊猫会NaN在平均计算中删除条目而不会告诉您.
- 很好的解决方案,但对于`In [5]:counts_df = pd.DataFrame(df.groupby('col1').size().rename('counts'))`,也许最好将size()设置为如果你想操纵数据帧进行进一步分析,那么新列应该是`counts_df = pd.DataFrame(df.groupby('col1').size().reset_index(name ='counts')` (4认同)
- 获取“DataFrame”的另一种方法是使用“as_index”参数，而不是“reset_index”：“df.groupby(['col1','col2'], as_index=False).size()”。我使用“as_index=False”作为我所有“groupby”的习惯。 (4认同)
- 嘿，我真的很喜欢你的解决方案，特别是最后一个，你使用方法链接。然而，由于通常需要将不同的聚合函数应用于不同的列，因此还可以使用 pd.concat 连接结果数据帧。这可能比后续链接更容易阅读 (3认同)
- 感谢“包括更多统计数据的结果”位！由于我的下一个搜索是关于在列上展平生成的多索引，我将在此处链接到答案：/sf/answers/3539097061/ (2认同)
Bou*_*oud 366
在groupby对象上,该agg函数可以使用列表一次应用多个聚合方法.这应该会给你你需要的结果:
df[['col1', 'col2', 'col3', 'col4']].groupby(['col1', 'col2']).agg(['mean', 'count'])
- 这会创建四个计数列,但如何只获得一个？(这个问题要求"额外的专栏",这也是我想要的.) (38认同)
- 如果你想每组只有一个`count`列,请查看我的答案. (15认同)
- 我认为您需要将列引用作为列表。你的意思可能是：`df[['col1','col2','col3','col4']].groupby(['col1','col2']).agg(['mean', 'count' ])` (4认同)
- @Jaan `结果 = df['col1','col2','col3','col4'].groupby(['col1','col2']).mean() ; counts = times.groupby(['col1', 'col2']).size() ; 结果['计数'] = 计数` (2认同)
cs9*_*s95 16
一种功能统治一切： GroupBy.describe
返回count，mean，std，和其他有用的统计每个组。
df.groupby(['col1', 'col2'])['col3', 'col4'].describe()
# Setup
np.random.seed(0)
df = pd.DataFrame({'A' : ['foo', 'bar', 'foo', 'bar',
'foo', 'bar', 'foo', 'foo'],
'B' : ['one', 'one', 'two', 'three',
'two', 'two', 'one', 'three'],
'C' : np.random.randn(8),
'D' : np.random.randn(8)})
from IPython.display import display
with pd.option_context('precision', 2):
display(df.groupby(['A', 'B'])['C'].describe())
count mean std min 25% 50% 75% max
A B
bar one 1.0 0.40 NaN 0.40 0.40 0.40 0.40 0.40
three 1.0 2.24 NaN 2.24 2.24 2.24 2.24 2.24
two 1.0 -0.98 NaN -0.98 -0.98 -0.98 -0.98 -0.98
foo one 2.0 1.36 0.58 0.95 1.15 1.36 1.56 1.76
three 1.0 -0.15 NaN -0.15 -0.15 -0.15 -0.15 -0.15
two 2.0 1.42 0.63 0.98 1.20 1.42 1.65 1.87
要获取特定的统计信息，只需选择它们，
df.groupby(['A', 'B'])['C'].describe()[['count', 'mean']]
count mean
A B
bar one 1.0 0.400157
three 1.0 2.240893
two 1.0 -0.977278
foo one 2.0 1.357070
three 1.0 -0.151357
two 2.0 1.423148
describe适用于多列（更改['C']为（['C', 'D']或完全删除），看看会发生什么，结果是一个MultiIndexed列数据框）。
您还将获得不同的字符串数据统计信息。这是一个例子
df2 = df.assign(D=list('aaabbccc')).sample(n=100, replace=True)
with pd.option_context('precision', 2):
display(df2.groupby(['A', 'B'])
.describe(include='all')
.dropna(how='all', axis=1))
C D
count mean std min 25% 50% 75% max count unique top freq
A B
bar one 14.0 0.40 5.76e-17 0.40 0.40 0.40 0.40 0.40 14 1 a 14
three 14.0 2.24 4.61e-16 2.24 2.24 2.24 2.24 2.24 14 1 b 14
two 9.0 -0.98 0.00e+00 -0.98 -0.98 -0.98 -0.98 -0.98 9 1 c 9
foo one 22.0 1.43 4.10e-01 0.95 0.95 1.76 1.76 1.76 22 2 a 13
three 15.0 -0.15 0.00e+00 -0.15 -0.15 -0.15 -0.15 -0.15 15 1 c 15
two 26.0 1.49 4.48e-01 0.98 0.98 1.87 1.87 1.87 26 2 b 15
有关更多信息，请参见文档。
- 通过执行`.describe()[['count', 'mean']]`，您可以计算出随后删除的统计数据。使用 `.agg(['count', 'mean']` 是一个更好的选择，大约快 7 倍，因为您只计算实际需要的值 (2认同)
Jak*_*rew 11
要获取多个统计信息，请折叠索引并保留列名：
df = df.groupby(['col1','col2']).agg(['mean', 'count'])
df.columns = [ ' '.join(str(i) for i in col) for col in df.columns]
df.reset_index(inplace=True)
df
产生：
我们可以通过使用groupby和count轻松完成.但是,我们应该记得使用reset_index().
df[['col1','col2','col3','col4']].groupby(['col1','col2']).count().\
reset_index()
- 只要列中没有空值，此解决方案就有效，否则可能会产生误导（计数将低于按组进行的实际观察数）。 (4认同)
请尝试这个代码
new_column=df[['col1', 'col2', 'col3', 'col4']].groupby(['col1', 'col2']).count()
df['count_it']=new_column
df
我认为代码会添加一个名为“count it”的列，该列计算每个组的数量