我有一個資料框df,我使用它的幾列到groupby:
df['col1','col2','col3','col4'].groupby(['col1','col2']).mean()
以上面的方式,我幾乎得到了我需要的表(資料框)。 缺少的是包含每個組中行數的附加列。 換句話說,我有意思,但我也想知道有多少數字被用來獲得這些手段。 例如,在第一組中有8個值,在第二組中有10個,依此類推。
簡而言之:如何擷取資料幀的分組統計資訊?
對于不熟悉此問題的人,在更新版本的pandas中,您可以在groupby對象上調用describe()以有效地傳回常見統計資訊。 有關更多資訊,請參閱此答案。
快速回答:
擷取每組行數的最簡單方法是調用.size(),傳回Series:
df.groupby(['col1','col2']).size()
通常您希望此結果為DataFrame(而不是Series),是以您可以執行以下操作:
df.groupby(['col1', 'col2']).size().reset_index(name='counts')
如果您想了解如何計算每個組的行數和其他統計資料,請繼續閱讀下面的内容。
詳細示例:
請考慮以下示例資料幀:
In [2]: df
Out[2]:
col1 col2 col3 col4 col5 col6
0 A B 0.20 -0.61 -0.49 1.49
1 A B -1.53 -1.01 -0.39 1.82
2 A B -0.44 0.27 0.72 0.11
3 A B 0.28 -1.32 0.38 0.18
4 C D 0.12 0.59 0.81 0.66
5 C D -0.13 -1.65 -1.64 0.50
6 C D -1.42 -0.11 -0.18 -0.44
7 E F -0.00 1.42 -0.26 1.17
8 E F 0.91 -0.47 1.35 -0.34
9 G H 1.48 -0.63 -1.14 0.17
首先讓我們使用.size()來擷取行數:
In [3]: df.groupby(['col1', 'col2']).size()
Out[3]:
col1 col2
A B 4
C D 3
E F 2
G H 1
dtype: int64
然後讓我們使用.size().reset_index(name='counts')來擷取行數:
In [4]: df.groupby(['col1', 'col2']).size().reset_index(name='counts')
Out[4]:
col1 col2 counts
0 A B 4
1 C D 3
2 E F 2
3 G H 1
包括更多統計資料的結果
如果要計算分組資料的統計資訊,通常如下所示:
In [5]: (df
...: .groupby(['col1', 'col2'])
...: .agg({
...: 'col3': ['mean', 'count'],
...: 'col4': ['median', 'min', 'count']
...: }))
Out[5]:
col4 col3
median min count mean count
col1 col2
A B -0.810 -1.32 4 -0.372500 4
C D -0.110 -1.65 3 -0.476667 3
E F 0.475 -0.47 2 0.455000 2
G H -0.630 -0.63 1 1.480000 1
由于嵌套列标簽,上面的結果有點煩人,也因為行數是基于每列的。
為了獲得對輸出的更多控制,我通常将統計資料拆分為單個聚合,然後使用join進行組合。它看起來像這樣:
In [6]: gb = df.groupby(['col1', 'col2'])
...: counts = gb.size().to_frame(name='counts')
...: (counts
...: .join(gb.agg({'col3': 'mean'}).rename(columns={'col3': 'col3_mean'}))
...: .join(gb.agg({'col4': 'median'}).rename(columns={'col4': 'col4_median'}))
...: .join(gb.agg({'col4': 'min'}).rename(columns={'col4': 'col4_min'}))
...: .reset_index()
...: )
...:
Out[6]:
col1 col2 counts col3_mean col4_median col4_min
0 A B 4 -0.372500 -0.810 -1.32
1 C D 3 -0.476667 -0.110 -1.65
2 E F 2 0.455000 0.475 -0.47
3 G H 1 1.480000 -0.630 -0.63
腳注
用于生成測試資料的代碼如下所示:
In [1]: import numpy as np
...: import pandas as pd
...:
...: keys = np.array([
...: ['A', 'B'],
...: ['A', 'B'],
...: ['A', 'B'],
...: ['A', 'B'],
...: ['C', 'D'],
...: ['C', 'D'],
...: ['C', 'D'],
...: ['E', 'F'],
...: ['E', 'F'],
...: ['G', 'H']
...: ])
...:
...: df = pd.DataFrame(
...: np.hstack([keys,np.random.randn(10,4).round(2)]),
...: columns = ['col1', 'col2', 'col3', 'col4', 'col5', 'col6']
...: )
...:
...: df[['col3', 'col4', 'col5', 'col6']] = \
...: df[['col3', 'col4', 'col5', 'col6']].astype(float)
...:
免責聲明:
如果您聚合的某些列具有空值,那麼您确實希望将組行計數視為每列的獨立聚合。否則,您可能會被誤導為實際使用了多少記錄來計算平均值,因為大熊貓會在平均計算中丢棄NaN條目而不會告訴您。
嘿,我真的很喜歡你的解決方案,尤其是最後一個使用方法連結的解決方案。但是,由于通常需要将不同的聚合函數應用于不同的列,是以還可以使用pd.concat對結果資料幀進行連接配接。這可能比subsqeuent鍊更容易閱讀
很好的解決方案,但對于In [5]: counts_df = pd.DataFrame(df.groupby('col1').size().rename('counts')),如果您想操作資料幀進行進一步分析,最好将size()設定為新列,這應該是counts_df = pd.DataFrame(df.groupby('col1').size().reset_index(name='counts')
感謝"包含更多統計資料的結果"位!由于我的下一個搜尋是關于在列上展平生成的多索引,我将連結到這裡的答案:stackoverflow.com/a/50558529/1026
大!你能不能給我一個提示,如何将isnull添加到這個查詢中,以便将它放在一個列中? <5233>
在groupby對象上,agg函數可以使用清單一次應用多個聚合方法。這應該會給你你需要的結果:
df[['col1', 'col2', 'col3', 'col4']].groupby(['col1', 'col2']).agg(['mean', 'count'])
我認為您需要列引用作為清單。你或許是這樣的意思:df[['col1','col2','col3','col4']].groupby(['col1','col2']).agg(['mean', 'count'])
這會建立四個計數列,但如何隻獲得一個? (這個問題要求"額外的專欄",這也是我想要的。)
如果您希望每組隻獲得一個count列,請檢視我的答案。
如果我有一個單獨的名為Counts而不是計算分組類型的行,我需要沿着Counts列添加。
@Jaan result = df['col1','col2','col3','col4'].groupby(['col1', 'col2']).mean() ; counts = times.groupby(['col1', 'col2']).size() ; result['count'] = counts
統治所有的一個功能:GroupBy.describe
每組傳回count,mean,std和其他有用的統計資訊。
df.groupby(['col1', 'col2'])['col3', 'col4'].describe()
# Setup
np.random.seed(0)
df = pd.DataFrame({'A' : ['foo', 'bar', 'foo', 'bar',
'foo', 'bar', 'foo', 'foo'],
'B' : ['one', 'one', 'two', 'three',
'two', 'two', 'one', 'three'],
'C' : np.random.randn(8),
'D' : np.random.randn(8)})
from IPython.display import display
with pd.option_context('precision', 2):
display(df.groupby(['A', 'B'])['C'].describe())
count mean std min 25% 50% 75% max
A B
bar one 1.0 0.40 NaN 0.40 0.40 0.40 0.40 0.40
three 1.0 2.24 NaN 2.24 2.24 2.24 2.24 2.24
two 1.0 -0.98 NaN -0.98 -0.98 -0.98 -0.98 -0.98
foo one 2.0 1.36 0.58 0.95 1.15 1.36 1.56 1.76
three 1.0 -0.15 NaN -0.15 -0.15 -0.15 -0.15 -0.15
two 2.0 1.42 0.63 0.98 1.20 1.42 1.65 1.87
要擷取具體的統計資料,隻需選擇它們,
df.groupby(['A', 'B'])['C'].describe()[['count', 'mean']]
count mean
A B
bar one 1.0 0.400157
three 1.0 2.240893
two 1.0 -0.977278
foo one 2.0 1.357070
three 1.0 -0.151357
two 2.0 1.423148
describe适用于多個列(将['C']更改為['C', 'D'] - 或者将其完全删除 - 并檢視會發生什麼,結果是MultiIndexed柱狀資料幀)。
您還可以獲得字元串資料的不同統計資訊這是一個例子,
df2 = df.assign(D=list('aaabbccc')).sample(n=100, replace=True)
with pd.option_context('precision', 2):
display(df2.groupby(['A', 'B'])
.describe(include='all')
.dropna(how='all', axis=1))
C D
count mean std min 25% 50% 75% max count unique top freq
A B
bar one 14.0 0.40 5.76e-17 0.40 0.40 0.40 0.40 0.40 14 1 a 14
three 14.0 2.24 4.61e-16 2.24 2.24 2.24 2.24 2.24 14 1 b 14
two 9.0 -0.98 0.00e+00 -0.98 -0.98 -0.98 -0.98 -0.98 9 1 c 9
foo one 22.0 1.43 4.10e-01 0.95 0.95 1.76 1.76 1.76 22 2 a 13
three 15.0 -0.15 0.00e+00 -0.15 -0.15 -0.15 -0.15 -0.15 15 1 c 15
two 26.0 1.49 4.48e-01 0.98 0.98 1.87 1.87 1.87 26 2 b 15
有關更多資訊,請參閱文檔。
我們可以通過使用groupby和count輕松完成。但是,我們應該記得使用reset_index()。
df[['col1','col2','col3','col4']].groupby(['col1','col2']).count().\
reset_index()
隻要列中沒有空值,此解決方案就可以工作,否則可能會産生誤導(計數将低于按組觀察的實際數量)。
建立一個組對象并調用如下示例的方法:
grp = df.groupby(['col1', 'col2', 'col3'])
grp.max()
grp.mean()
grp.describe()