天天看點

python統計分數段人數groupby_關于python:使用pandas GroupBy擷取每個組的統計資訊(例如計數,平均值等)?...

我有一個資料框df,我使用它的幾列到groupby:

df['col1','col2','col3','col4'].groupby(['col1','col2']).mean()

以上面的方式,我幾乎得到了我需要的表(資料框)。 缺少的是包含每個組中行數的附加列。 換句話說,我有意思,但我也想知道有多少數字被用來獲得這些手段。 例如,在第一組中有8個值,在第二組中有10個,依此類推。

簡而言之:如何擷取資料幀的分組統計資訊?

對于不熟悉此問題的人,在更新版本的pandas中,您可以在groupby對象上調用describe()以有效地傳回常見統計資訊。 有關更多資訊,請參閱此答案。

快速回答:

擷取每組行數的最簡單方法是調用.size(),傳回Series:

df.groupby(['col1','col2']).size()

通常您希望此結果為DataFrame(而不是Series),是以您可以執行以下操作:

df.groupby(['col1', 'col2']).size().reset_index(name='counts')

如果您想了解如何計算每個組的行數和其他統計資料,請繼續閱讀下面的内容。

詳細示例:

請考慮以下示例資料幀:

In [2]: df

Out[2]:

col1 col2  col3  col4  col5  col6

0    A    B  0.20 -0.61 -0.49  1.49

1    A    B -1.53 -1.01 -0.39  1.82

2    A    B -0.44  0.27  0.72  0.11

3    A    B  0.28 -1.32  0.38  0.18

4    C    D  0.12  0.59  0.81  0.66

5    C    D -0.13 -1.65 -1.64  0.50

6    C    D -1.42 -0.11 -0.18 -0.44

7    E    F -0.00  1.42 -0.26  1.17

8    E    F  0.91 -0.47  1.35 -0.34

9    G    H  1.48 -0.63 -1.14  0.17

首先讓我們使用.size()來擷取行數:

In [3]: df.groupby(['col1', 'col2']).size()

Out[3]:

col1  col2

A     B       4

C     D       3

E     F       2

G     H       1

dtype: int64

然後讓我們使用.size().reset_index(name='counts')來擷取行數:

In [4]: df.groupby(['col1', 'col2']).size().reset_index(name='counts')

Out[4]:

col1 col2  counts

0    A    B       4

1    C    D       3

2    E    F       2

3    G    H       1

包括更多統計資料的結果

如果要計算分組資料的統計資訊,通常如下所示:

In [5]: (df

...: .groupby(['col1', 'col2'])

...: .agg({

...:     'col3': ['mean', 'count'],

...:     'col4': ['median', 'min', 'count']

...: }))

Out[5]:

col4                  col3

median   min count      mean count

col1 col2

A    B    -0.810 -1.32     4 -0.372500     4

C    D    -0.110 -1.65     3 -0.476667     3

E    F     0.475 -0.47     2  0.455000     2

G    H    -0.630 -0.63     1  1.480000     1

由于嵌套列标簽,上面的結果有點煩人,也因為行數是基于每列的。

為了獲得對輸出的更多控制,我通常将統計資料拆分為單個聚合,然後使用join進行組合。它看起來像這樣:

In [6]: gb = df.groupby(['col1', 'col2'])

...: counts = gb.size().to_frame(name='counts')

...: (counts

...:  .join(gb.agg({'col3': 'mean'}).rename(columns={'col3': 'col3_mean'}))

...:  .join(gb.agg({'col4': 'median'}).rename(columns={'col4': 'col4_median'}))

...:  .join(gb.agg({'col4': 'min'}).rename(columns={'col4': 'col4_min'}))

...:  .reset_index()

...: )

...:

Out[6]:

col1 col2  counts  col3_mean  col4_median  col4_min

0    A    B       4  -0.372500       -0.810     -1.32

1    C    D       3  -0.476667       -0.110     -1.65

2    E    F       2   0.455000        0.475     -0.47

3    G    H       1   1.480000       -0.630     -0.63

腳注

用于生成測試資料的代碼如下所示:

In [1]: import numpy as np

...: import pandas as pd

...:

...: keys = np.array([

...:         ['A', 'B'],

...:         ['A', 'B'],

...:         ['A', 'B'],

...:         ['A', 'B'],

...:         ['C', 'D'],

...:         ['C', 'D'],

...:         ['C', 'D'],

...:         ['E', 'F'],

...:         ['E', 'F'],

...:         ['G', 'H']

...:         ])

...:

...: df = pd.DataFrame(

...:     np.hstack([keys,np.random.randn(10,4).round(2)]),

...:     columns = ['col1', 'col2', 'col3', 'col4', 'col5', 'col6']

...: )

...:

...: df[['col3', 'col4', 'col5', 'col6']] = \

...:     df[['col3', 'col4', 'col5', 'col6']].astype(float)

...:

免責聲明:

如果您聚合的某些列具有空值,那麼您确實希望将組行計數視為每列的獨立聚合。否則,您可能會被誤導為實際使用了多少記錄來計算平均值,因為大熊貓會在平均計算中丢棄NaN條目而不會告訴您。

嘿,我真的很喜歡你的解決方案,尤其是最後一個使用方法連結的解決方案。但是,由于通常需要将不同的聚合函數應用于不同的列,是以還可以使用pd.concat對結果資料幀進行連接配接。這可能比subsqeuent鍊更容易閱讀

很好的解決方案,但對于In [5]: counts_df = pd.DataFrame(df.groupby('col1').size().rename('counts')),如果您想操作資料幀進行進一步分析,最好将size()設定為新列,這應該是counts_df = pd.DataFrame(df.groupby('col1').size().reset_index(name='counts')

感謝"包含更多統計資料的結果"位!由于我的下一個搜尋是關于在列上展平生成的多索引,我将連結到這裡的答案:stackoverflow.com/a/50558529/1026

大!你能不能給我一個提示,如何将isnull添加到這個查詢中,以便将它放在一個列中? <5233>

在groupby對象上,agg函數可以使用清單一次應用多個聚合方法。這應該會給你你需要的結果:

df[['col1', 'col2', 'col3', 'col4']].groupby(['col1', 'col2']).agg(['mean', 'count'])

我認為您需要列引用作為清單。你或許是這樣的意思:df[['col1','col2','col3','col4']].groupby(['col1','col2']).agg(['mean', 'count'])

這會建立四個計數列,但如何隻獲得一個? (這個問題要求"額外的專欄",這也是我想要的。)

如果您希望每組隻獲得一個count列,請檢視我的答案。

如果我有一個單獨的名為Counts而不是計算分組類型的行,我需要沿着Counts列添加。

@Jaan result = df['col1','col2','col3','col4'].groupby(['col1', 'col2']).mean() ; counts = times.groupby(['col1', 'col2']).size() ; result['count'] = counts

統治所有的一個功能:GroupBy.describe

每組傳回count,mean,std和其他有用的統計資訊。

df.groupby(['col1', 'col2'])['col3', 'col4'].describe()

# Setup

np.random.seed(0)

df = pd.DataFrame({'A' : ['foo', 'bar', 'foo', 'bar',

'foo', 'bar', 'foo', 'foo'],

'B' : ['one', 'one', 'two', 'three',

'two', 'two', 'one', 'three'],

'C' : np.random.randn(8),

'D' : np.random.randn(8)})

from IPython.display import display

with pd.option_context('precision', 2):

display(df.groupby(['A', 'B'])['C'].describe())

count  mean   std   min   25%   50%   75%   max

A   B

bar one      1.0  0.40   NaN  0.40  0.40  0.40  0.40  0.40

three    1.0  2.24   NaN  2.24  2.24  2.24  2.24  2.24

two      1.0 -0.98   NaN -0.98 -0.98 -0.98 -0.98 -0.98

foo one      2.0  1.36  0.58  0.95  1.15  1.36  1.56  1.76

three    1.0 -0.15   NaN -0.15 -0.15 -0.15 -0.15 -0.15

two      2.0  1.42  0.63  0.98  1.20  1.42  1.65  1.87

要擷取具體的統計資料,隻需選擇它們,

df.groupby(['A', 'B'])['C'].describe()[['count', 'mean']]

count      mean

A   B

bar one      1.0  0.400157

three    1.0  2.240893

two      1.0 -0.977278

foo one      2.0  1.357070

three    1.0 -0.151357

two      2.0  1.423148

describe适用于多個列(将['C']更改為['C', 'D'] - 或者将其完全删除 - 并檢視會發生什麼,結果是MultiIndexed柱狀資料幀)。

您還可以獲得字元串資料的不同統計資訊這是一個例子,

df2 = df.assign(D=list('aaabbccc')).sample(n=100, replace=True)

with pd.option_context('precision', 2):

display(df2.groupby(['A', 'B'])

.describe(include='all')

.dropna(how='all', axis=1))

C                                                   D

count  mean       std   min   25%   50%   75%   max count unique top freq

A   B

bar one    14.0  0.40  5.76e-17  0.40  0.40  0.40  0.40  0.40    14      1   a   14

three  14.0  2.24  4.61e-16  2.24  2.24  2.24  2.24  2.24    14      1   b   14

two     9.0 -0.98  0.00e+00 -0.98 -0.98 -0.98 -0.98 -0.98     9      1   c    9

foo one    22.0  1.43  4.10e-01  0.95  0.95  1.76  1.76  1.76    22      2   a   13

three  15.0 -0.15  0.00e+00 -0.15 -0.15 -0.15 -0.15 -0.15    15      1   c   15

two    26.0  1.49  4.48e-01  0.98  0.98  1.87  1.87  1.87    26      2   b   15

有關更多資訊,請參閱文檔。

我們可以通過使用groupby和count輕松完成。但是,我們應該記得使用reset_index()。

df[['col1','col2','col3','col4']].groupby(['col1','col2']).count().\

reset_index()

隻要列中沒有空值,此解決方案就可以工作,否則可能會産生誤導(計數将低于按組觀察的實際數量)。

建立一個組對象并調用如下示例的方法:

grp = df.groupby(['col1',  'col2',  'col3'])

grp.max()

grp.mean()

grp.describe()