pandas是Python資料分析必備工具,它有強大的資料清洗能力,往往能用非常少的代碼實作較複雜的資料處理
今天,總結了pandas篩選資料的15個常用技巧,主要包括5個知識點:
“”
- 比較運算: ==、<、>、>=、<=、!=
- 範圍運算: between(left,right)
- 字元篩選: str.contains (pattern或字元串,na=False)
- 邏輯運算: &(與)、|(或)、not(取反)
- 比較函數: eq, ne, le, lt, ge, gt (相當于 ==,=!,<=,<,>=,> )
- apply 和 isin 函數
下面以超市營運資料為例,給大家逐個講解首先讀取資料:
import pandas as pd
data=pd.read_excel( '超市營運資料模闆.xlsx')
data
先看一下各列的資料類型:
data.dtypes
商品ID int64
類别ID int64
門店編号 object
單價 float64
銷量 float64
訂單ID object
日期 datetime64[ns]
時間 object
dtype: object
下面以實際應用場景為例開始講解:
1.篩選門店編号為'CDXL'的營運資料①第一種方法,用比較運算符‘==’: data[data.門店編号== 'CDXL']
②第二種方法,用比較函數'eq': data[data[ '門店編号'].eq( 'CDXL')]
2.篩選單價小于等于10元的營運資料③第一種方法,用比較運算符‘<=’: data[data.單價<=10]
④第二種方法,用比較函數'le': data[data[ '單價'].le(10)]
3.篩選銷量大于2000的營運資料⑤第一種方法,用比較運算符‘>=’: data[data.銷量>2]
⑥第二種方法,用比較函數'ge': data[data[ '銷量'].ge(2)]
4.篩選除門店'CDXL'外的營運資料⑦第一種方法,用比較運算符‘!=’: data[data.門店編号!= 'CDXL']
⑧第二種方法,用比較函數'ne': data[data[ '門店編号'].ne( 'CDXL')]
5.篩選2020年5月的營運資料
首先将日期格式化:
data[ '日期']=data[ "日期"].values.astype( 'datetime64') #如果已為日期格式則此步驟可省略
data[ '日期']
import datetime
s_date = datetime.datetime.strptime( '2020-04-30', '%Y-%m-%d').date #起始日期
e_date = datetime.datetime.strptime( '2020-06-01', '%Y-%m-%d').date #結束日期
⑨第一種方法,用邏輯運算符号'>' '<'和'&':
Pandasdatetime64[ns] 不能直接與 datetime.date 相比,需要用 pd.Timestamp 進行轉化
data[(data.日期>pd.Timestamp(s_date))&(data.日期<pd.Timestamp(e_date))]
⑩第二種,用比較函數'gt''lt'和'&': data[(data[ '日期'].lt(pd.Timestamp(e_date)))&(data[ '日期'].gt(pd.Timestamp(s_date)))]
⑪第三種,用apply函數實作: id_a=data.日期.apply(lambda x: x.year ==2020 and x.month==5)
data[id_a]
⑫第四種,用between函數實作: id_b=data.日期.between(pd.Timestamp(s_date),pd.Timestamp(e_date))
data[id_b]
6.篩選“類别ID”包含'000'的資料⑬第一種,用contains函數: data[ '類别ID']=data[ '類别ID'].values.astype( 'str') #将該列轉換為字元資料類型
id_c=data.類别ID.str.contains( '000',na=False)
data[id_c]
⑭第二種,用isin函數: id_i=data.類别ID.isin([ '000']) #接受一個清單
data[id_i]
很遺憾,isin函數搞不定,因為它隻能判斷該列中元素是否在清單中
7.篩選商品ID以“301”開頭的營運資料⑮需要用contains函數結合正規表達式使用: data[ '商品ID']=data[ '商品ID'].values.astype( 'str') #将該列轉換為字元資料類型
id_c2=data.商品ID.str.contains( '301d{5}',na=False)
data[id_c2]