天天看點

文本處理三劍客之grep&正規表達式一、grep二、正規表達式三、 練習題

文本處理三劍客之grep&正規表達式一、grep二、正規表達式三、 練習題
grep是一個文本過濾工具,它支援正規表達式,能把搜尋比對到的行列印出來。grep的全稱是Global Regular Expression Print(全局正規表達式)使用權限是所有使用者。

一、grep

作用:按照使用者指定的模式對目标進行搜尋後輸出

模式:正規表達式與文本字元

  • 按照指定的字元搜尋
    #單引号隻是字元串,雙引号識别變量、反單引号識别變量識别指令
    grep "$USER" /etc/passwd
    grep '$USER' /etc/passwd
    grep`whoami` /etc/passwd           
  • 各項參數
    --color=auto: 對比對到的文本着色顯示
     -v: 顯示不被pattern比對到的行
    -i: 忽略字元大小寫
    -n:顯示比對的行号
    -c: 統計比對的行數
    -o: 僅顯示比對到的字元串
    -q: 靜默模式,不輸出任何資訊
    -A #: after, 後#行
    -B #: before, 前#行
    -C #:context, 前後各#行
    -e:實作多個選項間的邏輯or關系
    -w:比對整個單詞
    -E:使用ERE
    -F:相當于fgrep,不支援正規表達式
    -e:或
    grep -e 'root' -e 'admin'  file           

二、正規表達式

由一類特殊字元及文本字元所編寫的模式,其中的某些字元不是字面意義,而是用來表示其規定範圍内的内容。
  • 基本正規表達式 BRE -----

    grep

  • 擴充正規表達式 ERE-----

    egrep

    或者

    grep -E

  • 基本與擴充正規表達式差別在于兩者元字元不同
    元字元:一個字元出現以後,它并不表示檔案本身,
    而是用來比對一定範圍内的或者指定符合條件的字元;           
  • 元字元分為 字元比對、次數比對、位置錨定、分組

1. 字元比對

.    比對任意單個字元
[]   比對任意範圍内的任意單個字元
[^]  比對指定範圍外的任意單個字元
[:alnum:]   字母和數字
[:alpha:]   比對大小寫字母
[:lower:]   小寫字母
[:upper:]   大寫字母
[:blank:]   空白字元,包括空格與制表符
[:space:]   水準和垂直的空白字元(比[:blank:]包含的範圍廣)
[:cntrl:]   不可列印的控制字元(倒退、删除、警鈴...)
[:digit:]   十進制數字 [:xdigit:]十六進制數字
[:graph:]   可列印的非空白字元
[:print:]   可列印字元
[:punct:]   标點符号           

2. 次數比對

*       比對前字元任意次數,包括0次;貪婪模式,盡可能長的比對
.*      任意長度任意字元。(點為任意單個,*為任意次)
\?      前一字元0次或者1次
\+      前一字元至少1次
\{n\}   前一字元n次
\{m,n\} 前一字元m到n次
\{,n\}  前一字元最多n次
\{m,\}  前字元最少m次           

3. 位置錨定

^       行首錨定
$       行尾
^abc$   用于比對正行隻有abc字元
         ^$     比對空行
         ^[[:space:]]*$   空白行
\<      詞首錨定
\>      詞首錨定
\<abc\> 比對整個單詞           

4. 分組

\(\)     将多個字元捆綁在一起,當做一個整體
\1     \2    捆綁在一起的整體成為組,用 \1  \2 表示表示第一組第二組
從左起第一個括号,到與其比對的括号為止為1組           
  • 舉例
    \(string1\+\(string2\)*\)
    \1 為string1\+\(string2\)*
    \2 為string2
    #
    分組的引用
    #當通過\1再次引用字元串是,\1表示之前()組内比對的結果。           
  • a\|b:     a或者b
    \(C\|c\)at:     Cat或者cat           

5. 正規表達式圖檔詳解

文本處理三劍客之grep&amp;正規表達式一、grep二、正規表達式三、 練習題

三、 練習題

  1. proc/meminfo檔案中以大小s開頭的行(要求:使用兩種方法)
    [root@centos7 app]# grep ^[S\|s] /proc/meminfo 
    SwapCached:            0 kB
    SwapTotal:       2097148 kB
    SwapFree:        2097148 kB
    Shmem:              7868 kB
    Slab:             110820 kB
    SReclaimable:      54148 kB
    SUnreclaim:        56672 kB           
  2. 顯示/etc/passwd檔案中不以/bin/bash結尾的行
    [root@centos7 app]# grep -v "/bin/bash$" /etc/passwd             
  3. 顯示使用者rpc預設的shell程式
    [root@centos7 app]# grep  -w ^rpc /etc/passwd|cut -d: -f7           
  4. 找出/etc/passwd中的兩位或三位數
    [root@centos7 app]# grep -w "[[:digit:]]\{2,3\}" /etc/passwd
    [root@centos7 app]# grep -w "[0-9]\{2,3\}" /etc/passwd            
  5. 顯示CentOS7的/etc/grub2.cfg檔案中,至少以一個空白字元開頭的且後面存非空白字元的行
    [root@centos7 app]# grep "^[[:space:]]\+[^[:space:]]" /etc/grub2.cfg           
  6. 找出“netstat -tan”指令的結果中以‘LISTEN’後跟任意多個空白字元結尾的行
    [root@centos7 app]# netstat -tan | grep "LISTEN[[:space:]]\+"           
  7. 顯示CentOS7上所有系統使用者的使用者名和UID
    [root@centos7 app]# cut -d: -f1,3 /etc/passwd|grep -w "[[:digit:]]\{1,3\}$"|sort -t: -k2           
  8. 添加使用者bash、testbash、basher、sh、nologin(其shell為/sbin/nologin),找出/etc/passwd使用者名同shell名的行
    [root@centos7 app]# grep -o "^\([[:alpha:]]\+\>\).*\<\1$" /etc/passwd           
  9. 利用df和grep,取出磁盤各分區使用率,并從大到小排序
    [root@centos7 app]# df|grep "^/dev/sd"|tr -s ' '|cut -d ' ' -f1,5|sort -t' ' -k 2 -n           
  1. 顯示三個使用者root、nologin的UID和預設shell
[root@centos7 ~]# cut -d: -f1,3,7 /etc/passwd | grep -E -e "^root" -e "^nologin"
root:0:/bin/bash
nologin:1102:/sbin/nologin           
  1. 找出/etc/rc.d/init.d/functions檔案中行首為某單詞(包括下劃線)後面跟一個小括号的行
[root@centos7 ~]# egrep "^(_|[[:alpha:]])+\(" /etc/rc.d/init.d/functions           
  1. 使用egrep取出/etc/rc.d/init.d/functions中其基名
[root@centos7 ~]# echo /etc/rc.d/init.d/functions |grep -E "[^/]+/?$" -o           
  1. 使用egrep取出上面路徑的目錄名
[root@centos7 ~]# echo /etc/rc.d/init.d/functions |grep -E "^/.*/\<"           
  1. 統計last指令中以root登入的每個主機IP位址登入次數
[root@centos7 ~]# last|tr -s ' '| cut -d ' ' -f1,3| grep "\([[:digit:]]\+.\)\{3\}[[:digit:]]\+"|sort -r|uniq -c           
  1. 利用擴充正規表達式分别表示0-9、10-99、100-199、200-249、250-255
[root@centos7 ~]# echo {1..100}| egrep -w [0-9]{1} -o
[root@centos7 ~]# echo {1..100}| egrep -w [1-9][0-9]
[root@centos7 ~]# echo {190..300}| egrep -w 2[0-4][0-9] 
[root@centos7 ~]# echo {190..300}| egrep -w 25[0-5]             
  1. 顯示ifconfig指令結果中所有IPv4位址
[root@centos7 ~]# ifconfig | egrep  "([[:digit:]]+\.){3}[[:digit:]]+" -o           
  1. 将此字元串:welcome to magedu linux 中的每個字元去重并排序,重複次數多的排到前面
[root@centos7 ~]# echo welcome to aubin linux|grep [[:alpha:]] -o|sort -n|uniq -c           

繼續閱讀