天天看點

HOG+LBP+Haar介紹

(一)HOG特征

1、HOG特征:

方向梯度直方圖(Histogram of Oriented Gradient, HOG)特征是一種在計算機視覺和圖像進行中用來進行物體檢測的特征描述子。它通過計算和統計圖像局部區域的梯度方向直方圖來構成特征。Hog特征結合SVM分類器已經被廣泛應用于圖像識别中,尤其在行人檢測中獲得了極大的成功。需要提醒的是,HOG+SVM進行行人檢測的方法是法國研究人員Dalal在2005的CVPR上提出的,而如今雖然有很多行人檢測算法不斷提出,但基本都是以HOG+SVM的思路為主。

(1)主要思想:

在一副圖像中,局部目标的表象和形狀(appearance and shape)能夠被梯度或邊緣的方向密度分布很好地描述。(本質:梯度的統計資訊,而梯度主要存在于邊緣的地方)。

(2)具體的實作方法是:

首先将圖像分成小的連通區域,我們把它叫細胞單元。然後采集細胞單元中各像素點的梯度的或邊緣的方向直方圖。最後把這些直方圖組合起來就可以構成特征描述器。

(3)提高性能:

把這些局部直方圖在圖像的更大的範圍内(我們把它叫區間或block)進行對比度歸一化(contrast-normalized),所采用的方法是:先計算各直方圖在這個區間(block)中的密度,然後根據這個密度對區間中的各個細胞單元做歸一化。通過這個歸一化後,能對光照變化和陰影獲得更好的效果。

(4)優點:

與其他的特征描述方法相比,HOG有很多優點。首先,由于HOG是在圖像的局部方格單元上操作,是以它對圖像幾何的和光學的形變都能保持很好的不變性,這兩種形變隻會出現在更大的空間領域上。其次,在粗的空域抽樣、精細的方向抽樣以及較強的局部光學歸一化等條件下,隻要行人大體上能夠保持直立的姿勢,可以容許行人有一些細微的肢體動作,這些細微的動作可以被忽略而不影響檢測效果。是以HOG特征是特别适合于做圖像中的人體檢測的。

2、HOG特征提取算法的實作過程:

大概過程:

HOG特征提取方法就是将一個image(你要檢測的目标或者掃描視窗):

1)灰階化(将圖像看做一個x,y,z(灰階)的三維圖像);

2)采用Gamma校正法對輸入圖像進行顔色空間的标準化(歸一化);目的是調節圖像的對比度,降低圖像局部的陰影和光照變化所造成的影響,同時可以抑制噪音的幹擾;

3)計算圖像每個像素的梯度(包括大小和方向);主要是為了捕獲輪廓資訊,同時進一步弱化光照的幹擾。

4)将圖像劃分成小cells(例如6*6像素/cell);

5)統計每個cell的梯度直方圖(不同梯度的個數),即可形成每個cell的descriptor;

6)将每幾個cell組成一個block(例如3*3個cell/block),一個block内所有cell的特征descriptor串聯起來便得到該block的HOG特征descriptor。

7)将圖像image内的所有block的HOG特征descriptor串聯起來就可以得到該image(你要檢測的目标)的HOG特征descriptor了。這個就是最終的可供分類使用的特征向量了。

HOG+LBP+Haar介紹

具體每一步的詳細過程如下:

(1)标準化gamma空間和顔色空間

為了減少光照因素的影響,首先需要将整個圖像進行規範化(歸一化)。在圖像的紋理強度中,局部的表層曝光貢獻的比重較大,是以,這種壓縮處理能夠有效地降低圖像局部的陰影和光照變化。因為顔色資訊作用不大,通常先轉化為灰階圖;

Gamma壓縮公式:

HOG+LBP+Haar介紹

比如可以取Gamma=1/2;

(2)計算圖像梯度

計算圖像橫坐标和縱坐标方向的梯度,并據此計算每個像素位置的梯度方向值;求導操作不僅能夠捕獲輪廓,人影和一些紋理資訊,還能進一步弱化光照的影響。

圖像中像素點(x,y)的梯度為:

HOG+LBP+Haar介紹

最常用的方法是:首先用[-1,0,1]梯度算子對原圖像做卷積運算,得到x方向(水準方向,以向右為正方向)的梯度分量gradscalx,然後用[1,0,-1]T梯度算子對原圖像做卷積運算,得到y方向(豎直方向,以向上為正方向)的梯度分量gradscaly。然後再用以上公式計算該像素點的梯度大小和方向。

(3)為每個細胞單元建構梯度方向直方圖

第三步的目的是為局部圖像區域提供一個編碼,同時能夠保持對圖像中人體對象的姿勢和外觀的弱敏感性。

我們将圖像分成若幹個“單元格cell”,例如每個cell為6*6個像素。假設我們采用9個bin的直方圖來統計這6*6個像素的梯度資訊。也就是将cell的梯度方向360度分成9個方向塊,如圖所示:例如:如果這個像素的梯度方向是20-40度,直方圖第2個bin的計數就加一,這樣,對cell内每個像素用梯度方向在直方圖中進行權重投影(映射到固定的角度範圍),就可以得到這個cell的梯度方向直方圖了,就是該cell對應的9維特征向量(因為有9個bin)。

像素梯度方向用到了,那麼梯度大小呢?梯度大小就是作為投影的權值的。例如說:這個像素的梯度方向是20-40度,然後它的梯度大小是2(假設啊),那麼直方圖第2個bin的計數就不是加一了,而是加二(假設啊)。

HOG+LBP+Haar介紹

細胞單元可以是矩形的(rectangular),也可以是星形的(radial)。

(4)把細胞單元組合成大的塊(block),塊内歸一化梯度直方圖

由于局部光照的變化以及前景-背景對比度的變化,使得梯度強度的變化範圍非常大。這就需要對梯度強度做歸一化。歸一化能夠進一步地對光照、陰影和邊緣進行壓縮。

作者采取的辦法是:把各個細胞單元組合成大的、空間上連通的區間(blocks)。這樣,一個block内所有cell的特征向量串聯起來便得到該block的HOG特征。這些區間是互有重疊的,這就意味着:每一個單元格的特征會以不同的結果多次出現在最後的特征向量中。我們将歸一化之後的塊描述符(向量)就稱之為HOG描述符。

HOG+LBP+Haar介紹

區間有兩個主要的幾何形狀——矩形區間(R-HOG)和環形區間(C-HOG)。R-HOG區間大體上是一些方形的格子,它可以有三個參數來表征:每個區間中細胞單元的數目、每個細胞單元中像素點的數目、每個細胞的直方圖通道數目。

例如:行人檢測的最佳參數設定是:3×3細胞/區間、6×6像素/細胞、9個直方圖通道。則一塊的特征數為:3*3*9;

(5)收集HOG特征

最後一步就是将檢測視窗中所有重疊的塊進行HOG特征的收集,并将它們結合成最終的特征向量供分類使用。

(6)那麼一個圖像的HOG特征維數是多少呢?

順便做個總結:Dalal提出的Hog特征提取的過程:把樣本圖像分割為若幹個像素的單元(cell),把梯度方向平均劃分為9個區間(bin),在每個單元裡面對所有像素的梯度方向在各個方向區間進行直方圖統計,得到一個9維的特征向量,每相鄰的4個單元構成一個塊(block),把一個塊内的特征向量聯起來得到36維的特征向量,用塊對樣本圖像進行掃描,掃描步長為一個單元。最後将所有塊的特征串聯起來,就得到了人體的特征。例如,對于64*128的圖像而言,每16*16的像素組成一個cell,每2*2個cell組成一個塊,因為每個cell有9個特征,是以每個塊内有4*9=36個特征,以8個像素為步長,那麼,水準方向将有7個掃描視窗,垂直方向将有15個掃描視窗。也就是說,64*128的圖檔,總共有36*7*15=3780個特征。

(二)LBP特征

LBP(Local Binary Pattern,局部二值模式)是一種用來描述圖像局部紋理特征的算子;它具有旋轉不變性和灰階不變性等顯著的優點。它是首先由T. Ojala, M.Pietikäinen, 和D. Harwood 在1994年提出,用于紋理特征提取。而且,提取的特征是圖像的局部的紋理特征;

1、LBP特征的描述

原始的LBP算子定義為在3*3的視窗内,以視窗中心像素為門檻值,将相鄰的8個像素的灰階值與其進行比較,若周圍像素值大于中心像素值,則該像素點的位置被标記為1,否則為0。這樣,3*3鄰域内的8個點經比較可産生8位二進制數(通常轉換為十進制數即LBP碼,共256種),即得到該視窗中心像素點的LBP值,并用這個值來反映該區域的紋理資訊。如下圖所示:

HOG+LBP+Haar介紹

LBP的改進版本:

原始的LBP提出後,研究人員不斷對其提出了各種改進和優化。

(1)圓形LBP算子:

基本的 LBP算子的最大缺陷在于它隻覆寫了一個固定半徑範圍内的小區域,這顯然不能滿足不同尺寸和頻率紋理的需要。為了适應不同尺度的紋理特征,并達到灰階和旋轉不變性的要求,Ojala等對 LBP 算子進行了改進,将 3×3鄰域擴充到任意鄰域,并用圓形鄰域代替了正方形鄰域,改進後的 LBP 算子允許在半徑為 R 的圓形鄰域内有任意多個像素點。進而得到了諸如半徑為R的圓形區域内含有P個采樣點的LBP算子;

HOG+LBP+Haar介紹

(2)LBP旋轉不變模式

從 LBP 的定義可以看出,LBP 算子是灰階不變的,但卻不是旋轉不變的。圖像的旋轉就會得到不同的 LBP值。

Maenpaa等人又将 LBP算子進行了擴充,提出了具有旋轉不變性的 LBP 算子,即不斷旋轉圓形鄰域得到一系列初始定義的 LBP值,取其最小值作為該鄰域的 LBP 值。

圖 2.5 給出了求取旋轉不變的 LBP 的過程示意圖,圖中算子下方的數字表示該算子對應的 LBP值,圖中所示的 8 種 LBP模式,經過旋轉不變的處理,最終得到的具有旋轉不變性的 LBP值為 15。也就是說,圖中的 8種 LBP 模式對應的旋轉不變的 LBP模式都是00001111。

HOG+LBP+Haar介紹

(3)LBP等價模式

一個LBP算子可以産生不同的二進制模式,對于半徑為R的圓形區域内含有P個采樣點的LBP算子将會産生P2種模式。很顯然,随着鄰域集内采樣點數的增加,二進制模式的種類是急劇增加的。例如:5×5鄰域内20個采樣點,有220=1,048,576種二進制模式。如此多的二值模式無論對于紋理的提取還是對于紋理的識别、分類及資訊的存取都是不利的。同時,過多的模式種類對于紋理的表達是不利的。例如,将LBP算子用于紋理分類或人臉識别時,常采用LBP模式的統計直方圖來表達圖像的資訊,而較多的模式種類将使得資料量過大,且直方圖過于稀疏。是以,需要對原始的LBP模式進行降維,使得資料量減少的情況下能最好的代表圖像的資訊。

為了解決二進制模式過多的問題,提高統計性,Ojala提出了采用一種“等價模式”(Uniform Pattern)來對LBP算子的模式種類進行降維。Ojala等認為,在實際圖像中,絕大多數LBP模式最多隻包含兩次從1到0或從0到1的跳變。是以,Ojala将“等價模式”定義為:當某個LBP所對應的循環二進制數從0到1或從1到0最多有兩次跳變時,該LBP所對應的二進制就稱為一個等價模式類。如00000000(0次跳變),00000111(2次跳變),10001111(先由1跳到0,再由0跳到1,共兩次跳變)都是等價模式類。除等價模式類以外的模式都歸為另一類,稱為混合模式類,例如10010111(共四次跳變)(這是我的個人了解,不知道對不對)。

通過這樣的改進,二進制模式的種類大大減少,而不會丢失任何資訊。模式數量由原來的2P種減少為 P ( P-1)+2種,其中P表示鄰域集内的采樣點數。對于3×3鄰域内8個采樣點來說,二進制模式由原始的256種減少為58種,這使得特征向量的維數更少,并且可以減少高頻噪聲帶來的影響。

2、LBP特征用于檢測的原理

顯而易見的是,上述提取的LBP算子在每個像素點都可以得到一個LBP“編碼”,那麼,對一幅圖像(記錄的是每個像素點的灰階值)提取其原始的LBP算子之後,得到的原始LBP特征依然是“一幅圖檔”(記錄的是每個像素點的LBP值)。

HOG+LBP+Haar介紹

LBP的應用中,如紋理分類、人臉分析等,一般都不将LBP圖譜作為特征向量用于分類識别,而是采用LBP特征譜的統計直方圖作為特征向量用于分類識别。

因為,從上面的分析我們可以看出,這個“特征”跟位置資訊是緊密相關的。直接對兩幅圖檔提取這種“特征”,并進行判别分析的話,會因為“位置沒有對準”而産生很大的誤差。後來,研究人員發現,可以将一幅圖檔劃分為若幹的子區域,對每個子區域内的每個像素點都提取LBP特征,然後,在每個子區域内建立LBP特征的統計直方圖。如此一來,每個子區域,就可以用一個統計直方圖來進行描述;整個圖檔就由若幹個統計直方圖組成;

例如:一幅100*100像素大小的圖檔,劃分為10*10=100個子區域(可以通過多種方式來劃分區域),每個子區域的大小為10*10像素;在每個子區域内的每個像素點,提取其LBP特征,然後,建立統計直方圖;這樣,這幅圖檔就有10*10個子區域,也就有了10*10個統計直方圖,利用這10*10個統計直方圖,就可以描述這幅圖檔了。之後,我們利用各種相似性度量函數,就可以判斷兩幅圖像之間的相似性了;

3、對LBP特征向量進行提取的步驟

(1)首先将檢測視窗劃分為16×16的小區域(cell);

(2)對于每個cell中的一個像素,将相鄰的8個像素的灰階值與其進行比較,若周圍像素值大于中心像素值,則該像素點的位置被标記為1,否則為0。這樣,3*3鄰域内的8個點經比較可産生8位二進制數,即得到該視窗中心像素點的LBP值;

(3)然後計算每個cell的直方圖,即每個數字(假定是十進制數LBP值)出現的頻率;然後對該直方圖進行歸一化處理。

(4)最後将得到的每個cell的統計直方圖進行連接配接成為一個特征向量,也就是整幅圖的LBP紋理特征向量;

然後便可利用SVM或者其他機器學習算法進行分類了。

(三)Haar特征

1、Haar-like特征

       Haar-like特征最早是由Papageorgiou等應用于人臉表示,Viola和Jones在此基礎上,使用3種類型4種形式的特征。

Haar特征分為三類:邊緣特征、線性特征、中心特征和對角線特征,組合成特征模闆。特征模闆内有白色和黑色兩種矩形,并定義該模闆的特征值為白色矩形像素和減去黑色矩形像素和。Haar特征值反映了圖像的灰階變化情況。例如:臉部的一些特征能由矩形特征簡單的描述,如:眼睛要比臉頰顔色要深,鼻梁兩側比鼻梁顔色要深,嘴巴比周圍顔色要深等。但矩形特征隻對一些簡單的圖形結構,如邊緣、線段較敏感,是以隻能描述特定走向(水準、垂直、對角)的結構。

HOG+LBP+Haar介紹

對于圖中的A, B和D這類特征,特征數值計算公式為:v=Sum白-Sum黑,而對于C來說,計算公式如下:v=Sum白-2*Sum黑;之是以将黑色區域像素和乘以2,是為了使兩種矩形區域中像素數目一緻。

通過改變特征模闆的大小和位置,可在圖像子視窗中窮舉出大量的特征。上圖的特征模闆稱為“特征原型”;特征原型在圖像子視窗中擴充(平移伸縮)得到的特征稱為“矩形特征”;矩形特征的值稱為“特征值”。

矩形特征可位于圖像任意位置,大小也可以任意改變,是以矩形特征值是矩形模版類别、矩形位置和矩形大小這三個因素的函數。故類别、大小和位置的變化,使得很小的檢測視窗含有非常多的矩形特征,如:在24*24像素大小的檢測視窗内矩形特征數量可以達到16萬個。這樣就有兩個問題需要解決了:(1)如何快速計算那麼多的特征?—積分圖大顯神通;(2)哪些矩形特征才是對分類器分類最有效的?—如通過AdaBoost算法來訓練(這一塊這裡不讨論,具體見http://blog.csdn.net/zouxy09/article/details/7922923)

2、Haar-like特征的計算—積分圖

積分圖就是隻周遊一次圖像就可以求出圖像中所有區域像素和的快速算法,大大的提高了圖像特征值計算的效率。

積分圖主要的思想是将圖像從起點開始到各個點所形成的矩形區域像素之和作為一個數組的元素儲存在記憶體中,當要計算某個區域的像素和時可以直接索引數組的元素,不用重新計算這個區域的像素和,進而加快了計算(這有個相應的稱呼,叫做動态規劃算法)。積分圖能夠在多種尺度下,使用相同的時間(常數時間)來計算不同的特征,是以大大提高了檢測速度。

我們來看看它是怎麼做到的。

積分圖是一種能夠描述全局資訊的矩陣表示方法。積分圖的構造方式是位置(i,j)處的值ii(i,j)是原圖像(i,j)左上角方向所有像素的和:

HOG+LBP+Haar介紹
HOG+LBP+Haar介紹

積分圖建構算法:

1)用s(i,j)表示行方向的累加和,初始化s(i,-1)=0;

2)用ii(i,j)表示一個積分圖像,初始化ii(-1,i)=0;

3)逐行掃描圖像,遞歸計算每個像素(i,j)行方向的累加和s(i,j)和積分圖像ii(i,j)的值

s(i,j)=s(i,j-1)+f(i,j)

ii(i,j)=ii(i-1,j)+s(i,j)

4)掃描圖像一遍,當到達圖像右下角像素時,積分圖像ii就構造好了。

積分圖構造好之後,圖像中任何矩陣區域的像素累加和都可以通過簡單運算得到如圖所示。

HOG+LBP+Haar介紹

設D的四個頂點分别為α、β、γ、δ,則D的像素和可以表示為

Dsum = ii( α )+ii( β)-(ii( γ)+ii( δ ));

而Haar-like特征值無非就是兩個矩陣像素和的差,同樣可以在常數時間内完成。是以矩形特征的特征值計算,隻與此特征矩形的端點的積分圖有關,是以不管此特征矩形的尺度變換如何,特征值的計算所消耗的時間都是常量。這樣隻要周遊圖像一次,就可以求得所有子視窗的特征值。

3、Haar-like矩形特征拓展

Lienhart R.等對Haar-like矩形特征庫作了進一步擴充,加入了旋轉45。角的矩形特征。擴充後的特征大緻分為4種類型:邊緣特征、線特征環、中心環繞特征和對角線特征:

HOG+LBP+Haar介紹

在特征值的計算過程中,黑色區域的權值為負值,白色區域的權值為正值。而且權值與矩形面積成反比(使兩種矩形區域中像素數目一緻);

豎直矩陣特征值計算:

對于豎直矩陣,與上面2處說的一樣。

45°旋角的矩形特征計算:

對于45°旋角的矩形,我們定義RSAT(x,y)為點(x,y)左上角45°區域和左下角45°區域的像素和。

HOG+LBP+Haar介紹

用公式可以表示為:

HOG+LBP+Haar介紹

為了節約時間,減少重複計算,可按如下遞推公式計算:

HOG+LBP+Haar介紹

而計算矩陣特征的特征值,是位于十字行矩形RSAT(x,y)之差。可參考下圖:

HOG+LBP+Haar介紹

繼續閱讀