【2018/7/23】今天重點學習了紋理特征提取算法LBP,這個算法可以用于紋理特征提取和人臉識别，應用比較廣泛。首先介紹LBP算法的原理，然後是LBP特征的提取步驟，最後使用OpenCV實作了這個算法。

LBP（Local Binary Pattern，局部二值模式）是一種用來描述圖像局部紋理特征的算子；它具有旋轉不變性和灰階不變性等顯著的優點。它是首先由T. Ojala, M.Pietikäinen, 和D. Harwood 在1994年提出，用于紋理特征提取。而且，提取的特征是圖像的局部的紋理特征。

1、LBP特征的描述

原始的LBP算子定義為在3*3的視窗内，以視窗中心像素為門檻值，将相鄰的8個像素的灰階值與其進行比較，若周圍像素值大于中心像素值，則該像素點的位置被标記為1，否則為0。這樣，3*3鄰域内的8個點經比較可産生8位二進制數（通常轉換為十進制數即LBP碼，共256種），即得到該視窗中心像素點的LBP值，并用這個值來反映該區域的紋理資訊。如下圖所示：

圖像特征提取算法之LBP LBP（Local Binary Pattern，局部二值模式）是一種用來描述圖像局部紋理特征的算子；它具有旋轉不變性和灰階不變性等顯著的優點。它是首先由T. Ojala, M.Pietikäinen, 和D. Harwood 在1994年提出，用于紋理特征提取。而且，提取的特征是圖像的局部的紋理特征。

LBP的改進版本：

原始的LBP提出後，研究人員不斷對其提出了各種改進和優化。

（1）圓形LBP算子：

基本的 LBP算子的最大缺陷在于它隻覆寫了一個固定半徑範圍内的小區域，這顯然不能滿足不同尺寸和頻率紋理的需要。為了适應不同尺度的紋理特征，并達到灰階和旋轉不變性的要求，Ojala等對 LBP 算子進行了改進，将 3×3鄰域擴充到任意鄰域，并用圓形鄰域代替了正方形鄰域，改進後的 LBP 算子允許在半徑為 R 的圓形鄰域内有任意多個像素點。進而得到了諸如半徑為R的圓形區域内含有P個采樣點的LBP算子。

（2）LBP旋轉不變模式

從 LBP 的定義可以看出，LBP 算子是灰階不變的，但卻不是旋轉不變的。圖像的旋轉就會得到不同的 LBP值。

Maenpaa等人又将 LBP算子進行了擴充，提出了具有旋轉不變性的 LBP 算子，即不斷旋轉圓形鄰域得到一系列初始定義的 LBP值，取其最小值作為該鄰域的 LBP 值。

圖 2.5 給出了求取旋轉不變的 LBP 的過程示意圖，圖中算子下方的數字表示該算子對應的 LBP值，圖中所示的 8 種 LBP模式，經過旋轉不變的處理，最終得到的具有旋轉不變性的 LBP值為 15。也就是說，圖中的 8種 LBP 模式對應的旋轉不變的 LBP模式都是00001111。

（3）LBP等價模式

一個LBP算子可以産生不同的二進制模式，對于半徑為R的圓形區域内含有P個采樣點的LBP算子将會産生P 2 種模式。很顯然，随着鄰域集内采樣點數的增加，二進制模式的種類是急劇增加的。例如：5×5鄰域内20個采樣點，有2 20 ＝1,048,576種二進制模式。如此多的二值模式無論對于紋理的提取還是對于紋理的識别、分類及資訊的存取都是不利的。同時，過多的模式種類對于紋理的表達是不利的。例如，将LBP算子用于紋理分類或人臉識别時，常采用LBP模式的統計直方圖來表達圖像的資訊，而較多的模式種類将使得資料量過大，且直方圖過于稀疏。是以，需要對原始的LBP模式進行降維，使得資料量減少的情況下能最好的代表圖像的資訊。

為了解決二進制模式過多的問題，提高統計性，Ojala提出了采用一種“等價模式”（Uniform Pattern）來對LBP算子的模式種類進行降維。Ojala等認為，在實際圖像中，絕大多數LBP模式最多隻包含兩次從1到0或從0到1的跳變。因此，Ojala将“等價模式”定義為：當某個LBP所對應的循環二進制數從0到1或從1到0最多有兩次跳變時，該LBP所對應的二進制就稱為一個等價模式類。如00000000（0次跳變），00000111（隻含一次從0到1的跳變），10001111（先由1跳到0，再由0跳到1，共兩次跳變）都是等價模式類。除等價模式類以外的模式都歸為另一類，稱為混合模式類，例如10010111（共四次跳變）

通過這樣的改進，二進制模式的種類大大減少，而不會丢失任何資訊。模式數量由原來的2 P 種減少為 P ( P-1)+2種，其中P表示鄰域集内的采樣點數。對于3×3鄰域内8個采樣點來說，二進制模式由原始的256種減少為58種，這使得特征向量的維數更少，并且可以減少高頻噪聲帶來的影響。

2、LBP特征用于檢測的原理

顯而易見的是，上述提取的LBP算子在每個像素點都可以得到一個LBP“編碼”，那麼，對一幅圖像（記錄的是每個像素點的灰階值）提取其原始的LBP算子之後，得到的原始LBP特征依然是“一幅圖檔”（記錄的是每個像素點的LBP值）。

LBP的應用中，如紋理分類、人臉分析等，一般都不将LBP圖譜作為特征向量用于分類識别，而是采用LBP特征譜的統計直方圖作為特征向量用于分類識别。

因為，從上面的分析我們可以看出，這個“特征”跟位置資訊是緊密相關的。直接對兩幅圖檔提取這種“特征”，并進行判别分析的話，會因為“位置沒有對準”而産生很大的誤差。後來，研究人員發現，可以将一幅圖檔劃分為若幹的子區域，對每個子區域内的每個像素點都提取LBP特征，然後，在每個子區域内建立LBP特征的統計直方圖。如此一來，每個子區域，就可以用一個統計直方圖來進行描述；整個圖檔就由若幹個統計直方圖組成；

例如：一幅100*100像素大小的圖檔，劃分為10個子區域（可以通過多種方式來劃分區域），每個子區域的大小為10*10像素；在每個子區域内的每個像素點，提取其LBP特征，然後，建立統計直方圖；這樣，這幅圖檔就有10個子區域，也就有了10個統計直方圖，利用這10個統計直方圖，就可以描述這幅圖檔了。之後，我們利用各種相似性度量函數，就可以判斷兩幅圖像之間的相似性了；

3、對LBP特征向量進行提取的步驟

（1）首先将檢測視窗劃分為16×16的小區域（cell）；

（2）對于每個cell中的一個像素，将相鄰的8個像素的灰階值與其進行比較，若周圍像素值大于中心像素值，則該像素點的位置被标記為1，否則為0。這樣，3*3鄰域内的8個點經比較可産生8位二進制數，即得到該視窗中心像素點的LBP值；

（3）然後計算每個cell的直方圖，即每個數字（假定是十進制數LBP值）出現的頻率；然後對該直方圖進行歸一化處理。

（4）最後将得到的每個cell的統計直方圖進行連接配接成為一個特征向量，也就是整幅圖的LBP紋理特征向量；

然後便可利用SVM或者其他機器學習算法進行分類了。

4、LBP算法實作

Language: C++(OpenCV)

#include "opencv2/core/core.hpp"
#include "opencv2/contrib/contrib.hpp"
#include "opencv2/highgui/highgui.hpp"
#include <iostream>
#include <fstream>
#include <sstream>
using namespace cv;
using namespace std;
void elbp(Mat& src, Mat &dst, int radius, int neighbors)
{
for(int n=0; n<neighbors; n++)
{
// 采樣點的計算
float x = static_cast<float>(-radius * sin(2.0*CV_PI*n/static_cast<float>(neighbors)));
float y = static_cast<float>(radius * cos(2.0*CV_PI*n/static_cast<float>(neighbors)));
// 上取整和下取整的值
int fx = static_cast<int>(floor(x));
int fy = static_cast<int>(floor(y));
int cx = static_cast<int>(ceil(x));
int cy = static_cast<int>(ceil(y));
// 小數部分
float ty = y - fy;
float tx = x - fx;
// 設定插值權重
float w1 = (1 - tx) * (1 - ty);
float w2 = tx * (1 - ty);
float w3 = (1 - tx) * ty;
float w4 = tx * ty;
// 循環處理圖像資料
for(int i=radius; i < src.rows-radius;i++)
{
for(int j=radius;j < src.cols-radius;j++)
{
// 計算插值
float t = static_cast<float>(w1*src.at<uchar>(i+fy,j+fx) + w2*src.at<uchar>(i+fy,j+cx) + w3*src.at<uchar>(i+cy,j+fx) + w4*src.at<uchar>(i+cy,j+cx));
// 進行編碼
dst.at<uchar>(i-radius,j-radius) += ((t > src.at<uchar>(i,j)) || (std::abs(t-src.at<uchar>(i,j)) < std::numeric_limits<float>::epsilon())) << n;
}
}
}
}
void elbp1(Mat& src, Mat &dst)
{
// 循環處理圖像資料
for(int i=1; i < src.rows-1;i++)
{
for(int j=1;j < src.cols-1;j++)
{
uchar tt = 0;
int tt1 = 0;
uchar u = src.at<uchar>(i,j);
if(src.at<uchar>(i-1,j-1)>u) { tt += 1 <<tt1; }
tt1++;
if(src.at<uchar>(i-1,j)>u) { tt += 1 <<tt1; }
tt1++;
if(src.at<uchar>(i-1,j+1)>u) { tt += 1 <<tt1; }
tt1++;
if(src.at<uchar>(i,j+1)>u) { tt += 1 <<tt1; }
tt1++;
if(src.at<uchar>(i+1,j+1)>u) { tt += 1 <<tt1; }
tt1++;
if(src.at<uchar>(i+1,j)>u) { tt += 1 <<tt1; }
tt1++;
if(src.at<uchar>(i+1,j-1)>u) { tt += 1 <<tt1; }
tt1++;
if(src.at<uchar>(i-1,j)>u) { tt += 1 <<tt1; }
tt1++;
dst.at<uchar>(i-1,j-1) = tt;// 更正，之前是dst.at<uchar>(i,j)=tt;
}
}
}
int main()
{
Mat img = cv::imread("bear.jpg", 0);
namedWindow("image");
imshow("image", img);
int radius, neighbors;
radius = 1;
neighbors = 8;
//建立一個LBP圖譜
Mat dst = Mat(img.rows-2*radius, img.cols-2*radius,CV_8UC1, Scalar(0));
elbp1(img,dst);
namedWindow("normal");
imshow("normal", dst);
Mat dst1 = Mat(img.rows-2*radius, img.cols-2*radius,CV_8UC1, Scalar(0));
elbp(img,dst1,1,8);
namedWindow("circle");
imshow("circle", dst1);
cv::waitKey(0);
}

實驗效果：

從實驗效果圖中可以看出，circle LBP的紋理特征提取的更加明顯。

基本LBP算法實作:比較簡單

void LBP(Mat& src, Mat& dst)
{
int width = src.cols;
int height = src.rows;
for (int i = 1; i <= height - 1; ++i)
{
for (int j = 1; j <= width - 1; ++j)
{
uchar neighbor[8] = { 0 };
neighbor[7] = src.at<uchar>(i-1, j-1);
neighbor[6] = src.at<uchar>(i-1,j);
neighbor[5] = src.at<uchar>(i - 1, j + 1);
neighbor[4] = src.at<uchar>(i, j + 1);
neighbor[3] = src.at<uchar>(i + 1, j + 1);
neighbor[2] = src.at<uchar>(i + 1, j);
neighbor[1] = src.at<uchar>(i + 1, j - 1);
neighbor[0] = src.at<uchar>(i, j - 1);
uchar curr = src.at<uchar>(i, j);
uchar temp = 0;
for (int k = 0; k < 8; k++)
{
temp += (neighbor[k] >= curr)<< k;
}
dst.at<uchar>(i-1, j-1) = temp;
}
}
}

5、LBP算法在人臉識别中的應用

今天先學習到這裡，下次繼續更新LBP局部二值模式在紋理提取和人臉識别中的具體應用。

LBP的應用中，如紋理分類、人臉分析等，一般都不将LBP圖譜作為特征向量用于分類識别，而是采用LBP特征譜的統計直方圖作為特征向量用于分類識别。

繼續閱讀

第六章層的濾鏡

GitHub開源！《深度學習面試指南》

（三十六：2021.01.13）Pre-MICCAI 2019學習（一）《從植入粒子後的CT圖像自動定位植入的粒子》講在前面摘要論文内容

Jetson TX2 opencv3.4的編譯安裝

二維圖像三維化錄影機标定視覺計算理論（Computational Theory of Vision）

Photoshop最常見的問答集

Visual C++多媒體設計及圖形、圖像處理

3d相機機器視覺檢測技術

使用自相關函數的紋理圖像周期計算

2014ECCV視覺跟蹤錄用文章

opencv視覺跟蹤——消除背景模組化

JPEG壓縮技術JPEG壓縮的步驟

JPEG壓縮技術的原理

Python3 色情圖檔識别 Python 3 色情圖檔識别

BMP檔案結構及圖像每行位元組計算方法

如何用Opencv求圖像的灰階投影曲線