看了好幾天的雙目視覺标定，還是沒有完全掌握。現在把已經了解到的整理下，友善後面進一步的學習掌握。
雙目視覺标定就是通過求解實際三維空間中坐标點和錄影機二維圖像坐标點的對應關系，在雙目視覺中，三維空間坐标系一般是以左相機坐标系作為基準坐标系。利用棋盤闆擷取到的用于計算的二維圖像坐标和三維空間的實體坐标，再通過一定的算法，求解出變換矩陣，則解決了基礎的雙目視覺标定的過程。
實際标定過程中需要考慮鏡頭的畸變：包括徑向畸變及切向畸變。因為切向畸變很小，是以通常主要考慮的就是徑向畸變。求解畸變的方法後面再讨論。
下面結合OpenCV自帶雙目标定的例程來學習掌握下雙目視覺的标定過程：
a. 輸入準備：14(數字可調)對棋盤圖、标定闆的尺寸(widthxheight格數)及棋盤格實體尺寸、stereo_calib.xml(輸入圖檔的清單)
b. 立體标定。主要可分為4個部分：
-
輸入檢測與變量初始化
角點存儲矩陣
vector<vector<Point2f> > imagePoints[2];//這個是左右圖像中的二維點 vector<vector<Point3f> > objectPoints;//由上面的二維點得到的三維點
-
角點及亞像素角點檢測，擷取角點的2D圖像坐标和3D實體坐标
對左右相機的每一幅圖像單獨處理。要注意處理的圖像必須含有相同的大小。此外，為了準确的檢測出角點，部分圖像可能需要進行scale縮放調整。
findChessboardCorners()
CALIB_CB_ADAPTIVE_THRESH | CALIB_CB_NORMALIZE_IMAGE
表示使用直方圖均衡算法和自适應二值化的法。傳回bool值。具體的函數使用見
棋盤格角點檢測與繪制——cv::findChessboardCorners()與cv::drawChessboardCorners()詳解
cornerSubPix()
函數根據已經得到的corners坐标計算更加精确的亞像素corners坐标。該函數需要輸入目标圖像，corners坐标矩陣，搜尋視窗大小(Size()類型)，死區視窗大小(Size()類型，目的是避免可能出現的自相關矩陣的奇點，不明白這一參數，可以設為預設值Size(-1,-1))，終止疊代的criteria，本文中為
TermCriteria(TermCriteria::COUNT+TermCriteria::EPS,30, 0.01)
，表示當疊代次數大于30或當角點坐标變化小于0.01時停止。
通過上述三個函數的使用，便可以準确的檢測出所有圖像的亞像素角點。
然後根據輸入的标定闆大小和棋盤格格子的實體長度大小，便可以計算出角點的實體坐标，機關毫米。标定闆的空間坐标系假設是以左上角第一個點為原點，棋盤格兩邊為x，y方向，垂直棋盤格為z方向。是以所有角點的空間坐标的z值均為0。
3. 雙目标定主子產品，計算内參數矩陣，對标定結果進行驗證
stereoCalibrate()
函數計算雙目标定中的内參數矩陣，相對于1st相機的旋轉平移矩陣，還有本征矩陣E和基礎矩陣F。E包含在實體空間中兩個錄影機相關的旋轉和平移資訊，F除了包含E的資訊外還包括了兩個錄影機的内參數。E是将左錄影機觀測到的點P的實體坐标和右錄影機觀察到的相同點的位置關聯起來。F是将一台錄影機的像平面的點在像平面上的坐标和另一台錄影機的像平面上的點關聯起來。
關于本征矩陣和基礎矩陣的詳細介紹參考部落格本征矩陣與基礎矩陣。
立體标定完成後，通過對極幾何限制公式m2TFm1可以檢查校準的品質(檢查圖像上點與另一幅圖像的極線的距離的遠近來評定标定的精度)，理想情況下點和線的點積為0，累計後的絕對距離形成了誤差。可用于衡量标定結果。
（這塊不是很了解。。。。）
- 對标定後的結果進行立體校正，計算外參數矩陣
利用
stereoRectify()
函數進行立體校正，這樣做的目的是為了使得兩個相機的光軸共面，極線平行。這樣，就可以将二維的圖像搜尋簡化為一維的圖像檢索，同時確定了極線比對的精度。
立體标定結束後，将相應的參數寫入intrinsics.yml和extrinsics.yml中，則完成了雙目視覺的标定。即雙目标定最後獲得的是相機内參和外參變換的檔案。
關于對極幾何的相關知識可以參考部落格對極幾何
Bouguet極線校正的方法。
源碼如下，代碼學習這塊參考的是部落格:
https://blog.csdn.net/qq_35971623/article/details/78196399
#include "stdafx.h"
#include "opencv2/calib3d.hpp"
#include "opencv2/imgcodecs.hpp"
#include "opencv2/highgui.hpp"
#include "opencv2/imgproc.hpp"
#include <vector>
#include <string>
#include <algorithm>
#include <iostream>
#include <iterator>
#include <stdio.h>
#include <stdlib.h>
#include <ctype.h>
using namespace cv;
using namespace std;
//左圖中的同一目标比右圖中的同一目标偏右，即左右圖命名不要弄反，與人眼視覺一緻。
static void
StereoCalib(const vector<string>& imagelist, Size boardSize, float squareSize, bool displayCorners = true, bool useCalibrated=true, bool showRectified=true)
//立體标定主程式：輸入圖檔清單、棋盤圖大小、面積大小、等控制标記
{
//1. 輸入檢測及變量初始化
if( imagelist.size() % 2 != 0 )//判斷标定圖檔成對
{
cout << "Error: the image list contains odd (non-even) number of elements\n";
return;
}
const int maxScale = 2;
const float squareSize = 26.f; //設定真實方格大小，1以毫米或者像素為機關的keypoint之間間隔距離，棋盤間隔1
// ARRAY AND VECTOR STORAGE: //數組儲存
vector<vector<Point2f> > imagePoints[2];//這個是左右圖像中的二維點
vector<vector<Point3f> > objectPoints;//由上面的二維點得到的三維點
Size imageSize;//圖像大小
int i, j, k, nimages = (int)imagelist.size()/2;//nimages是棋盤圖對數，j是用于記錄最後檢測到了多少對棋盤圖
imagePoints[0].resize(nimages); //設定向量大小
imagePoints[1].resize(nimages);
vector<string> goodImageList;//檢測到的棋盤圖像清單（因為有的棋盤圖像是檢測不到的）
// 2.角點及亞像素角點檢測，擷取角點的2D圖像坐标和3D實體坐标
for( i = j = 0; i < nimages; i++ ) //單相機0-13幅圖
{
for( k = 0; k < 2; k++ )//左右相機
{
const string& filename = imagelist[i*2+k];//圖像檔案名
Mat img = imread(filename, 0);
if(img.empty())
break;
if( imageSize == Size() )
imageSize = img.size();
else if( img.size() != imageSize )
{
cout << "The image " << filename << " has the size different from the first image size. Skipping the pair\n";
break;
}
bool found = false;
vector<Point2f>& corners = imagePoints[k][j];//左右圖的第j幅圖像的所有角點，通過findChessboardCorners對向量傳參
//尋找角點，儲存到imagePoints
for( int scale = 1; scale <= maxScale; scale++ )
//通過scale是防止檢測不到
{
Mat timg;
if( scale == 1 )
timg = img;
else
resize(img, timg, Size(), scale, scale, INTER_LINEAR_EXACT);
found = findChessboardCorners(timg, boardSize, corners,
CALIB_CB_ADAPTIVE_THRESH | CALIB_CB_NORMALIZE_IMAGE);//如果找到角點就傳回true
if( found )
{
if( scale > 1 )
{
Mat cornersMat(corners);//vector角點轉化為Mat矩陣，友善計算
cornersMat *= 1./scale;//scale放大了，是以要縮放
}
break;
}
}
if( displayCorners )
{
cout << filename << endl;
Mat cimg, cimg1;
cvtColor(img, cimg, COLOR_GRAY2BGR);
drawChessboardCorners(cimg, boardSize, corners, found);//棋盤格圖像(8UC3)既是輸入也是輸出
double sf = 640./MAX(img.rows, img.cols);
resize(cimg, cimg1, Size(), sf, sf, INTER_LINEAR_EXACT);
imshow("corners", cimg1);
char c = (char)waitKey(500);
if( c == 27 || c == 'q' || c == 'Q' ) //Allow ESC to quit
exit(-1);
}
else
putchar('.');
if( !found )
break;
//插值亞像素點，用來精确得到的corners坐标
cornerSubPix(img, corners,
Size(11,11), //為搜尋視窗大小，區域大小為NxN,N = (winSize*2 + 1),搜尋視窗邊長的一半
Size(-1,-1),//Size(-1,-1)表示忽略，當值為(-1,-1)表示沒有死區
TermCriteria(TermCriteria::COUNT+TermCriteria::EPS,
30, 0.01)//停止優化的标準，當疊代次數大于30或當角點坐标變化小于0.01時停止
);
}//k循環結束，k = 2
if( k == 2 )//内層循環完後将j加 1 ，并把找到的棋盤圖放入容器
{
goodImageList.push_back(imagelist[i*2]);
goodImageList.push_back(imagelist[i*2+1]);
j++;
}
}
cout << j << " pairs have been successfully detected.\n";
nimages = j;
if( nimages < 2 )//如果圖檔數量少于一對，那麼報錯
{
cout << "Error: too little pairs to run the calibration\n";
return;
}
imagePoints[0].resize(nimages);
imagePoints[1].resize(nimages);
objectPoints.resize(nimages);
//計算角點的3D實體坐标
for( i = 0; i < nimages; i++ )
{
for( j = 0; j < boardSize.height; j++ )
for( k = 0; k < boardSize.width; k++ )
objectPoints[i].push_back(Point3f(k*squareSize, j*squareSize, 0));//通過角點長寬以及squareSize每個角點的步長算出角點的位置
}
cout << "Running stereo calibration ...\n";
//3. 雙目标定主子產品，計算内參數矩陣，對标定結果進行驗證
Mat cameraMatrix[2], distCoeffs[2];
cameraMatrix[0] = initCameraMatrix2D(objectPoints,imagePoints[0],imageSize,0);//定義3D到2D的初始化的錄影機變換矩陣
cameraMatrix[1] = initCameraMatrix2D(objectPoints,imagePoints[1],imageSize,0);
Mat R, T, E, F;//R 第一與第二相機坐标系之間的旋轉矩陣
//T 第一與第二相機坐标系之間的旋轉矩陣平移向量
//E 本征矩陣
//F 基礎矩陣
double rms = stereoCalibrate(objectPoints, imagePoints[0], imagePoints[1],
cameraMatrix[0], distCoeffs[0],
cameraMatrix[1], distCoeffs[1],
imageSize, R, T, E, F,
CALIB_FIX_ASPECT_RATIO + //優化，确定的比值
CALIB_ZERO_TANGENT_DIST + //設定每個相機切向畸變系數為0且設為固定值
CALIB_USE_INTRINSIC_GUESS + //内參初始值可以設定
CALIB_SAME_FOCAL_LENGTH + //強制橫縱方向焦距相同
CALIB_RATIONAL_MODEL + //啟用參數k4，k5，k6。提供向後相容性，這額外FLAG應該明确指定校正函數和傳回8個系數。如果FLAG沒有被設定，該函數計算并隻傳回5畸變系數。
CALIB_FIX_K3 + CALIB_FIX_K4 + CALIB_FIX_K5,//計算極線向量
TermCriteria(TermCriteria::COUNT+TermCriteria::EPS, 100, 1e-5)//疊代優化算法終止的标準(用來判斷校準效果)
);
cout << "done with RMS error=" << rms << endl;
// CALIBRATION QUALITY CHECK
// because the output fundamental matrix implicitly
// includes all the output information,
// we can check the quality of calibration using the
// epipolar geometry constraint: m2^t*F*m1=0
/* 驗證标定的效果：由于輸出的基礎矩陣包含所有的輸出資訊，是以這裡可以用對極幾何限制（m2^t*F*m1 = 0）來驗證---- - 下面這段程式可以不要*/
/*
校準詳細過程：
檢查圖像上點與另一幅圖像的極線的距離的遠近來評價标定的精度。
使用undistortPoints對原始點做去畸變處理。
使用computeCorrespondEpilines來計算極線。
然後，計算這些點和線的點積（理想情況，這些點積都為0）。
累計的絕對距離形成了誤差。
*/
double err = 0;
int npoints = 0;
vector<Vec3f> lines[2];//極線
for( i = 0; i < nimages; i++ )
{
int npt = (int)imagePoints[0][i].size();//左相機圖中所有角點數量
Mat imgpt[2];
for( k = 0; k < 2; k++ )
{
imgpt[k] = Mat(imagePoints[k][i]);//第i幅圖的角點向量矩陣
undistortPoints(imgpt[k], imgpt[k], cameraMatrix[k], distCoeffs[k], Mat(), cameraMatrix[k]);//計算校正後的角點坐标
//計算對應點的外極線epilines是一個三元組(a,b,c),表示點在另一視圖中對應的外極線ax+by+c=0;
computeCorrespondEpilines(imgpt[k], k+1, F, lines[k]);//為一幅圖像中的點計算其在另一幅圖中對應的對極線
}
for( j = 0; j < npt; j++ )
{
double errij = fabs(imagePoints[0][i][j].x*lines[1][j][0] +
imagePoints[0][i][j].y*lines[1][j][1] + lines[1][j][2]) +
fabs(imagePoints[1][i][j].x*lines[0][j][0] +
imagePoints[1][i][j].y*lines[0][j][1] + lines[0][j][2]);
err += errij;
}
npoints += npt;
}
cout << "average epipolar err = " << err/npoints << endl;
// save intrinsic parameters
FileStorage fs("intrinsics.yml", FileStorage::WRITE); //建立.yml檔案
if( fs.isOpened() )
{
fs << "M1" << cameraMatrix[0] << "D1" << distCoeffs[0] <<
"M2" << cameraMatrix[1] << "D2" << distCoeffs[1];
fs.release();
}
else
cout << "Error: can not save the intrinsic parameters\n";
//4.對标定後的結果進行立體校正，計算外參數矩陣
//stereoRectify根據内參和畸變系數計算右相機相對左相機的旋轉R和平移矩陣T
//并将旋轉與平移矩陣分解為左右相機個旋轉一般的旋轉矩陣R1，R2和平移矩陣T1，T2
//這裡用的是bougust極線校準方法
Mat R1, R2, P1, P2, Q;//R1，R2兩個相機的3x3旋轉矩陣
//P1,P2在第一/二台相機的矯正後的坐标系下的3x4投影矩陣
//Q 深度視差映射矩陣
Rect validRoi[2];
stereoRectify(cameraMatrix[0], distCoeffs[0],
cameraMatrix[1], distCoeffs[1],
imageSize, R, T, R1, R2, P1, P2, Q,
CALIB_ZERO_DISPARITY, 1, imageSize, &validRoi[0], &validRoi[1]);//立體校正程式，适用标定過的錄影機
fs.open("extrinsics.yml", FileStorage::WRITE);
if( fs.isOpened() )//在.yml中寫入矩陣參數
{
fs << "R" << R << "T" << T << "R1" << R1 << "R2" << R2 << "P1" << P1 << "P2" << P2 << "Q" << Q;
fs.release();
}
else
cout << "Error: can not save the extrinsic parameters\n";
// OpenCV 可以處理左右放置和上下放置的相機
bool isVerticalStereo = fabs(P2.at<double>(1, 3)) > fabs(P2.at<double>(0, 3));
// 校正映射
if( !showRectified )
return;
Mat rmap[2][2];//校正映射：左右圖像各兩個
// IF BY CALIBRATED (BOUGUET'S METHOD)
if( useCalibrated )
{
// we already computed everything
}
// 否則使用HARTLEY'S METHOD校正
else
//使用每個相機的内部參數，但校正變換直接通過基礎矩陣的計算得到
{
vector<Point2f> allimgpt[2];//拷貝的角點
for( k = 0; k < 2; k++ )
{
for( i = 0; i < nimages; i++ )
std::copy(imagePoints[k][i].begin(), imagePoints[k][i].end(), back_inserter(allimgpt[k]));
}
F = findFundamentalMat(Mat(allimgpt[0]), Mat(allimgpt[1]), FM_8POINT, 0, 0);//計算基礎矩陣
Mat H1, H2;//計算單應矩陣
stereoRectifyUncalibrated(Mat(allimgpt[0]), Mat(allimgpt[1]), F, imageSize, H1, H2, 3);
R1 = cameraMatrix[0].inv()*H1*cameraMatrix[0];
R2 = cameraMatrix[1].inv()*H2*cameraMatrix[1];
P1 = cameraMatrix[0];
P2 = cameraMatrix[1];
}
//顯示校正後的圖像
//計算左右視圖的校正查找映射表
initUndistortRectifyMap(cameraMatrix[0], distCoeffs[0], R1, P1, imageSize, CV_16SC2, rmap[0][0], rmap[0][1]);
initUndistortRectifyMap(cameraMatrix[1], distCoeffs[1], R2, P2, imageSize, CV_16SC2, rmap[1][0], rmap[1][1]);
Mat canvas; // 這個圖像的長是棋盤圖的兩倍，高和棋盤圖像一樣（這是在水準放置的情況下）
double sf;
int w, h;
if( !isVerticalStereo) //這個是水準放置的
{
sf = 600./MAX(imageSize.width, imageSize.height);
w = cvRound(imageSize.width*sf);
h = cvRound(imageSize.height*sf);
canvas.create(h, w*2, CV_8UC3);
}
else
{
sf = 300./MAX(imageSize.width, imageSize.height);
w = cvRound(imageSize.width*sf);
h = cvRound(imageSize.height*sf);
canvas.create(h*2, w, CV_8UC3);
}
/*這裡是畫出校正後的棋盤圖：對棋盤圖進行校正、畫出校正後的可用ROI、畫出左右兩邊對極後的極線。如果執行這裡，則要等這裡檢測到的所有棋盤圖都畫完之後才會執行後續操作*/
for( i = 0; i < nimages; i++ )
{
for( k = 0; k < 2; k++ )
{
Mat img = imread(goodImageList[i*2+k], 0), rimg, cimg;
remap(img, rimg, rmap[k][0], rmap[k][1], INTER_LINEAR);//對圖像原進行重映射，映射輸出為校正後的圖像
cvtColor(rimg, cimg, COLOR_GRAY2BGR);
Mat canvasPart = !isVerticalStereo ? canvas(Rect(w*k, 0, w, h)) : canvas(Rect(0, h*k, w, h));//這裡是得出校正兩個ROI
resize(cimg, canvasPart, canvasPart.size(), 0, 0, INTER_AREA);
if( useCalibrated )
{
Rect vroi(cvRound(validRoi[k].x*sf), cvRound(validRoi[k].y*sf),
cvRound(validRoi[k].width*sf), cvRound(validRoi[k].height*sf));
rectangle(canvasPart, vroi, Scalar(0,0,255), 3, 8);//将矩形畫出來
}
}
if( !isVerticalStereo )
for( j = 0; j < canvas.rows; j += 16 ) //畫極線
line(canvas, Point(0, j), Point(canvas.cols, j), Scalar(0, 255, 0), 1, 8);
else
for( j = 0; j < canvas.cols; j += 16 )
line(canvas, Point(j, 0), Point(j, canvas.rows), Scalar(0, 255, 0), 1, 8);
imshow("rectified", canvas);
char c = (char)waitKey();
if( c == 27 || c == 'q' || c == 'Q' )
break;
}
}
static bool readStringList( const string& filename, vector<string>& l )//現在這裡是讀取每個圖像檔案名,把圖像名放到imagelist 容器中
{
l.resize(0);
FileStorage fs(filename, FileStorage::READ);
if( !fs.isOpened() )
return false;
FileNode n = fs.getFirstTopLevelNode();//傳回映射(mapping)頂層的第一個元素,及.xml檔案第一個元素
if( n.type() != FileNode::SEQ )
return false;
FileNodeIterator it = n.begin(), it_end = n.end();
for( ; it != it_end; ++it )
l.push_back((string)*it);//這裡是把讀取到的圖像的名字放入容器
return true;
}
int main(int argc, char** argv)
{
Size boardSize;//标定闆尺寸
string imagelistfn;
bool showRectified = true;
cv::CommandLineParser parser(argc, argv, "{w|9|}{h|6|}{s|1.0|}{nr||}{help||}{@input|E://Visual Studio 2015//Projects//refreCode1//standSample//stereo_calib.xml|}");
if (parser.has("help"))
return -1;
showRectified = !parser.has("nr");
imagelistfn = parser.get<string>("@input");
boardSize.width = parser.get<int>("w");
boardSize.height = parser.get<int>("h");
float squareSize = parser.get<float>("s");
if (!parser.check())
{
parser.printErrors();
system("pause");
return 1;
}
vector<string> imagelist;
bool ok = readStringList(imagelistfn, imagelist);
if(!ok || imagelist.empty())
{
cout << "can not open " << imagelistfn << " or the string list is empty" << endl;
return -1;
}
StereoCalib(imagelist, boardSize, squareSize, false, true, showRectified);
system("pause");
return 0;
}
![雙目标定自動化分享[圖]](data:image/gif;base64,R0lGODlhAQABAIAAAP///wAAACwAAAAAAQABAAACAkQBADs=)