OpenCV在未知相机内参数情况下的立体图像矫正方法及注意事项

电玩女神 2022-08-19 11:22 95阅读 0赞

很多时候我们不知道摄像机的内参数矩阵，并且我们也不太关注内参数到底是多少，因为我们仅仅关心如何得到两幅图像的稠密匹配，或者两幅图像的差别——例如我们只想计算两幅图像的视差图，或者说得到两幅立体图像对的深度图就足够了。既然不知道摄像机的内参数，那么就只能借助对极约束来达到目的了。通过计算两幅图像的基础矩阵F，然后利用对极约束矫正极线为平行线的方法，可以很好的实现这个目标，该方法也被称为Hartly方法，在OpenCV中由cv::stereoRectifyUncalibrated函数实现。

立体图像的极线矫正需要三个步骤：

（1）提取特征点并匹配，参考[http://blog.sina.com.cn/s/blog\_4298002e01013w4z.html][http_blog.sina.com.cn_s_blog_4298002e01013w4z.html]

（2）计算基本矩阵F，参考[http://blog.sina.com.cn/s/blog\_4298002e01013w9a.html][http_blog.sina.com.cn_s_blog_4298002e01013w9a.html]

（3）极线矫正。

Hartly方法的函数原型如下：

//! computes the rectification transformation for an uncalibrated stereo camera (zero distortion is assumed)  
CV\_EXPORTS\_W bool stereoRectifyUncalibrated( const Mat& points1, const Mat& points2,  
const Mat& F, Size imgSize,  
CV\_OUT Mat& H1, CV\_OUT Mat& H2,  
double threshold=5 );

该函数输入参数为两幅图像的匹配特征点，基本矩阵F以及图像的尺寸，返回的参数是两幅图像各自对应的单应变换矩阵H1和H2。只需要对两幅图像按照H1和H2做单应变换，即可得到矫正后图像。假设I为图像，变换如下：

I\_recty = H\*I

需要说明一点，该函数的前两个参数Mat& points1, Mat& points2与cv::findFundamentalMat的前两个参数并不是相同的数据结构。它们虽然可以是同一个匹配点集，但是他们的数据结构是完全不同的！cv::findFundamentalMat中传入的匹配点集要求是2xN或者Nx2的矩阵，但是cv::stereoRectifyUncalibrated中要求传入的匹配点集必须是1x2N或者2Nx1的矩阵！在很多文档中都说他们的参数是一样的，这其实是一个天大的错误，如果用计算F的匹配点集直接传给图像矫正函数，程序将直接崩溃。正确的做法是利用cv::Mat的构造函数，直接从vector<Point2f>构造一个cv::Mat传入。

cv::stereoRectifyUncalibrated函数默认原始图像是没有径向畸变的，因此在矫正图像之前，最好先对原始图像做径向矫正。

另外需要注意的一点，函数返回的单应变换矩阵H1和H2都是double类型，也即CV\_64F类型，若不是该类型的矩阵，与之相乘会报错。下面是示例代码：

// 假设前面我们已经得到两幅图像的匹配特征点，并计算出了基本矩阵F，同时得到了匹配特征点的inlier

// Mat m\_matLeftImage;  
// Mat m\_matRightImage;

// vector<Point2f> m\_LeftInlier;  
// vector<Point2f> m\_RightInlier;

// Mat m\_Fundamental;

// 计算图像矫正的单应变换矩阵

Mat m\_LeftH;  
Mat m\_RightH;

stereoRectifyUncalibrated(Mat(m\_LeftInlier), Mat(m\_RightInlier), m\_Fundamental,  
Size(m\_matLeftImage.cols, m\_matLeftImage.rows),  
m\_LeftH, m\_RightH);

// 任意指定一个内参数矩阵K，不会影响计算结果，此处设为单位阵。

Mat K = Mat::eye(3, 3, CV\_64F); // 注意一定是double类型  
Mat invK = K.inv(DECOMP\_SVD);  
Mat LeftR = invK\*m\_LeftH\*K;// 根据单应变换矩阵计算左图摄像机在空间中的变换矩阵R1  
Mat RightR = invK\*m\_RightH\*K; // 计算右图摄像机在空间中的变换矩阵R2  
Mat LeftMap1, LeftMap2;  
Mat RightMap1, RightMap2;

Mat Distort;// 径向畸变为0，设为空矩阵  
Size UndistSize(m\_matLeftImage.cols, m\_matLeftImage.rows);

// 计算左右两幅图像的映射矩阵

initUndistortRectifyMap(K, Distort, LeftR, K, UndistSize, CV\_32FC1, LeftMap1, LeftMap2);  
initUndistortRectifyMap(K, Distort, RightR, K, UndistSize, CV\_32FC1, RightMap1, RightMap2);

// 把原始图像投影到新图像上，得到矫正图像

Mat m\_LeftRectyImage;  
Mat m\_RightRectyImage;

remap(m\_matLeftImage, m\_LeftRectyImage, LeftMap1, LeftMap2, INTER\_LINEAR);  
remap(m\_matRightImage, m\_RightRectyImage, RightMap1, RightMap2, INTER\_LINEAR);

// 显示结果

cvNamedWindow( "left image", 1);  
cvShowImage("left image", &(IplImage(m\_LeftRectyImage)));  
cvNamedWindow( "right image", 1);  
cvShowImage("right image", &(IplImage(m\_RightRectyImage)));  
cvWaitKey( 0 );  
cvDestroyWindow( "left image" );  
cvDestroyWindow( "right image" );

程序计算的结果如下图所示：

原始图像对：

[![OpenCV在未知相机内参数情况下的立体图像矫正方法及注意事项][OpenCV]][OpenCV_OpenCV]

极线矫正后的图像：  
[![OpenCV在未知相机内参数情况下的立体图像矫正方法及注意事项][OpenCV 1]][OpenCV_OpenCV 1]  
  
得到上面的矫正图像之后，就可以计算视差或者进行稠密匹配了。下面以视差计算的应用为例，分别用GC和SGBM算法计算视差，结果如下图：

SGBM算法：

[![OpenCV在未知相机内参数情况下的立体图像矫正方法及注意事项][OpenCV 2]][OpenCV_OpenCV 2]

GC算法：  
[![OpenCV在未知相机内参数情况下的立体图像矫正方法及注意事项][OpenCV 3]][OpenCV_OpenCV 3]

from: [http://blog.sina.com.cn/s/blog\_4298002e01013yb8.html][http_blog.sina.com.cn_s_blog_4298002e01013yb8.html]

[http_blog.sina.com.cn_s_blog_4298002e01013w4z.html]: http://blog.sina.com.cn/s/blog_4298002e01013w4z.html
[http_blog.sina.com.cn_s_blog_4298002e01013w9a.html]: http://blog.sina.com.cn/s/blog_4298002e01013w9a.html
[OpenCV]: http://s10.sinaimg.cn/middle/4298002etbb033b6524c9&690
[OpenCV_OpenCV]: /images/20220731/52c128b615614226bffe7b8c1a84834e.png
[OpenCV 1]: http://s10.sinaimg.cn/middle/4298002et7919ec54cab9&690
[OpenCV_OpenCV 1]: /images/20220731/90525c833ddc4899b34b1a2d6bd6685c.png
[OpenCV 2]: http://s4.sinaimg.cn/middle/4298002etbb034ca79a23&690
[OpenCV_OpenCV 2]: /images/20220731/abd138e8bb9b41f79d4537081701e451.png
[OpenCV 3]: http://s11.sinaimg.cn/middle/4298002etbb034cbdad8a&690
[OpenCV_OpenCV 3]: /images/20220731/6ef19dbeaaf54329b670ddabbd7ea83e.png
[http_blog.sina.com.cn_s_blog_4298002e01013yb8.html]: http://blog.sina.com.cn/s/blog_4298002e01013yb8.html