图像仿射变换及图像扭曲(Image Warping)

r囧r小猫 2022-08-06 08:27 156阅读 0赞

空间图像几何变换包括两个主要步骤：

（1） 空间坐标变换

（2）变换坐标的赋值、插值运算

空间坐标变换一般可以表达为如下式子：

![20150107233520638][]

对于用得普遍的仿射变换，可以表达为如下式子：

![20150107233659402][]

(x, y)为变换后的坐标，(v, w)为变换前的坐标。通过变换矩阵T，可以进行图像的缩放，旋转，平移等。有了坐标的变换，下面一步就是进行像素灰度级的赋值了。从原始图像映射到变换图像，赋值的时候需要进行插值运算。通常情况下有三种插值运算：最邻近插值法、双线性插值法、双三次插值法。

在仿射变换的一般表达式中，有两种基本的变换方法。第一种是forward mapping, 第二种 是inverse mapping(backward mapping)。在inverse mapping 中，(v, w) = T¬-1(x, y)。一般情况下，inverse mapping 比forward mapping更有效。仿射变换的原始坐标中，首先将原坐标变换为齐次坐标([齐次坐标的理解][Link 1])。并且经过仿射变换后，你有了[图像插值][Link 2]的基础，这样你就可以学习Image Warping了。姑且翻译为图像扭曲吧。Image Warping 同时也分为 Forward Warping 和 Backward Warping。下面一一介绍：

Image Warping:

![20150114200004916][]

![20150114200008973][]

和Mapping一样，都是从原始图像向目标图像映射。其中(x’,y’)= T(x,y)，x,y为原始图像坐标。同理，作为Backward Warping则为相反的方向。

![20150114200308716][]

![20150114200315299][]

其中，(x,y) =inverse(T (x’,y’))。就是从目标图像向原始图像进行映射了。

对于这两种方法，那么哪一种的效果比较好呢？如果实验一下，就会知道，Backward Warping效果比Forward Warping效果好。Forward Warping容易产生空洞及像素的重叠，使其结果不理想。

我想原理还是不难理解的。但是如果我们真正要动手去实现这个个东西，仔细想想，还是缺点什么？那就是缺少变换函数(变换矩阵)，就像文章前面提到的仿射变换需要变换矩阵***T***，那么我们这里需要的是变换矩阵***H***，英文叫***Homography***，单应矩阵。如果已经有幅图像，只需要找到原始图像中的任意四个点坐标(其中至少三个点不在同一条直线上)，并且指定目标图像中的四个点，这样通过这八个点，就能求出变换矩阵***H***。由于楼主只实验了Backward Warping，所以下面以Backward Warping为例子进行说明，Forward Warping与其类似，但是变换方向不一样，自然***H***的方向就不一样。具体过程如下：

![20150114202236000][]

变换矩阵***H***是3X3，根据对其次坐标的理解，***H***的最后一个元素始终为1，又由于只需要各四个点，所以可以看到最后只取到了h32。并且x,y全部已知，可以通过最小二乘方法求取***H***：

![20150114202757317][]

最后，再在得到的H中，根据齐次坐标的概念，求得最终映射的坐标点：

![20150114202929997][]

![20150114202933663][]

注意，h33 = 1。

下面贴出Backward Warping的Matlab代码：

%Backward warping
    I = imread('X.jpg');  %reference image
    I=rgb2gray(I);
     
    I_r = imread('original.jpg');
    I_r = rgb2gray(I_r);
    [Rows Cols d1] = size(I_r);
    figure(1)
    imshow(I_r);
    title('original image');
    
    figure(2)
    imshow(I);
    title('reference image');
    
    changeCoordinates=[36,39;618,43;616,285;39,288];
    originalCoordinates=[27,13;546,101;550,294;28,330];
    
    A=[];
    A1=[originalCoordinates(1,1),originalCoordinates(1,2),1,0,0,0,(-1)*originalCoordinates(1,1)*changeCoordinates(1,1),(-1)*originalCoordinates(1,2)*changeCoordinates(1,1)];
    A2=[0,0,0,originalCoordinates(1,1),originalCoordinates(1,2),1,(-1)*originalCoordinates(1,1)*changeCoordinates(1,2),(-1)*originalCoordinates(1,2)*changeCoordinates(1,2)];
    
    A3=[originalCoordinates(2,1),originalCoordinates(2,2),1,0,0,0,(-1)*originalCoordinates(2,1)*changeCoordinates(2,1),(-1)*originalCoordinates(2,2)*changeCoordinates(2,1)];
    A4=[0,0,0,originalCoordinates(2,1),originalCoordinates(2,2),1,(-1)*originalCoordinates(2,1)*changeCoordinates(2,2),(-1)*originalCoordinates(2,2)*changeCoordinates(2,2)];
    
    A5=[originalCoordinates(3,1),originalCoordinates(3,2),1,0,0,0,(-1)*originalCoordinates(3,1)*changeCoordinates(3,1),(-1)*originalCoordinates(3,2)*changeCoordinates(3,1)];
    A6=[0,0,0,originalCoordinates(3,1),originalCoordinates(3,2),1,(-1)*originalCoordinates(3,1)*changeCoordinates(3,2),(-1)*originalCoordinates(3,2)*changeCoordinates(3,2)];
    
    A7=[originalCoordinates(4,1),originalCoordinates(4,2),1,0,0,0,(-1)*originalCoordinates(4,1)*changeCoordinates(4,1),(-1)*originalCoordinates(4,2)*changeCoordinates(4,1)];
    A8=[0,0,0,originalCoordinates(4,1),originalCoordinates(4,2),1,(-1)*originalCoordinates(4,1)*changeCoordinates(4,2),(-1)*originalCoordinates(4,2)*changeCoordinates(4,2)];
    A=[A1;A2;A3;A4;A5;A6;A7;A8];
    
    bv=[changeCoordinates(1,:),changeCoordinates(2,:),changeCoordinates(3,:),changeCoordinates(4,:)]';% b 
    h=pinv(A)*bv; % pinv(A) = (A'A)`A' A'=A^T X`=X^(-1) % Least Square Method
    %h=((A'*A)^-1)*A'*bv;
    % H=[h(1),h(2),h(3);h(4),h(5),h(6);h(7),h(8),1];
    H=[h(1),h(2),h(3);h(4),h(5),h(6);h(7),h(8),1]
    H=inv(H);
    
    img_final=[];
    M=zeros(Rows,Cols);
    X=zeros(3,1);
    for j=1:Rows 
        for i=1:Cols  
            X = H*[i;j;1];
            X=X/X(3);
            original_x=X(1);
            original_y=X(2);
     
            original_x = round(original_x); 
            original_y = round(original_y);
            
            if original_x<1 || original_y<1 || original_x >Cols || original_y>Rows
                continue;
            end
            M(j,i) = I_r(original_y, original_x);
              
        end
    end
    
    % M = uint8(M);
    for j=1:Rows %y
        for i=1:Cols %x
    %         b1=M(0,0);
    %         b2=M(1,0)-M(0,0);
    %         b3=M(0,1)-M(0,0);
    %         b4=M(0,0)-M(1,0)-M(0,1)+M(1,1);
    % %       M(j,i)=b1+b2*i+b3*j+b4*j*i;
    X1 = H*[i;j;1];
    X1=X1/X1(3);
    
    if X1(1)<1 || X1(1)>Rows || X1(2)<1 || X1(2)>Cols	
        continue; 
    end
    
    b = fix(X1);
    k=X1-b;
    val=M(b(1), b(2))*(1-k(1))*(1-k(2)) ...
    + M(b(1), b(2)+1)*k(2)*(1-k(1)) ...
    + M(b(1)+1, b(2))*(1-k(2))*k(1) ...
    + M(b(1)+1, b(2)+1)*k(1)*k(2);
    X1=fix(X1);
    img_final(i,j) = val;
    
        end
    end
    
    img_final=uint8(img_final);
    figure(3)
    imshow(img_final);

代码最后做了 [双线性内插][Link 2]的，保证得到的图像更平滑。实验图片的来源起始很简单，就是用手机在一个建筑物面前正面照一张，手机横向侧着照一张。然后，分别找出建筑物四个相同特征分别在两幅图中的位置，这样就得到了八个点的坐标。

同时，用OpenCV里面的Warping函数试了一下，测试代码和结果如下：(VS2010 + OpenCV2.4.9.0)

#include <iostream>
    #include "cv.h"
    #include "highgui.h"
    
    using namespace std;
    using namespace cv;
    
    int main(int argc, char**argv)
    {
    	char* source_window = "Source Image";
    	char* warp_window = "Warp Image";
    	char* warp_rotate_window = "Warp + Rotate";
    
    	Mat src = imread("lena.jpg");
    	Point2f srcTri[3];
    	Point2f dstTri[3];
    	Mat rotMat(2,3,CV_32FC1);
    	Mat warpMat(2,3,CV_32FC1);
    	Mat warpDst,warpRotateDst;
    
    	warpDst = Mat::zeros(src.rows,src.cols,src.type());
    
    	srcTri[0] = Point2f(0, 0);
    	srcTri[1] = Point2f(src.cols - 1, 0);
    	srcTri[2] = Point2f(0, src.rows - 1);
    
    	dstTri[0] = Point2f(src.cols * 0.0, src.rows * 0.33);
    	dstTri[1] = Point2f(src.cols * 0.85, src.rows * 0.25);
    	dstTri[2] = Point2f(src.cols * 0.15, src.rows * 0.7);
    
    	warpMat = getAffineTransform(srcTri,dstTri);
    	warpAffine(src,warpDst,warpMat,warpDst.size());
    
    	Point center = Point(warpDst.cols/2,warpDst.rows/2);
    	double angle = -90.0;	//negative - clock-wise
    	double scale = 0.6;
    
    	rotMat = getRotationMatrix2D(center,angle,scale);
    	warpAffine(warpDst,warpRotateDst,rotMat,warpDst.size(),INTER_CUBIC);
    
    	namedWindow(source_window,CV_WINDOW_AUTOSIZE);
    	imshow(source_window,src);
    
    	namedWindow(warp_window,CV_WINDOW_AUTOSIZE);
    	imshow(warp_window,warpDst);
    
    	namedWindow(warp_rotate_window,CV_WINDOW_AUTOSIZE);
    	imshow(warp_rotate_window,warpRotateDst);
    
    	waitKey(0);
    	return 0;
    }

原始图像：

![20150114204004747][]

Warping结果:

![20150114204006484][]

Warping + Rotation结果:

![20150114204102280][]

其实突然发现Affine Transform 和Warping的原理好类似，甚至感觉是一个东西，都可以称之为Mapping。只是变换矩阵的不同而已，Warping中还是用了Least Square Method等，但他们都是以齐次坐标理论为基础的。在学习Warping的时候，还看见了一种叫Morphing的东东，它是以Warping为基础的图像变形。那是后话了。。。

[20150107233520638]: /images/20220806/193355cd680a408395cbeef411f9fc08.png
[20150107233659402]: /images/20220806/4603a197841843619c333599a8ece564.png
[Link 1]: http://blog.csdn.net/zyttae/article/details/42505943
[Link 2]: http://blog.csdn.net/zyttae/article/details/42710303
[20150114200004916]: /images/20220806/b4869578be854db98e4e2a0e08ee943a.png
[20150114200008973]: /images/20220806/c40ff67ed9eb45799bca061aa5314924.png
[20150114200308716]: /images/20220806/9c1a02d9a6714e96864ba3adfdd4dc7e.png
[20150114200315299]: /images/20220806/a8f6f2f8121d4abfb791dd4999d5cbaf.png
[20150114202236000]: /images/20220806/fa751f6e2c1c42d8b3ce64c275979c67.png
[20150114202757317]: /images/20220806/ad10dc74cec14b44b9450b5ee055e48a.png
[20150114202929997]: /images/20220806/020516ec0cc64c8cbfa22ba8a3405e1a.png
[20150114202933663]: /images/20220806/5092047a2bb645fd89c64fa0cf0a8816.png
[20150114204004747]: /images/20220806/d56b8e0504dc4487ba299a68a3b40619.png
[20150114204006484]: /images/20220806/666a53879cb144379cb5190c951bdda6.png
[20150114204102280]: /images/20220806/247e751d66c54dc2a850099b0bb1adba.png