图像处理（一）图像变形(1)矩形全景图像还原-Siggraph 2014
作者：cvvision
最近发现，看过的文章，没几天就忘了，于是开始写点东西记录一下，所学习过的算法。废话不多说，今天看了这篇文献“Rectangling Panoramic Images via Warping”，所以做一下记录。这篇文献算法分为两步：
1、第一步需要通过计算图像最小能量线，对图像进行预变性。
看懂这篇文章首先要看懂Seam Carving，这个算法作者有源码，可以下载下来好好解读一下算法原理。通过这一步可以把图像放大为矩形图像，这一步又称之为局部变形。在这一步每一次 迭代的过程中，源图像上的每个像素点都会有可能移动位置，假设input图像的源像素点I(x,y)经过Seam Carving算法放大后，位置移动到I'(x,y)，那么我们可以计算得其运动场（光流场），u(x,y)=I‘(x,y)-I(x,y)。算法第一步 的目的便是要计算出input图像变为local warping图像后，每个像素点的u(x,y)运动向量。
2、第二步对local warping图像矩形进行网格划分
记录划分后，每个格子顶点的坐标v(x,y)，ok，通过第一步我们知道了每个像素点经过u(x,y)运动场，变形后才有了local warping 图像，接着我们把图像local warping通过
-u(x,y)运动场，变形回去，同时记录下v(x,y)每个顶点的新位置v’(x,y)，其实这一步不需要对图像的数据进行变形，只需要定划分的网格根据-u(x,y)进行直接变形，记录下每个网格顶点的新位置。
3、接着我们以这些网格顶点新位置v’(x,y)为控制顶点，利用相似变换的变形方法，对最开始的input 图像进行全局变形。变形的控制顶点为v’(x,y)，变形后的位置为v(x,y)，据此可以得到全局的图像变形结果
学习这篇文献，需要先好好学习：“Seam Carving for Content-Aware Image Resizing”和“As-rigid-as-possible_shape_manipulation”这两篇文献网上可以下载到作者写的源代码，所 以比较容易学会，搞定这两篇paper，这篇文献就简单多了。
http://www.cvvision.cn/5493.html
著作权归作者所有。
商业转载请联系作者获得授权，非商业转载请注明出处。
链接：http://www.cvvision.cn/5493.html
来源：CV视觉网
一、相关理论图像变形可以说是很多图像、动画领域的一个非常常见的功能，就说ps、天天P图、美图秀秀、可牛等这些每个软件，有好多个功能都要用到图像变形，比如图像方向校正、图像全景、视频防抖等，在另外一篇博文全景矩形还原，就要用到图像变形算法。
变形算法实现图像姿态调整
变形算法实现物体方向位置调整
可以说ps中的一些图像扭曲都是通过变形方法实现的，比如这篇paper:《As- Rigid-As-Possible Image Registration for Hand-drawn Cartoon Animations》就有讲到它的变形算法与ps的效果分析，然而我今天要讲的算法无论是在视屏防抖《Content-Preserving Warps for 3D Video Stabilization》《Bundled Camera Paths for Video Stabilization》，还是在图像全景《Rectangling Panoramic Images via Warping》等都用到这个算法，这几篇都是Siggraph上的文献，对于搞图形图像的人来说，siggraph上的paper是每年必看的文章。保 相似的变形算法就相当于是一个经典又好用的图像变形算法，具有保相似性，避免图像变形过程中，发生严重错切变换。好了到底是哪篇文献这么好用，那就是 2005 siggraph上的一篇文献《As-Rigid-As-Possible Shape Manipulation》，这篇文献在三维网格曲面图形变形方面也具有重要的作用。
好了废话不多说，这里开始讲解《As-Rigid-As-Possible Shape Manipulation》，因为这篇paper分为两个步骤，
第一步主要是实现尽量保证变形前后，每个三角形都于原来的对应三角形相似，又称之为网格模型的保相似变形。
第二步主要是为了尽量保证每个三角形与原三角形尽量全等。由于第一步中算法只是保相似，这样变形后三角形会有的被放大，有的被缩小，出现图像的局部放大与缩小，所以需要对每个三角形进行适合的缩放调整，这一步又称为拟合步，拟合变形后的每个三角形与原网格三角形全等。
一、理论讲解
(1)相对坐标的概念。开始这个算法之前，我需要先给讲解一个三角形中相对坐标的概念：给定一个三角形v0v1v2，如下图所示：
那么我们定义，v2相对于v0、v1的坐标为(x01,y01)，满足：
也就是说，我们可以通过已知的一个三角形，然后建立一个以三角形的一个顶点为原点，以其邻接边、及其对应的垂直旋转90度后的方向分别作为x轴、y轴，求取三角形另外一个顶点的相对于这个坐标系的坐标。OK，如果我给你一个三角形，我要你计算出(x01,y01)，你要怎么计算？这个是一个简单的数学问题，同时也是本文算法开始的第一步，具体x01、y01怎么计算，那是高中问题了，不解释。
(2)整体保相似。保相似图像变形算法的原理很简单，说白了就是尽量保证变形前后，相对坐标不变，也就是说保证每个三角形的相对坐标(x12,y12)、(x20,y20)、(x01,y01)不变。因为如果两个三角形的这个相对坐标一样，那么这两个三角形就是相似三角形。那么算法具体是怎么实现尽量保证，每个三角形变形前后的这三个相对坐标不变的呢？
假设变形后的三角形顶点坐标为v0’，v1’，v2’。因为我们是要尽量的保证相对坐标不变，我们可以根据下面的计算公式：
计算出v2desired，然后使得如下误差最小化：
上面的能量公式越小，就代表变形后的三角形与原三角形越相似。而对于有多个三角面片的网格模型，那么总误差能量公式为：
这个问题其实归结为求解一个最小二乘问题，大家还记得吗，最小二乘其实就是使得误差能量最小化，因此到了这里其实我们就可以猜到，这个算法最后归结为求解一个稀疏的线性系统。我们的目的是使得上面的总能量最小化，设相对坐标v’=,那么：
我们的问题是要使得E1{v’}最小化，而最小化说白了就是使得其偏导数为0，因此我们需要对E1{v’}求偏导。开始前先把公式5，换另外一种形式来表达：
其中，q表示控制顶点,u表示自由顶点。对上面的式子求偏导：
把上面的式子简写为：
需要注意的是：对于控制顶点不变的模型，G’、B是一个固定的稀疏矩阵，因此我们可以通过上式求解u，得到自由顶点的坐标。
(3)局部完全保相似,及局部缩放调整。每个三角形分开重新调整，使得其与原三角形更为相似，同时对其做缩放调整。
首先，在经过上面的整体相似变换后，三角形可能进行放大或者缩小，因为我们用了三角形的内在属性相对坐标，这样只能保证所有三角形的尽量相似，并不能保证全等。 如果算法直到这里就结束了，那么变形后的图像将会出现局部放大与缩小。就拿上面的瘦脸图片来说，如果只经过上面相似变换步骤，我们只是要移动脸型轮廓的特 征点，而最后变形出来的结果可能就会出现眼睛等局部位置的放大，或缩小，因此我们要进行大小调整，瘦脸后，眼睛的大小与原来图像的大小相等。
就像上面图像中，图(a)是原图，图(c)的结果就是只经过相似变换后的结果，可以看到(c)中的右手部变粗了许多，而左手部变细了许多，因此我们接着这一步要做的事就是调整大小，使得(a)变形后，使得图像变形后不会出现局部放大与缩小的情况，得到如(d)结果图。
另一方面，在经过上面的整体相似变换后，因为我们用了整个三角网格模型进行整体调整，使得能量最小化，这个就像最小二乘一样，最后求解出来的结果并不能保证每个三角形与原三角形完全相似，也会发生错切变换，误差还是存在的。就像最小二乘，求解出来的结果并不能保证最后每个方程的残差为0。
在经过(2)中的相似变换后，因为 我们是对网格模型的所有三角形一起调整的，保证总三角形错切变形能最小化，这个时候得到的每个三角形也不全是完全相似的一个三角形，且大小也发生了变化， 如上图所示。我们得到了v0’v1’v2’，这个三角形我们称之为中介三角形，接着我们要把每个三角形分开拟合成跟原三角形v0v1v2完全全等的三角 形，我们定义拟合阶段的三角形变形能为：
当然我们还需要保证变形前后的也与原三角形相似：
这样联立公式(9)、(10)，同时对其求偏导，使得变形能最小化：
记住，这一步是对每个三角形进行分开调整，这样才能得到与原网格模型的三角形完全相似。同时在满是上面式子后，对整个三角形以重心坐标为缩放原点，对每个三角形进行缩放调整
(4)整体拟合
上面那一部是对每个三角形分开调整，这个时候，每个三角形是完全独立的，我们需要对齐对整体连接调整，否则两个邻接三角形的共用边的两个顶点的位置各不一样，这样根本是不是三角网格模型。
整个三角网格模型的总能量为：
H是一个表示整个网格模型拓扑连接关系的矩阵，对上式换另外一种表达方式，并对其求偏导，求取最小值：
简化为：
然后重新求解，可得到自由顶点u的坐标。
二、算法流程
输入：原三角网格模型，控制顶点
输出：变形后的三角网格模型
1、整体相似变换
(1)计算原网格模型的相对坐标。根据给定的原三角网格模型，遍历每一个三角面片，
并计算每个顶点，相对于另外两个顶点的坐标。以计算v2相对于边v0v1的坐标为例：
(x01,y01)表示的是一个相对坐标，如果三角形的三个顶点的坐标已知v0，v1，v2，其实计算这个相对坐标是非常容易的。
(1)建立局部坐标轴。先求出边向量v0v1，然后利用v0v1求出其单位向量即为局部坐标系的x轴，接着只需要把x轴旋转90度，就可以得到y轴了。
(2)计算相对坐标(x01,y01)，这一步首先需要把向量v0v2投影到x轴，y轴。这里需要注意的是我们上面的公式中x轴指的是v0v1，y轴指的是把v0v1旋转90度后的向量，因此我们需要对投影结果做一个缩放处理
相关代码实现如下：
// 遍历网格模型的每个三角面片
for ( unsigned int i = 0; i < nTris; ++i ) {
Triangle & t = m_vTriangles[i];//第i个三角面片
//计算当前三角形每个顶点相对于另外两个顶点的坐标
for ( int j = 0; j < 3; ++j ) {
unsigned int n0 = j;
unsigned int n1 = (j+1)%3;
unsigned int n2 = (j+2)%3;//三角面片三个顶点的索引
Eigen::Vector2d v0 = GetInitialVert( t.nVerts[n0] );
Eigen::Vector2d v1 = GetInitialVert( t.nVerts[n1] );
Eigen::Vector2d v2 = GetInitialVert( t.nVerts[n2] );//三角面片三个顶点的坐标
//建立局部坐标系的 x轴 与y 轴
Eigen::Vector2d v01( v1 – v0 );
Eigen::Vector2d v01N( v01 );
v01N.normalize();//边向量v0v1的方向向量 x轴
Eigen::Vector2d v01Rot90( v01(1), -v01(0) );
Eigen::Vector2d v01Rot90N( v01Rot90 ); v01Rot90N.normalize();//垂直于边v0v1的方向向量 y轴
//计算局部相对坐标
Eigen::Vector2d vLocal(v2 – v0);
float fX = vLocal.dot(v01) /SquaredLength(v01);//计算局部相对坐标x01
float fY = vLocal.dot(v01Rot90) /SquaredLength(v01Rot90);//计算局部相对坐标y01
Eigen::Vector2d v2test(v0 + fX * v01 + fY * v01Rot90);
float fLength = Length(v2test – v2);
t.vTriCoords[j] = Eigen::Vector2d(fX,fY);//局部相对坐标(x01,y01)
}
}
(2)构造公式(7)的相关矩阵。
void RigidMeshDeformer2D::PrecomputeOrientationMatrix()
{
std::vector<constraint,eigen::aligned_allocator > vConstraintsVec;
std::set::iterator cur(m_vConstraints.begin()), end(m_vConstraints.end());
while ( cur != end )
vConstraintsVec.push_back( *cur++ );
unsigned int nVerts = (unsigned int)m_vDeformedVerts.size();
m_mFirstMatrix.resize( 2*nVerts, 2*nVerts);
for ( unsigned int i = 0; i < 2*nVerts; ++i )
for ( unsigned int j = 0; j < 2*nVerts; ++j )
m_mFirstMatrix(i,j) = 0.0;
size_t nConstraints = vConstraintsVec.size();
unsigned int nFreeVerts = nVerts – nConstraints;
unsigned int nRow = 0;
m_vVertexMap.resize(nVerts);
for ( unsigned int i = 0; i < nVerts; ++i ) {
Constraint c(i, vec2(0,0));
if ( m_vConstraints.find(c) != m_vConstraints.end() )
continue;
m_vVertexMap[i] = nRow++;
for ( unsigned int i = 0 ; i < nConstraints; ++i )
m_vVertexMap[vConstraintsVec[i].nVertex ] = nRow++;
size_t nTriangles = m_vTriangles.size();
for ( unsigned int i = 0; i < nTriangles; ++i ) {
Triangle & t = m_vTriangles[i];
double fTriSumErr = 0;
for ( int j = 0; j < 3; ++j ) {
double fTriErr = 0;
int n0x = 2 * m_vVertexMap[ t.nVerts[j] ];
int n0y = n0x + 1;
int n1x = 2 * m_vVertexMap[ t.nVerts[(j+1)%3] ];
int n1y = n1x + 1;
int n2x = 2 * m_vVertexMap[ t.nVerts[(j+2)%3] ];
int n2y = n2x + 1;
float x = t.vTriCoords[j](0);
float y = t.vTriCoords[j](1);
m_mFirstMatrix(n0x,n0x)+= 1 – 2*x + x*x + y*y;
m_mFirstMatrix(n0x,n1x)+= 2*x – 2*x*x – 2*y*y;
m_mFirstMatrix(n0x,n1y)+= 2*y;
m_mFirstMatrix(n0x,n2x)+= -2 + 2*x;
m_mFirstMatrix(n0x,n2y)+= -2 * y;
m_mFirstMatrix(n0y,n0y)+= 1 – 2*x + x*x + y*y;
m_mFirstMatrix(n0y,n1x)+= -2*y;
m_mFirstMatrix(n0y,n1y)+= 2*x – 2*x*x – 2*y*y;
m_mFirstMatrix(n0y,n2x)+= 2*y;
m_mFirstMatrix(n0y,n2y)+= -2 + 2*x;
m_mFirstMatrix(n1x,n1x)+= x*x + y*y;
m_mFirstMatrix(n1x,n2x)+= -2*x;
m_mFirstMatrix(n1x,n2y)+= 2*y;
m_mFirstMatrix(n1y,n1y)+= x*x + y*y;
m_mFirstMatrix(n1y,n2x)+= -2*y;
m_mFirstMatrix(n1y,n2y)+= -2*x;
m_mFirstMatrix(n2x,n2x)+= 1;
m_mFirstMatrix(n2y,n2y)+= 1;
}
Eigen::MatrixXd mG00( 2*nFreeVerts, 2*nFreeVerts );
ExtractSubMatrix( m_mFirstMatrix, 0, 0, mG00 );
Eigen::MatrixXd mG01( 2 * (int)nFreeVerts, 2 * (int)nConstraints );
ExtractSubMatrix( m_mFirstMatrix, 0, 2*nFreeVerts, mG01 );
Eigen::MatrixXd mG10( 2 * (int)nConstraints, 2 * (int)nFreeVerts );
ExtractSubMatrix( m_mFirstMatrix, 2*nFreeVerts, 0, mG10 );
//
Eigen::MatrixXd mGPrime = mG00 + mG00.transpose();
Eigen::MatrixXd mB = mG01 + mG10.transpose();
Eigen::MatrixXd mGPrimeInverse=mGPrime.inverse();
Eigen::MatrixXd mFinal = mGPrimeInverse * mB;
mFinal *= -1;
m_mFirstMatrix = mFinal;
2、局部完全相似，及大小缩放调整。
计算公式(11)的F、C矩阵:
//计算公式11 F、C矩阵
void RigidMeshDeformer2D::PrecomputeScalingMatrices( unsigned int nTriangle )
//遍历每个三角形
Triangle & t = m_vTriangles[nTriangle];
t.mF =Eigen::MatrixXd(4,4);
t.mC = Eigen::MatrixXd(4,6);
double x01 = t.vTriCoords[0](0);
double y01 = t.vTriCoords[0](1);
double x12 = t.vTriCoords[1](0);
double y12 = t.vTriCoords[1](1);
double x20 = t.vTriCoords[2](0);
double y20 = t.vTriCoords[2](1);
double k1 = x12*y01 + (-1 + x01)*y12;
double k2 = -x12 + x01*x12 – y01*y12;
double k3 = -y01 + x20*y01 + x01*y20;
double k4 = -y01 + x01*y01 + x01*y20;
double k5 = -x01 + x01*x20 – y01*y20 ;
double a = -1 + x01;
double a1 = pow(-1 + x01,2) + pow(y01,2);
double a2 = pow(x01,2) + pow(y01,2);
double b = -1 + x20;
double b1 = pow(-1 + x20,2) + pow(y20,2);
double c2 = pow(x12,2) + pow(y12,2);
double r1 = 1 + 2*a*x12 + a1*pow(x12,2) – 2*y01*y12 + a1*pow(y12,2);
double r2 = -(b*x01) – b1*pow(x01,2) + y01*(-(b1*y01) + y20);
double r3 = -(a*x12) – a1*pow(x12,2) + y12*(y01 – a1*y12);
double r5 = a*x01 + pow(y01,2);
double r6 = -(b*y01) – x01*y20;
double r7 = 1 + 2*b*x01 + b1*pow(x01,2) + b1*pow(y01,2) – 2*y01*y20;
//计算F矩阵
// F矩阵的第一行
t.mF(0,0)= 2*a1 + 2*a1*c2 + 2*r7;
t.mF(0,1)= 0;
t.mF(0,2)= 2*r2 + 2*r3 – 2*r5;
t.mF(0,3)= 2*k1 + 2*r6 + 2*y01;
// F矩阵的第二行
t.mF(1,0)= 0;
t.mF(1,1)= 2*a1 + 2*a1*c2 + 2*r7;
t.mF(1,2)= -2*k1 + 2*k3 – 2*y01;
t.mF(1,3)= 2*r2 + 2*r3 – 2*r5;
// F矩阵的第三行
t.mF(2,0)= 2*r2 + 2*r3 – 2*r5;
t.mF(2,1)= -2*k1 + 2*k3 – 2*y01;
t.mF(2,2)= 2*a2 + 2*a2*b1 + 2*r1;
t.mF(2,3)= 0;
//F矩阵的第四行
t.mF(3,0)= 2*k1 – 2*k3 + 2*y01;
t.mF(3,1)= 2*r2 + 2*r3 – 2*r5;
t.mF(3,2)= 0;
t.mF(3,3)= 2*a2 + 2*a2*b1 + 2*r1;
// 求逆
Eigen::MatrixXd mFInverse=t.mF.inverse();
mFInverse *= -1.0;
t.mF = mFInverse;
//计算C矩阵
// C矩阵的第一行
t.mC(0,0)= 2*k2;
t.mC(0,1)= -2*k1;
t.mC(0,2)= 2*(-1-k5);
t.mC(0,3)= 2*k3;
t.mC(0,4)= 2*a;
t.mC(0,5)= -2*y01;
// C矩阵的第二行
t.mC(1,0)= 2*k1;
t.mC(1,1)= 2*k2;
t.mC(1,2) = -2*k3;
t.mC(1,3)= 2*(-1-k5);
t.mC(1,4)= 2*y01;
t.mC(1,5)= 2*a;
// C矩阵的第三行
t.mC(2,0)= 2*(-1-k2);
t.mC(2,1)= 2*k1;
t.mC(2,2)= 2*k5;
t.mC(2,3)= 2*r6;
t.mC(2,4)= -2*x01;
t.mC(2,5)= 2*y01;
//C矩阵的第四行
t.mC(3,0)= 2*k1;
t.mC(3,1)= 2*(-1-k2);
t.mC(3,2)= -2*k3;
t.mC(3,3)= 2*k5;
t.mC(3,4)= -2*y01;
t.mC(3,5)= -2*x01;
并求解公式11，得每个三角面片新顶点的位置
3、全局连接拟合。
构造公式(16)的相关矩阵：
void RigidMeshDeformer2D::PrecomputeFittingMatrices()
for ( unsigned int i = 0; i < nVerts; ++i )
{
Constraint c(i,vec2(0,0));
Eigen::VectorXd gUTestX( nVerts ), gUTestY(nVerts);
int nRow = m_vVertexMap[i];
gUTestX[nRow] = m_vInitialVerts[i].vPosition(0);
gUTestY[nRow] = m_vInitialVerts[i].vPosition(1);
for ( unsigned int i = 0; i < nConstraints; ++i ) {
int nRow = m_vVertexMap[ vConstraintsVec[i].nVertex ];
gUTestX[nRow] = vConstraintsVec[i].vConstrainedPos[0];
gUTestY[nRow] = vConstraintsVec[i].vConstrainedPos[1];
Eigen::MatrixXd mHX( nVerts, nVerts );
Eigen::MatrixXd mHY( nVerts, nVerts );
for ( unsigned int j = 0; j < nVerts; ++j )
mHX(i,j) = mHY(i,j) = 0.0;
int nA = m_vVertexMap[ t.nVerts[j] ];
int nB = m_vVertexMap[ t.nVerts[(j+1)%3] ];
mHX(nA,nA)+= 2;
mHX(nA,nB)+= -2;
mHX(nB,nA)+= -2;
mHX(nB,nB)+= 2;
mHY(nA,nA)+= 2;
mHY(nA,nB)+= -2;
mHY(nB,nA)+= -2;
mHY(nB,nB)+= 2;
Eigen::MatrixXd mHX00( (int)nFreeVerts, (int)nFreeVerts );
Eigen::MatrixXd mHY00( (int)nFreeVerts, (int)nFreeVerts );
ExtractSubMatrix( mHX, 0, 0, mHX00 );
ExtractSubMatrix( mHY, 0, 0, mHY00 );
Eigen::MatrixXd mHX01( (int)nFreeVerts, (int)nConstraints );
Eigen::MatrixXd mHX10( (int)nConstraints, (int)nFreeVerts );
ExtractSubMatrix( mHX, 0, nFreeVerts, mHX01 );
ExtractSubMatrix( mHX, nFreeVerts, 0, mHX10 );
Eigen::MatrixXd mHY01( (int)nFreeVerts, (int)nConstraints );
Eigen::MatrixXd mHY10( (int)nConstraints, (int)nFreeVerts );
ExtractSubMatrix( mHY, 0, nFreeVerts, mHY01 );
ExtractSubMatrix( mHY, nFreeVerts, 0, mHY10 );
m_mHXPrime = mHX00;
m_mHYPrime = mHY00;
m_mDX = mHX01;
m_mDY = mHY01;
m_mLUDecompX=Eigen::FullPivLU(m_mHXPrime);
m_mLUDecompY=Eigen::FullPivLU(m_mHYPrime);
这篇paper的总思路就是分成三步，因为如果控制顶点、和自由顶点的没有发生变化， 相关的矩阵只要经过第一次求解就可以了，因此可以实现实时拖拽更新，这个我在三维图形学网格曲面变形的时候，用到的拉普拉斯网格变形的方法思路大体相同， 需要对原网格模型做预处理操作，然后才能实现实时变形。具体这个算法要和图像结合起来，就要对图像进行三角剖分，然后计算每个三角形的放射变换矩阵，根据 仿射变换矩阵计算每个像素点值的变化，才能对图像进行变形，具体就不贴代码了，因为这一些代码都是比较简单的，没有什么技术含量在里面。
参考文献
1、http://www-ui.is.s.u-tokyo.ac.jp/~takeo/research/rigid/
2、《As-Rigid-As-Possible Shape Manipulation》
![Ubuntu20.04下配置OpenCV2.4.13[图]](data:image/gif;base64,R0lGODlhAQABAIAAAP///wAAACwAAAAAAQABAAACAkQBADs=)