天天看点

OpenCV 相机标定

相机标定

相机标定:简单的说,就是获得相机参数的过程。参数如:相机内参数矩阵,投影矩阵,旋转矩阵和平移矩阵等

什么叫相机参数?

简单的说,将现实世界中的人、物,拍成一张图像(二维)。人或物在世界中的三维坐标,和图像上对应的二维坐标间的关系。表达两种不同维度坐标间的关系用啥表示?用相机参数。

相机的成像原理

先来看一下,相机的成像原理:

OpenCV 相机标定

如图所示,这是一个相机模型。将物体简化看成一个点。来自物体的光,通过镜头,击中图像平面(图像传感器),以此成像。d0是物体到镜头的距离,di是镜头到图像平面的距离,f是镜头的焦距。三者满足以下关系。

OpenCV 相机标定

现在,简化上面的相机模型。

  将相机孔径看成无穷小,只考虑中心位置的射线,这样就忽视了透镜的影响。然后由于d0远远大于di,将图像平面放在焦距处,这样物体在图像平面上成像为倒立的影像(没有透镜的影响,只考虑从中心的孔径进入的光线)。这个简化的模型就是小孔摄像机模型。然后,我们在镜头前,将图像平面放在焦距距离的位置,就可以简单获得一个笔直的图像(不倒立)。当然,这只是理论上的,你不可能将图像传感器从相机里拿出来,放在镜头前面。实际应用中,小孔摄像机应该是将成像后的图像倒过来,以获得正立的图像。

  到此,我们获得了一个简化的模型,如下图:

  

OpenCV 相机标定

h0是物体的高,hi是图像上物体的高,f是焦距(距离),d0是图像到镜头的距离。四者满足如下关系:

OpenCV 相机标定

物体在图像中的高度hi,和d0成反比。也就是说,离镜头越远,物体在图像中越小,离得越近越大(好吧,这句话是废话)。

但通过这个式子,我们便能够预测三维中的物体,在图像(二维)中的位置。那么怎么预测?

相机标定

如下图所示,根据上面简化的模型,考虑三维世界中的一个点,和其在图像(二维)中的坐标关系。

OpenCV 相机标定

(X,Y,Z)为点的三维坐标,(x,y)为其通过相机成像后在图像(二维)上的坐标。u0和v0是相机的中心点(主点),该点位于图像平面中心(理论上是这样。但实际的相机会有几个像素的偏差)

现在只考虑y方向上,由于需要将三维世界中的坐标,转换为图像上的像素(图像上的坐标,实际上是像素的位置),需要求y方向上焦距

等于多少个像素(用像素值表示焦距),Py表示像素的高,焦距f(米或毫米)。垂直像素表示的焦距为

OpenCV 相机标定

根据式子(1),只考虑y方向。我们三维世界中得点,在图像(二维)中y的坐标。

OpenCV 相机标定

同理,得到x的坐标。

OpenCV 相机标定

现在,将上图中的坐标系的原点O,移动到图像的左上角。由于(x,y)是关于(u0,v0)的偏移,上面表示图像(二维)中点的坐标的式子不变。将式子以矩阵的形式重写,得。

OpenCV 相机标定

其中,等式左边的第一个矩阵,叫做“相机内参数矩阵”,第二个矩阵叫(投影矩阵)。

更为一般的情况,开始时的参考坐标系不位于主点(中心点),需要额外两个参数“旋转向量”和“平移向量”来表示这个式子,这两个参数在不同视角中是不一样的。整合后,上述式子重写为。

OpenCV 相机标定

校正畸变

通过相机标定,获得了相机参数后,可以计算两个映射函数(x坐标和y坐标),它们分别给出了没有畸变的图像坐标。将畸变的图像重新映射成为没有畸变的图像。

代码:

做相机标定时,一般用标定板(棋盘)拍摄一组图像,利用这些图像提取角点,通过角点在图像中得坐标和三维世界中的坐标(通常自定义3维坐标),计算相机参数。

1 std::vector<cv::Point2f>imageConers;
2 //提取标定图像角点,保存角点坐标(二维)
3  cv::findChessboardCorners(image,
4   boardSize, //角点数目如(6,4)六行,四列
5   imageConers);      

函数calibrateCamera完成相机标定工作。

cv::calibrateCamera(objectPoints,//三维坐标
 imagePoints, //二维坐标
 imageSize,//图像大小
 camerMatirx,//相机内参数矩阵
 disCoeffs,//投影矩阵
  rvecs, //旋转
  tvecs,//平移
flag  //标记opencv提供几种参数,可以参看在线的opencv document
);      

计算畸变参数,去畸变

//计算畸变参数
cv::initUndistortRectifyMap(camerMatirx, disCoeffs,
    cv::Mat(), cv::Mat(), image.size(), CV_32FC1,
    map1, //x映射函数
    map2  //y映射函数
    );
//应用映射函数
cv::remap(image, //畸变图像
undistorted, //去畸变图像
map1, map2, cv::INTER_LINEAR);      

现在整合代码。

示例:

标头.h

#include<opencv2\core\core.hpp>
#include<opencv2\highgui\highgui.hpp>
#include<opencv2\imgproc\imgproc.hpp>
#include<opencv2\calib3d\calib3d.hpp>
#include <opencv2/features2d/features2d.hpp>
#include<string>
#include<vector>
class CameraCalibrator
{
private:
    //世界坐标
    std::vector < std::vector<cv::Point3f >> objectPoints;
    //图像坐标
    std::vector <std::vector<cv::Point2f>> imagePoints;
    //输出矩阵
    cv::Mat camerMatirx;
    cv::Mat disCoeffs;
    //标记
    int flag;
    //去畸变参数
    cv::Mat map1, map2;
    //是否去畸变
    bool mustInitUndistort;

    ///保存点数据
    void addPoints(const std::vector<cv::Point2f>&imageConers, const std::vector<cv::Point3f>&objectConers)
    {
        imagePoints.push_back(imageConers);
        objectPoints.push_back(objectConers);
    }
public:
    CameraCalibrator() :flag(0), mustInitUndistort(true){}
    //打开棋盘图片,提取角点
    int addChessboardPoints(const std::vector<std::string>&filelist,cv::Size &boardSize)
    {
        std::vector<cv::Point2f>imageConers;
        std::vector<cv::Point3f>objectConers;
        //输入角点的世界坐标
        for (int i = 0; i < boardSize.height; i++)
        {
            for (int j = 0; j < boardSize.width; j++)
            {
                objectConers.push_back(cv::Point3f(i, j, 0.0f));
            }
        }
        //计算角点在图像中的坐标
        cv::Mat image;
        int success = 0;
        for (int i = 0; i < filelist.size(); i++)
        {
            image = cv::imread(filelist[i],0);
            //找到角点坐标
            bool found = cv::findChessboardCorners(image, boardSize, imageConers);
            cv::cornerSubPix(image,
                imageConers,
                cv::Size(5, 5),
                cv::Size(-1, -1),
                cv::TermCriteria(cv::TermCriteria::MAX_ITER + cv::TermCriteria::EPS,
                30, 0.1));
            if (imageConers.size() == boardSize.area())
            {
                addPoints(imageConers, objectConers);
                success++;
            }
            //画出角点
            cv::drawChessboardCorners(image, boardSize, imageConers, found);
            cv::imshow("Corners on Chessboard", image);
            cv::waitKey(100);
        }
        return success;
    }

    //相机标定
    double calibrate(cv::Size&imageSize)
    {
        mustInitUndistort = true;
        std::vector<cv::Mat>rvecs, tvecs;
        //相机标定
        return cv::calibrateCamera(objectPoints, imagePoints, imageSize,
            camerMatirx, disCoeffs, rvecs, tvecs, flag);
    }
    ///去畸变
    cv::Mat remap(const cv::Mat &image)
    {
        cv::Mat undistorted;
        if (mustInitUndistort)
        {
            //计算畸变参数
            cv::initUndistortRectifyMap(camerMatirx, disCoeffs,
                cv::Mat(), cv::Mat(), image.size(), CV_32FC1, map1, map2);
            mustInitUndistort = false;
        }
        //应用映射函数
        cv::remap(image, undistorted, map1, map2, cv::INTER_LINEAR);
        return undistorted;
    }
    //常成员函数,获得相机内参数矩阵、投影矩阵数据
    cv::Mat getCameraMatrix() const { return camerMatirx; }
    cv::Mat getDistCoeffs()   const { return disCoeffs; }
};      

源.cpp

#include"标头.h"
#include<iomanip>
#include<iostream>
int main()
{
    CameraCalibrator Cc;
    cv::Mat image;
    std::vector<std::string> filelist;
    cv::namedWindow("Image");
    for (int i = 1; i <= 22; i++)
    {
        ///读取图片
        std::stringstream s;
        s << "D:/images/chessboards/chessboard" << std::setw(2) << std::setfill('0') << i << ".jpg";
        std::cout << s.str() << std::endl;

        filelist.push_back(s.str());
        image = cv::imread(s.str(),0);
        cv::imshow("Image", image);
        cv::waitKey(100);
    }
    //相机标定
    cv::Size boardSize(6, 4);
    Cc.addChessboardPoints(filelist, boardSize);
    Cc.calibrate(image.size());

    //去畸变
    image = cv::imread(filelist[1]);
    cv::Mat uImage=Cc.remap(image);
    cv::imshow("原图像", image);
    cv::imshow("去畸变", uImage);
    //显示相机内参数矩阵
    cv::Mat cameraMatrix = Cc.getCameraMatrix();
    std::cout << " Camera intrinsic: " << cameraMatrix.rows << "x" << cameraMatrix.cols << std::endl;
    std::cout << cameraMatrix.at<double>(0, 0) << " " << cameraMatrix.at<double>(0, 1) << " " << cameraMatrix.at<double>(0, 2) << std::endl;
    std::cout << cameraMatrix.at<double>(1, 0) << " " << cameraMatrix.at<double>(1, 1) << " " << cameraMatrix.at<double>(1, 2) << std::endl;
    std::cout << cameraMatrix.at<double>(2, 0) << " " << cameraMatrix.at<double>(2, 1) << " " << cameraMatrix.at<double>(2, 2) << std::endl;

    cv::waitKey(0);
}