通过单眼摄像头复原3D模型
为了能够通过单眼摄像头实现3D识别,SfM(Structure from Motion)的技术。采用的方法是,移动摄像头的位置,获得视点不同的多个图像,然后对这些图像加以比较,从而复原拍摄对象的三维(3D)模型。对于车载摄像头,只要车辆移动就能获得视点不同的多个图像,因此可以使用SfM制作车辆周边的简易3D模型。
获得的3D模型如何应用不是由芯片来决定的,而是取决于开发者。比如,可以组合使用由多个车载摄像头获得的图像生成的360度图像,从而提高驾驶辅助的精度等。上述一系列的图像识别处理利用VGA和全高清(1920×1080像素)车载摄像头就能实现,无需专门选择某种摄像头。
1. Bundler简介
Bundler是一个采用C和C++开发的称为sfm(struct-from-motion)的系统,它能够利用无序的图片集合(例如来自网络的图片)重建出3D的模型。最早的版本被用在Photo Tourism的项目上。项目的官方网站在此:http://phototour.cs.washington.edu/。
Bundler的输入是一些图像、图像特征以及图像匹配信息,输出则是一个根据这些图像反应的场景的3D重建模型,伴有少量识别得到的相机以及场景几何信息。系统借用一个由Lourakis 和Argyros提供的称为Sparse Bundle Adjustment的开发包的修改版,一点一点递增地重建出图像场景。Bundler已经成功的应用在许多网络相册系统,尤其是一些建筑相册里。
Bundler 的源代码可以在这里下载:
http://phototour.cs.washington.edu/bundler/。
其最新的版本为:bundler-v0.4-source.zip。
2. Bundler的编译
下载到Bundler的源代码之后,我们首先要对其进行编译。在bundler-v0.4-sourcevc++文件夹下有Visual Studio2005创建的工程Bundler.sln,当然我们也可以使用更高的版本进行编译。
在编译过程中,我们会遇到以下问题,解决方法转自:
http://www.adas.cc/program/319-cn.html。
在编译f2c时,会给出无法找到#include"sysdep1.h"文件的错误。进入f2c的目录,将sysdep1.h0文件名修改为sysdep1.h即可。
同时将signal1.h0文件名修改为signal1.h。再次编译f2c库时,会提示无法找到#include"arith.h"文件的错误,同时在f2c目录下并没有名字为arith.h的文件,这时可以新建一个arith.h文件,在文件里添加如下内容即可:
#define IEEE_8087
#define Arith_Kind_ASL 1
#define Long int
#define Intcast (int)(long)
#define Double_Align
#define X64_bit_pointers
#define QNaN0 0x0
#define QNaN1 0xfff80000
这时,编译f2c,便成功了。
接下来编译keyMatchFull和Bundler项目,一切顺利。
为了进行获得稠密的三围重建效果,利用Bundler提供的Bundle2PMVS和RadialUndistort工具,生成稠密重建PMVS软件所需的参数。
在编译Bundlr2PMVS时,在Bundle2PMVS.cpp文件中会出现“未知的标识符mkdir”的错误。在文件的开头添加#include
同时将mkdir替换为_mkdir,如下所示:
//mkdir(output_path,0770);
_mkdir(output_path);
至此,Bundle2PMVS编译成功。
在编译RadialUndistort时,在RadialUndistort.cpp文件中会出现“无法识别的标识符index”。
原先的代码如下所示:
//char *space = index(buf, ' ');
//if (space) *space = 0;
将其替换为:
std::string str(buf);
int space_pos = str.find(' ');
str.at(space_pos) = 0;
files.push_back(str);
至此,RadialUndistort编译成功。
3. Bundler的运行
编译完成后,需要将bundler-v0.4-sourcevc++Debug目录下的Bundler.exe,KeyMatchFull.exe, RadialUndistort.exe, Bundle2PMVS.exe, jpeg.dll,ann_1.1_char.dll文件统统考到bundler-v0.4-sourcein目录下。
在成功执行Bundler前,我们需要做几步准备工作:
(转自http://www.cnblogs.com/weizhoupan/archive/2011/03/05/Intro_on_Bundler.html)
1.下载和安装Cygwin。Cygwin是许多自由软件的集合,最初由Cygnus Solutions开发,用于各种版本的Microsoft Windows上,运行UNIX类系统。由于Bundler默认是通过在Unix环境下执行shell脚本来启动Bundler的,因为在Windows环境下需要安装Cygwin以执行shell脚本。
要下载cygwin,直接在setup.exe上点右键“另存为”即可。也可以复制右边这个地址:http://cygwin.com/setup.exe
cygwin的安装比较简单,可以参考这篇教程:
http://www.programarts.com/cfree_ch/doc/help/UsingCF/CompilerSupport/Cygwin/Cygwin1.htm
但要注意一点,Bundler程序中会使用perl、python来进行一些预处理,因此在安装过程中需要把Devel、Perl、Python三个组件库都选上。另外还有ImageMagick这个库,用来处理图片。
下载安装的时间比较久,需要等待一段时间。安装过程中一些杀毒软件(比如360)可能会提示一些安全警告,无视即可。
2.下载特征检测器。Bundler推荐使用SIFT来进行特征提取,可以到SIFT的作者David Lowe的主页上下载他提供的SIFT Demo作为我们的检测器。
下载页面为: http://www.cs.ubc.ca/~lowe/keypoints/
或者直接点击右边的下载地址下载:SIFTdemo program (Version 4, July 2005)访问密码 7ea2
下载完成后,解压该文档,将目录下的siftWin32.exe文件拷贝到BASE_PATHin目录中。
3.准备图片。将要进行分析处理的图片放到一个目录里,比如BASE_PATHPictures中(下面也统一以Pictures代替图片目录)。作为例子,Bundler自己也提供了两套图片,分别放在BASE_PATHexamplesET和BASE_PATHexampleskermit中。
4.下面对运行Bundler的脚本文件进行修改:
把RunBundler.sh文件中BASE_PATH=$(dirname $(which $0)); 一句等号后边的东西替换为Bundler的根目录,也就是RunBundler.sh文件所在的目录,记得加双引号。如BASE_PATH="E:/SDK/bundler-v0.4-source";。
然后把ToSift.sh文件中BIN_PATH设为bin目录,如BIN_PATH="E:/SDK/bundler-v0.4-source/bin"。
5.这下就大功告成了!!
打开Cygwin,cd定位到Bundler根目录下,然后输入下面的命令测试一下例子的图片:
./RunBundler.sh examples/ET
4. 后续工作
Bundler输出的文件大多以“bundle_*.out”的形式来命名,我们称之为“bundle文件”。缺省命令下,Bundler在每张图片经过分析和注册(register)后都会输出一个相应的bundle文件用来保存当前的状态信息,并以“bundle_
这些ply文件可以通过使用专用的查看器scanalyze来查看,地址为:http://graphics.stanford.edu/software/scanalyze/。
当然也可以通过meshlab来查看,下载地址为:http://meshlab.sourceforge.net/。
利用Bundler可以得到较为稀疏的点云(pointclouds)数据。如果需要得到更密集的点,可以使用Yasutaka Furukawa博士写的另外一个非常强大的软件包,称为PMVS2,
下载:http://grail.cs.washington.edu/software/pmvs/。
一种比较常见的途径是使用Bundler来得到相机参数,然后使用Bundle2PMVS程序,将生成结果转换为PMVS2的输入,然后使用PMVS2来得到更密集的点云。另外,读者们可能会对另外一个同样由Furukawa博士开发的实用工具——CMVS感兴趣,CMVS是一个场景聚类程序,在使用PMVS2前可以使用它来进行一些预处理,
下载:http://grail.cs.washington.edu/software/cmvs/。