ACM TOG:仅通过手机拍照就可以对透明物体进行三维重建

简介: 【10月更文挑战第20天】近期发表在ACM TOG上的论文《NU-NeRF: Neural Reconstruction of Nested Transparent Objects with Uncontrolled Capture Environment》提出了一种名为NU-NeRF的神经重建方法,能够在无需特殊设备的情况下,对嵌套的复杂透明物体进行高质量的三维重建。该方法通过分离反射和折射部分,结合神经符号距离场和神经渲染技术,实现了高保真的外表面几何形状和内部表面重建。实验结果表明,NU-NeRF在合成和真实场景中均表现出色,具有广泛的应用前景。

在计算机图形学领域,对透明物体的三维重建一直是一个具有挑战性的问题。由于透明物体表面的折射和反射特性,其表面颜色会呈现出高度非连续性和快速变化,这给传统的重建方法带来了极大的困难。然而,近期发表在ACM Transactions on Graphics(ACM TOG)上的一篇名为《NU-NeRF: Neural Reconstruction of Nested Transparent Objects with Uncontrolled Capture Environment》的论文,为这一问题提供了一种创新的解决方案。

该论文由中国科学院计算技术研究所、中国科学院大学、KIRI Innovations和加州大学圣塔芭芭拉分校的研究人员共同完成。他们提出了一种名为NU-NeRF的神经重建方法,可以在无需特殊捕获设备或额外输入的情况下,对嵌套的复杂透明物体进行高质量的三维重建。

在介绍NU-NeRF之前,我们先来看看传统方法在透明物体重建方面的局限性。传统的重建方法通常依赖于特殊的捕获设备、专用的背景或真实的物体掩码来提供更多的先验信息,以减少问题的歧义性。然而,这些方法在实际应用中存在诸多限制。首先,它们往往需要昂贵且复杂的设备,这对于普通用户来说并不友好。其次,这些方法通常只能处理固体和均匀材料,对于嵌套的复杂透明物体则无能为力。此外,由于这些方法对捕获环境有严格的要求,因此在实际场景中的应用也受到了很大的限制。

为了克服传统方法的局限性,研究人员提出了NU-NeRF。该方法基于神经符号距离场(neural signed distance field)的公式,并利用了神经渲染技术。NU-NeRF由两个主要阶段组成:

在第一阶段,表面颜色被分离为反射和折射两部分。反射部分通过基于物理的材料和渲染进行分解,而折射部分则使用一个单一的多层感知机(MLP)进行建模,该MLP根据折射和视图方向进行预测。这一步骤能够产生高保真的外表面几何形状。

在第二阶段,研究人员使用显式光线追踪技术对重建的外表面进行准确的光传输模拟。然后,在外表面几何形状内部再次执行表面重建,以获取任何内表面几何形状。在这一过程中,研究人员提出了一种新颖的透明界面公式,以处理不同类型的透明表面。

为了验证NU-NeRF的有效性,研究人员在合成场景和真实捕获场景上进行了实验。实验结果表明,NU-NeRF能够产生比先前方法更好的重建结果,并能够实现准确的嵌套表面重建,而无需专用的捕获环境。

从正面来看,NU-NeRF的创新之处在于它能够仅通过手机拍照等简单方式,对复杂的透明物体进行高质量的三维重建。这对于计算机图形学、虚拟现实、增强现实等领域的应用具有重要意义。例如,在虚拟现实中,用户可以通过手机拍照来获取真实物体的三维模型,从而增强虚拟环境的真实感和沉浸感。

然而,NU-NeRF也存在一些局限性。首先,尽管它能够处理嵌套的透明物体,但对于具有复杂内部结构的物体,其重建效果可能仍然存在一定的挑战。其次,由于NU-NeRF依赖于神经网络进行建模和预测,因此其计算复杂度较高,可能需要较长的训练和重建时间。此外,对于具有高度反射或折射特性的物体,NU-NeRF的重建效果可能受到一定的影响。

项目主页:http://geometrylearning.com/NU-NeRF/

目录
相关文章
|
6月前
|
移动开发 JavaScript 前端开发
vue实现调用手机拍照、录像功能
vue实现调用手机拍照、录像功能
594 1
|
6月前
|
移动开发 JavaScript 前端开发
vue实现调用手机拍照、录像功能
vue实现调用手机拍照、录像功能
360 0
|
缓存 JavaScript 前端开发
|
XML Java Android开发
【安卓开发】调用手机的相机进行拍照并且保存在本地的APP
【安卓开发】调用手机的相机进行拍照并且保存在本地的APP
306 0
|
JavaScript 前端开发 对象存储
javascript 手机移动端 微信 拍照 录音 录视频并阿里oss上传
调用照相机,拍照  1 调用摄像机,视频  1 调用录音机,录音  1 第一种方法: var showimg = document.
2351 0
|
传感器 人工智能 芯片
“约架”AI拍照,手机厂商们的算盘不会太如意
2018年Q1结束,国内手机大厂的年度旗舰机型已经摆上货架。“华米OV”都给自家的手机贴上了AI拍照的标签。甚至还没有发布的荣耀10,也透露出了和AI拍照暧昧的消息。这让人想起2017年,不给自己的手机贴个全面屏的标签都不好意思搞发布会。不同的是,尽管去年各大厂商都在吹嘘自己的全面屏,在宣传上拍照技术仍然是首位,从小米的“拍人更美”到Vivo的“逆光也清晰,照亮你的美”莫不如是。
“约架”AI拍照,手机厂商们的算盘不会太如意
|
传感器 人工智能 算法
大底、双防抖、无损变焦,成手机拍照三大“硬实力
存量市场的当前,让用户更换手机确实有难度。不管厂商主打AI还是主打全面屏,抑或是美到与天际霓虹一争高下的外观,对用户而言区别真的不是很大。大部分人对体验其实并不太敏感,只要有一部用着不卡的手机就好,这种需求到现在还有哪家厂商不能满足?
259 0
大底、双防抖、无损变焦,成手机拍照三大“硬实力
|
传感器 人工智能 编解码
50倍变焦拍月球!华为P30:最强拍照手机正式发布,最高9500元
在 Mate 20 引入强大 AI 算力之后,华为把手机拍照能力提升到了前所未有的水平。在「不够硬」的苹果发布会十几个小时之后,华为 2019 年发布的第一款旗舰机 P30 系列刚刚在法国巴黎亮相。
341 0
50倍变焦拍月球!华为P30:最强拍照手机正式发布,最高9500元