在计算机图形学领域,对透明物体的三维重建一直是一个具有挑战性的问题。由于透明物体表面的折射和反射特性,其表面颜色会呈现出高度非连续性和快速变化,这给传统的重建方法带来了极大的困难。然而,近期发表在ACM Transactions on Graphics(ACM TOG)上的一篇名为《NU-NeRF: Neural Reconstruction of Nested Transparent Objects with Uncontrolled Capture Environment》的论文,为这一问题提供了一种创新的解决方案。
该论文由中国科学院计算技术研究所、中国科学院大学、KIRI Innovations和加州大学圣塔芭芭拉分校的研究人员共同完成。他们提出了一种名为NU-NeRF的神经重建方法,可以在无需特殊捕获设备或额外输入的情况下,对嵌套的复杂透明物体进行高质量的三维重建。
在介绍NU-NeRF之前,我们先来看看传统方法在透明物体重建方面的局限性。传统的重建方法通常依赖于特殊的捕获设备、专用的背景或真实的物体掩码来提供更多的先验信息,以减少问题的歧义性。然而,这些方法在实际应用中存在诸多限制。首先,它们往往需要昂贵且复杂的设备,这对于普通用户来说并不友好。其次,这些方法通常只能处理固体和均匀材料,对于嵌套的复杂透明物体则无能为力。此外,由于这些方法对捕获环境有严格的要求,因此在实际场景中的应用也受到了很大的限制。
为了克服传统方法的局限性,研究人员提出了NU-NeRF。该方法基于神经符号距离场(neural signed distance field)的公式,并利用了神经渲染技术。NU-NeRF由两个主要阶段组成:
在第一阶段,表面颜色被分离为反射和折射两部分。反射部分通过基于物理的材料和渲染进行分解,而折射部分则使用一个单一的多层感知机(MLP)进行建模,该MLP根据折射和视图方向进行预测。这一步骤能够产生高保真的外表面几何形状。
在第二阶段,研究人员使用显式光线追踪技术对重建的外表面进行准确的光传输模拟。然后,在外表面几何形状内部再次执行表面重建,以获取任何内表面几何形状。在这一过程中,研究人员提出了一种新颖的透明界面公式,以处理不同类型的透明表面。
为了验证NU-NeRF的有效性,研究人员在合成场景和真实捕获场景上进行了实验。实验结果表明,NU-NeRF能够产生比先前方法更好的重建结果,并能够实现准确的嵌套表面重建,而无需专用的捕获环境。
从正面来看,NU-NeRF的创新之处在于它能够仅通过手机拍照等简单方式,对复杂的透明物体进行高质量的三维重建。这对于计算机图形学、虚拟现实、增强现实等领域的应用具有重要意义。例如,在虚拟现实中,用户可以通过手机拍照来获取真实物体的三维模型,从而增强虚拟环境的真实感和沉浸感。
然而,NU-NeRF也存在一些局限性。首先,尽管它能够处理嵌套的透明物体,但对于具有复杂内部结构的物体,其重建效果可能仍然存在一定的挑战。其次,由于NU-NeRF依赖于神经网络进行建模和预测,因此其计算复杂度较高,可能需要较长的训练和重建时间。此外,对于具有高度反射或折射特性的物体,NU-NeRF的重建效果可能受到一定的影响。