ECCV 2024:JHU上交等提出首个可渲染X光3DGS!推理速度73倍NeRF,性能提升6.5dB

简介: 【10月更文挑战第8天】近日,约翰斯•霍普金斯大学和上海交通大学等机构的研究人员提出了一种名为X-Gaussian的新型3D Gaussian Splatting框架,用于X光新视角合成。该框架通过优化辐射性Gaussian点云模型和可微分辐射光栅化技术,显著提升了X光成像的渲染质量,同时大幅减少了训练时间和推理时间。实验结果显示,X-Gaussian在性能上比现有方法提升了6.5dB,训练时间减少了85%,推理速度提高了73倍。此外,该框架在稀疏视角CT重建中也展现出巨大潜力。

近日,来自约翰斯•霍普金斯大学(JHU)、上海交通大学等机构的研究人员提出了一种名为X-Gaussian的新型3D Gaussian Splatting(3DGS)框架,用于X光新视角合成。这项研究被接收为ECCV 2024的论文,并引起了广泛关注。

X光因其较强的穿透力而被广泛应用于透射成像。然而,在渲染新视角的X光投影时,基于NeRF的现有方法存在训练时间长、推理速度慢等问题。为了解决这些问题,研究人员提出了X-Gaussian框架。

X-Gaussian框架基于3D Gaussian Splatting技术,并针对X光成像的特点进行了优化。首先,研究人员重新设计了一个辐射性Gaussian点云模型,该模型受到X光成像各向同性特性的启发。该模型在学习预测3D点的辐射强度时,排除了视角方向的影响。

其次,研究人员开发了一种可微分辐射光栅化(DRR)技术,并使用CUDA进行了实现。这种技术可以有效地处理X光成像中的辐射信息。

此外,研究人员还提出了一种名为Angle-pose Cuboid Uniform Initialization(ACUI)的策略。该策略利用X光扫描仪的参数直接计算相机信息,并均匀地在包围扫描对象的长方体内对点位置进行采样。

研究人员在实验中展示了X-Gaussian框架在性能上的优势。与最先进的方法相比,X-Gaussian在性能上提升了6.5dB,同时训练时间减少了85%,推理速度提高了73倍。

这些结果表明,X-Gaussian框架在X光新视角合成方面具有显著的性能优势。它不仅可以提高渲染质量,还可以显著减少训练时间和推理时间,从而提高计算效率。

除了在性能上的优势,X-Gaussian框架还具有实际应用价值。研究人员展示了它在稀疏视角CT重建中的应用,结果表明该方法在实际应用中具有潜力。

此外,研究人员还公开了X-Gaussian的代码和训练过程的可视化视频,这将有助于其他研究人员进一步研究和应用该方法。

X-Gaussian框架的提出为X光新视角合成提供了一种全新的解决方案。它通过重新设计辐射性Gaussian点云模型和可微分辐射光栅化技术,实现了在性能和计算效率上的显著提升。

尽管X-Gaussian框架在实验中表现出色,但仍有一些潜在的问题需要进一步研究和解决。例如,如何进一步提高渲染质量和计算效率,以及如何将该方法应用于其他类型的成像任务等。

论文链接:https://arxiv.org/abs/2403.04116

目录
相关文章
|
存储 算法 NoSQL
还分不清 Cookie、Session、Token、JWT?看这一篇就够了
Cookie、Session、Token 和 JWT(JSON Web Token)都是用于在网络应用中进行身份验证和状态管理的机制。虽然它们有一些相似之处,但在实际应用中有着不同的作用和特点,接下来就让我们一起看看吧,本文转载至http://juejin.im/post/5e055d9ef265da33997a42cc
47308 13
|
容灾 测试技术
如何衡量软件质量好坏?
如何衡量软件质量好坏?
390 0
|
7月前
|
机器学习/深度学习 人工智能 数据可视化
无需微调!扩散模型新突破:Attentive Eraser高效稳定移除目标物体
最近,扩散模型在生成模型领域异军突起,凭借其独特的生成机制在图像生成方面大放异彩,尤其在处理高维复杂数据时优势明显。然而,尽管扩散模型在图像生成任务中表现优异,但在图像目标移除任务中仍然面临诸多挑战。现有方法在移除前景目标后,可能会留下残影或伪影,难以实现与背景的自然融合。
175 9
|
Kubernetes 应用服务中间件 nginx
使用kind搭建kubernetes
使用kind搭建kubernetes
382 5
|
9月前
|
搜索推荐 算法 大数据
大数据无处不在:揭秘日常生活中的大数据魔力
大数据无处不在:揭秘日常生活中的大数据魔力
380 10
|
10月前
|
人工智能 调度 算法框架/工具
【AI系统】计算图的调度与执行
深度学习训练过程涉及前向计算、计算损失及更新权重参数。AI框架通过计算图统一表示训练过程,算子作为计算图的节点,由后端硬件高效执行。计算图调度包括算子间的调度、并发调度和异构调度,确保计算资源的有效利用。图执行模式分为单算子执行、整图下沉执行和图切分多设备执行,适应不同场景需求。以PyTorch为例,其算子执行通过两次调度选择合适的Kernel进行张量操作,并支持自动求导。
420 5
|
12月前
|
机器学习/深度学习 算法 关系型数据库
第十五届蓝桥杯C++B组省赛
第十五届蓝桥杯C++B组省赛
389 14
|
数据采集 算法 安全
CVPR 2024:给NeRF开透视眼!稀疏视角下用X光进行三维重建,9类算法工具包全开源
【6月更文挑战第28天】CVPR 2024亮点:SAX-NeRF框架开源!融合X光与NeRF,提升3D重建效果。X3D数据集验证,Lineformer+MLG策略揭示物体内部结构,增强几何理解。虽有计算成本及泛化挑战,但为计算机视觉和医学影像开辟新路径。[论文链接](https://arxiv.org/abs/2311.10959)**
571 5
|
存储 缓存
本地缓存和分布式缓存区别
【2月更文挑战第16天】
724 2
本地缓存和分布式缓存区别