ECCV 2024:JHU上交等提出首个可渲染X光3DGS!推理速度73倍NeRF,性能提升6.5dB

简介: 【10月更文挑战第8天】近日,约翰斯•霍普金斯大学和上海交通大学等机构的研究人员提出了一种名为X-Gaussian的新型3D Gaussian Splatting框架,用于X光新视角合成。该框架通过优化辐射性Gaussian点云模型和可微分辐射光栅化技术,显著提升了X光成像的渲染质量,同时大幅减少了训练时间和推理时间。实验结果显示,X-Gaussian在性能上比现有方法提升了6.5dB,训练时间减少了85%,推理速度提高了73倍。此外,该框架在稀疏视角CT重建中也展现出巨大潜力。

近日,来自约翰斯•霍普金斯大学(JHU)、上海交通大学等机构的研究人员提出了一种名为X-Gaussian的新型3D Gaussian Splatting(3DGS)框架,用于X光新视角合成。这项研究被接收为ECCV 2024的论文,并引起了广泛关注。

X光因其较强的穿透力而被广泛应用于透射成像。然而,在渲染新视角的X光投影时,基于NeRF的现有方法存在训练时间长、推理速度慢等问题。为了解决这些问题,研究人员提出了X-Gaussian框架。

X-Gaussian框架基于3D Gaussian Splatting技术,并针对X光成像的特点进行了优化。首先,研究人员重新设计了一个辐射性Gaussian点云模型,该模型受到X光成像各向同性特性的启发。该模型在学习预测3D点的辐射强度时,排除了视角方向的影响。

其次,研究人员开发了一种可微分辐射光栅化(DRR)技术,并使用CUDA进行了实现。这种技术可以有效地处理X光成像中的辐射信息。

此外,研究人员还提出了一种名为Angle-pose Cuboid Uniform Initialization(ACUI)的策略。该策略利用X光扫描仪的参数直接计算相机信息,并均匀地在包围扫描对象的长方体内对点位置进行采样。

研究人员在实验中展示了X-Gaussian框架在性能上的优势。与最先进的方法相比,X-Gaussian在性能上提升了6.5dB,同时训练时间减少了85%,推理速度提高了73倍。

这些结果表明,X-Gaussian框架在X光新视角合成方面具有显著的性能优势。它不仅可以提高渲染质量,还可以显著减少训练时间和推理时间,从而提高计算效率。

除了在性能上的优势,X-Gaussian框架还具有实际应用价值。研究人员展示了它在稀疏视角CT重建中的应用,结果表明该方法在实际应用中具有潜力。

此外,研究人员还公开了X-Gaussian的代码和训练过程的可视化视频,这将有助于其他研究人员进一步研究和应用该方法。

X-Gaussian框架的提出为X光新视角合成提供了一种全新的解决方案。它通过重新设计辐射性Gaussian点云模型和可微分辐射光栅化技术,实现了在性能和计算效率上的显著提升。

尽管X-Gaussian框架在实验中表现出色,但仍有一些潜在的问题需要进一步研究和解决。例如,如何进一步提高渲染质量和计算效率,以及如何将该方法应用于其他类型的成像任务等。

论文链接:https://arxiv.org/abs/2403.04116

目录
相关文章
|
16天前
|
机器学习/深度学习 存储 人工智能
谢赛宁新作:表征学习有多重要?一个操作刷新SOTA,DiT训练速度暴涨18倍
谢赛宁团队提出REPA方法,通过将扩散模型中的噪声输入隐藏状态与外部预训练视觉编码器的干净图像表征对齐,显著提升扩散模型的训练效率和生成质量,为扩散模型在表征学习上的应用开辟新路径。
29 5
|
4月前
|
人工智能 自然语言处理 测试技术
权重、代码、数据集全开源,性能超越Mistral-7B,苹果小模型来了
【8月更文挑战第12天】DCLM是由多家机构联合推出的全新测试平台,旨在通过优化数据集增强语言模型性能。其核心贡献包括一个含240万亿token的标准化语料库及有效的预训练方案。DCLM-BASELINE数据集成功训练出7B参数模型,在MMLU上5-shot准确率达64%,超越Mistral-7B,且计算成本降低40%。尽管存在局限,但该项目已全开源,为社区提供宝贵资源,推动语言模型发展。[论文链接](https://arxiv.org/pdf/2406.11794)
171 60
|
7月前
|
机器学习/深度学习 存储 人工智能
UNet家族迎来最小模型U-Lite | 800K参数实现性能极限超车
UNet家族迎来最小模型U-Lite | 800K参数实现性能极限超车
308 1
|
7月前
|
tengine 人工智能 算法
极智AI | 量化实验分享四:Data-Free Quantization香不香?详解高通DFQ量化算法实现
大家好,我是极智视界,本文剖析一下高通 DFQ (Data-Free Quantization) 量化算法实现,以 Tengine 的实现为例。
321 1
|
机器学习/深度学习 算法 计算机视觉
可与ViT一较高下,DeepMind从稀疏转向Soft混合专家模型
可与ViT一较高下,DeepMind从稀疏转向Soft混合专家模型
253 0
|
编解码 vr&ar 计算机视觉
39亿参数模型公开可用,采样速度7倍提升,残差量化生成图片入选CVPR'22
39亿参数模型公开可用,采样速度7倍提升,残差量化生成图片入选CVPR'22
192 0
39亿参数模型公开可用,采样速度7倍提升,残差量化生成图片入选CVPR'22
|
机器学习/深度学习 人工智能 自然语言处理
超越Transformer,清华、字节大幅刷新并行文本生成SoTA性能|ICML 2022
超越Transformer,清华、字节大幅刷新并行文本生成SoTA性能|ICML 2022
167 0
超越Transformer,清华、字节大幅刷新并行文本生成SoTA性能|ICML 2022
|
人工智能 自然语言处理 云计算
蒸馏也能Step-by-Step:新方法让小模型也能媲美2000倍体量大模型
蒸馏也能Step-by-Step:新方法让小模型也能媲美2000倍体量大模型
186 0
|
机器学习/深度学习 自动驾驶 算法
YOLOX升级 | 阿里巴巴提出YOLOX-PAI,1ms内精度无敌,超越YOLOv6、PP-YOLOE
YOLOX升级 | 阿里巴巴提出YOLOX-PAI,1ms内精度无敌,超越YOLOv6、PP-YOLOE
219 0
|
机器学习/深度学习 自然语言处理
微软提出MiniViT | 把DeiT压缩9倍,性能依旧超越ResNet等卷积网络(二)
微软提出MiniViT | 把DeiT压缩9倍,性能依旧超越ResNet等卷积网络(二)
253 0