Fancy123:华中科技和华南理工推出的3D网格生成技术

本文涉及的产品
视觉智能开放平台,视频资源包5000点
视觉智能开放平台,图像资源包5000点
视觉智能开放平台,分割抠图1万点
简介: Fancy123是由华中科技大学和华南理工大学联合推出的3D网格生成技术,能够从单张图片生成高质量的3D网格。该技术通过即插即用的变形技术,解决了多视图图像的局部不一致性,提高了网格对输入图像的保真度,并确保了高清晰度。Fancy123在定性和定量实验中表现出色,能够无缝集成到现有的单图像到3D的方法中。

❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!

🥦 微信公众号|搜一搜:蚝油菜花 🥦


🚀 快速阅读

  1. 技术来源:华中科技大学和华南理工大学联合推出。
  2. 核心功能:从单张图片生成高质量3D网格。
  3. 技术优势:解决多视图图像不一致性,提高网格保真度和清晰度。

正文(附运行示例)

Fancy123 是什么

公众号: 蚝油菜花 - Fancy123

Fancy123是华中科技大学和华南理工大学联合推出的3D网格生成技术,基于即插即用的变形技术从单张图片生成高质量的3D网格。该方法包含两个增强模块和反投影操作,分别解决多视图图像的局部不一致性、提高网格对输入图像的保真度及确保高清晰度。

外观增强模块基于变形2D多视图图像对齐像素,保真度增强模块基于变形3D网格匹配输入图像。Fancy123在定性和定量实验中显示出显著的性能提升,能无缝集成到现有的单图像到3D的方法中。

Fancy123 的主要功能

  • 从单张图片生成3D网格:根据单一的RGB图像生成具有高视觉吸引力、颜色清晰度和输入保真度的3D网格模型。
  • 解决多视图图像的局部不一致性:基于外观增强模块,校正由2D多视图扩散模型生成的图像中的不一致性,提高多视图一致性。
  • 提高网格对输入图像的保真度:基于保真度增强模块,调整3D网格更精确地匹配输入图像,增强网格与输入图像的相似度。
  • 确保高清晰度:基于反投影操作,将输入图像和变形后的多视图图像投影到由LRM生成的网格上,提高网格颜色的清晰度,去除模糊效果。

Fancy123 的技术原理

  • 多视图扩散模型:用2D多视图扩散模型基于输入图像生成一组多视图图像。
  • 大型重建模型(LRM):用LRM从多视图图像中快速重建一个初始的3D网格。
  • 外观增强模块:优化基于网格的2D变形场对齐多视图图像中的错位像素。将变形后的多视图图像反投影到初始网格上,增强外观质量并减少幽灵效应。
  • 保真度增强模块:基于参数化网格变形(用Jacobian场)优化网格,使其更贴近输入图像。估计输入图像的相机参数,以便在变形过程中保持与输入图像的对应关系。
  • 反投影操作:在2D和3D变形之后,Fancy123执行反投影操作,将输入图像和变形后的多视图图像几乎无损地映射到网格上,提高网格颜色的清晰度。
  • 即插即用模块:Fancy123的两个增强模块设计为即插即用,能在推理时工作,支持无缝集成到各种现有的单图像到3D的方法中。

资源


❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!

🥦 微信公众号|搜一搜:蚝油菜花 🥦

相关文章
|
8月前
|
人工智能 机器人
谷歌重磅推出Genie世界模型!
【2月更文挑战第9天】谷歌重磅推出Genie世界模型!
67 1
谷歌重磅推出Genie世界模型!
|
机器学习/深度学习 人工智能 自然语言处理
性价比超H100,英特尔发布中国版Gaudi2 AI加速卡
性价比超H100,英特尔发布中国版Gaudi2 AI加速卡
147 0
|
机器学习/深度学习 人工智能 边缘计算
|
机器学习/深度学习 人工智能 供应链
年度必读!《全球开源生态研究报告(2022年)》:全球开源生态从“高速繁荣”向“稳步求精”演进
年度必读!《全球开源生态研究报告(2022年)》:全球开源生态从“高速繁荣”向“稳步求精”演进
495 0
|
机器学习/深度学习 存储 人工智能
云栖大会推出阿里灵杰,大数据+AI一体化平台 6 大重磅发布
10月20日2021杭州云栖大会上,阿里巴巴集团副总裁、阿里云计算平台事业部负责人贾扬清发布大数据+AI一体化平台新品牌“阿里灵杰”,提供从“生产-采集-存储-分析-开发-治理-价值体现”整套云原生技术架构和产品体系,配套智能化运维平台和强大的数据资产安全管控能力。
1613 0
云栖大会推出阿里灵杰,大数据+AI一体化平台 6 大重磅发布
|
机器学习/深度学习 人工智能 算法
WAIC 2021 | 华为黄之鹏:下一代AI基础软件能力展望
在 WAIC 2021 AI 开发者论坛上,黄之鹏发表主题演讲《下一代 AI 基础软件能力展望》,在演讲中,他主要介绍了下一代 AI 基础软件核心能力的突破方向与着力点,阐述了未来的深度学习框架的发展走向。
373 0
WAIC 2021 | 华为黄之鹏:下一代AI基础软件能力展望
英特尔联手Facebook,称将于下半年推出更通用的AI芯片
这一合作将会催生更加通用的AI芯片的诞生。
299 0
|
新零售 安全 Linux
沸腾!阿里又开源了一项自研核心技术!
近日,阿里正式开源了基于 Apache 2.0 协议的容器技术 Pouch。Pouch 是一款轻量级的容器技术,拥有快速高效、可移植性高、资源占用少等特性,主要帮助阿里更快的做到内部业务的交付,同时提高超大规模下数据中心的物理资源利用率。
5217 0
|
关系型数据库 pouch 容器
12月5日云栖精选夜读:沸腾!阿里又开源了一项自研核心技术!
近日,阿里正式开源了基于 Apache 2.0 协议的容器技术 Pouch。Pouch 是一款轻量级的容器技术,拥有快速高效、可移植性高、资源占用少等特性,主要帮助阿里更快的做到内部业务的交付,同时提高超大规模下数据中心的物理资源利用率。
4270 0

热门文章

最新文章