MVPaint:腾讯PCG联合多所高校共同推出的3D纹理生成框架

本文涉及的产品
视觉智能开放平台,分割抠图1万点
视觉智能开放平台,视频资源包5000点
视觉智能开放平台,图像资源包5000点
简介: MVPaint是由腾讯PCG联合多所高校共同推出的3D纹理生成框架,基于同步多视角扩散技术,实现高分辨率、无缝且多视图一致的3D纹理生成。该框架包含三个核心模块:同步多视角生成、空间感知3D修补和UV细化,显著提升3D模型的纹理生成效果。

❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!

🥦 微信公众号|搜一搜:蚝油菜花 🥦


🚀 快速阅读

技术背景:MVPaint基于同步多视角扩散技术,实现高分辨率、无缝且多视图一致的3D纹理生成。
核心模块:包含同步多视角生成、空间感知3D修补和UV细化三个核心模块。
应用场景:广泛应用于游戏开发、动画制作、虚拟现实和增强现实等领域。

正文

MVPaint 是什么

公众号: 蚝油菜花 - MVPaint

MVPaint是由腾讯PCG、上海AI LAB、南洋理工大学S-Lab和清华大学共同推出的3D纹理生成框架。该框架基于同步多视角扩散技术,旨在实现高分辨率、无缝且多视图一致的3D纹理生成。MVPaint通过三个核心模块——同步多视角生成(SMG)、空间感知3D修补(S3I)和UV细化(UVR),显著提升了3D模型的纹理生成效果,减少了局部不连续性和多视图不一致的问题。

MVPaint的核心思想是通过同步多视角生成技术,同时生成多个视角的图像,为3D模型提供初步的纹理。随后,通过空间感知3D修补技术填补未观察到的区域,确保3D模型的完整纹理覆盖。最后,通过UV细化技术改善UV空间中的纹理质量,修正因UV展开造成的不连续性。

MVPaint 的主要功能

  • 同步多视角生成(SMG):同时生成多个视角的图像,为3D模型提供初步的纹理。
  • 空间感知3D修补(S3I):专门设计用于填补多视角生成中未被观察到的区域,确保3D模型的完整纹理覆盖。
  • UV细化(UVR):包括UV空间的超分辨率处理和空间感知缝合平滑算法,改善UV展开后的纹理质量,修正因UV展开造成的不连续性。
  • 多视图一致性:确保在不同视角下生成的纹理保持一致性,减少因视角变化产生的不一致问题。
  • 高分辨率纹理生成:生成高分辨率且无缝的纹理,提升3D模型的视觉质量。

MVPaint 的技术原理

  • 控制基多视角模型(Control-based T2MV Model):用于从文本描述生成多视角图像,是同步多视角生成(SMG)的一部分。
  • 图像到图像模型(Image-to-Image Model, I2I):与控制基多视角模型一起,用于3D纹理的初始化。
  • 3D点云修补:在UV空间中,基于3D点云修补技术填补未观察到的区域,是空间感知3D修补(S3I)的核心。
  • UV空间超分辨率:在UVR模块中,对UV图进行超分辨率处理,增加纹理的细节。
  • 空间感知缝合平滑:在UV空间中,检测接缝并应用3D感知平滑算法,修正因UV展开造成的纹理不连续性。
  • 多视角一致性保持:在整个纹理生成过程中,基于同步多视角生成和后续处理步骤,确保在不同视角下纹理的一致性。

资源


❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!

🥦 微信公众号|搜一搜:蚝油菜花 🥦

相关文章
|
新零售 人工智能
阿里巴巴联合汉仪重磅推出五款人工智能字体:汉仪天真体、英雄体等
众所周知传统做字的人力成本非常之高,如果全靠人类设计师来完成,一套标准字库从设计到完成需要一年多的时间。
12734 0
|
1月前
|
人工智能 vr&ar
GeneMAN:上海AI Lab联合北大等高校推出的3D人体模型创建框架
GeneMAN是由上海AI实验室、北京大学、南洋理工大学和上海交通大学联合推出的3D人体模型创建框架。该框架能够从单张图片中生成高保真度的3D人体模型,适用于多种应用场景,如虚拟试衣、游戏和娱乐、增强现实和虚拟现实等。
63 7
GeneMAN:上海AI Lab联合北大等高校推出的3D人体模型创建框架
|
1月前
|
存储 人工智能 自然语言处理
Delta-CoMe:清华联合OpenBMB等高校开源的新型增量压缩算法
Delta-CoMe是由清华大学NLP实验室联合OpenBMB开源社区、北京大学和上海财经大学提出的新型增量压缩算法。该算法通过结合低秩分解和低比特量化技术,显著减少了大型语言模型的存储和内存需求,同时保持了模型性能几乎无损。Delta-CoMe特别适用于处理数学、代码和多模态等复杂任务,并在推理速度上有所提升。
66 6
Delta-CoMe:清华联合OpenBMB等高校开源的新型增量压缩算法
|
2月前
|
人工智能 编解码
OmniBooth:华为诺亚方舟联合港科大推出的图像生成框架
OmniBooth是由华为诺亚方舟实验室和港科大研究团队联合推出的图像生成框架,支持基于文本提示或图像参考进行空间控制和实例级定制。该框架通过用户定义的掩码和相关联的文本或图像指导,精确控制图像中对象的位置和属性,提升文本到图像合成技术的可控性和实用性。
37 1
OmniBooth:华为诺亚方舟联合港科大推出的图像生成框架
|
6月前
|
缓存 人工智能
字节跳动、浙大推出Coin3D:用几何代理,控制3D模型生成
【7月更文挑战第29天】字节跳动与浙江大学合作开发了Coin3D框架,利用几何代理实现3D模型生成的精确控制与交互。该框架通过3D适配器、代理限制编辑策略、渐进式体积缓存及体积-SDS等技术,支持用户实时调整3D模型的全局与局部特征。实验表明,Coin3D在保证高质量的同时,显著提升了生成过程的灵活性与可控性。[论文](https://arxiv.org/abs/2405.08054)
91 5
|
8月前
|
人工智能 搜索推荐 算法
个性化图像生成时代来了!六大顶尖高校联手发布全新Gen4Gen框架
【5月更文挑战第7天】六大顶尖高校联合发布的Gen4Gen框架引领个性化图像生成新纪元。该框架通过创新数据处理,实现半自动化数据集创建,提高文本到图像扩散模型性能,尤其在多概念个性化生成方面取得突破。Gen4Gen使用CP-CLIP和TI-CLIP指标评估性能,并基于MyCanvas数据集验证有效性。尽管面临挑战,如大型语言模型的局限性,但研究将继续探索优化数据集质量和使用多模态模型提升图像生成效果。论文链接:https://arxiv.org/abs/2402.15504
58 2
|
存储 人工智能 编解码
CVPR‘2023 | 港科大 & 腾讯 AI Lab & 港大联合出品:有趣的动态 3D 场景重建
CVPR‘2023 | 港科大 & 腾讯 AI Lab & 港大联合出品:有趣的动态 3D 场景重建
251 0
|
边缘计算 API vr&ar
专访超次元|这家头部虚拟赛道公司,如何借助3DCAT加速元宇宙建设?
带着这样的问题,我们在使用了3DCAT元宇宙实时云渲染技术的超次元Vvorld虚拟活动应用里,由瑞云生态合作总监潘振杰采访了超次元的创始人陈坚,超次元陈坚给我们解答了以上疑惑。
专访超次元|这家头部虚拟赛道公司,如何借助3DCAT加速元宇宙建设?
|
机器学习/深度学习 缓存 人工智能
EDA顶会ICCAD 2021落幕,AI设计芯片趋势明显,港中文团队获Front-End最佳论文奖
目前芯片是备受关注的研究领域,EDA 是重点方向之一。中国在 EDA 领域薄弱,但港中文在 EDA 研究方面很有实力,CS Ranking 近年来都位居前列,今年更是跃居第一。本文是港中文余备教授参加 ICCAD 2021 的见闻和有感,以专业视角给出了值得关注的趋势,也即 ML for EDA(或者EDA的人工智能化趋势)。他们也获得今年前端 track 最佳论文。
606 0
EDA顶会ICCAD 2021落幕,AI设计芯片趋势明显,港中文团队获Front-End最佳论文奖
|
传感器 人工智能 机器人
阿里巴巴:AI Labs关闭传闻不实,已并入云智能
阿里 AI Labs 从此要加上一个「云」字:其已并入云智能事业群,主要由谭平教授负责。
205 0
阿里巴巴:AI Labs关闭传闻不实,已并入云智能

热门文章

最新文章