❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!
🥦 微信公众号|搜一搜:蚝油菜花 🥦
🚀 快速阅读
- 技术背景:PersonaCraft结合了扩散模型和3D人类建模,能够从单一参考图像生成多个人物的逼真全身图像。
- 主要功能:支持多人物图像合成、遮挡处理、全身个性化以及用户定义身体形状控制。
- 应用场景:广泛应用于社交媒体、广告与营销、时尚与服装、游戏与娱乐以及电影与动画制作等领域。
正文
PersonaCraft 是什么
PersonaCraft是韩国首尔国立大学推出的个性化全身图像合成技术,结合扩散模型和3D人类建模,能从单一参考图像生成多个人物的逼真、个性化全身图像。PersonaCraft能有效处理人物间的遮挡问题,支持用户自定义身体形状调整,实现更灵活的个性化定制。
基于精确控制身体姿态和形状,PersonaCraft在复杂场景中生成高质量图像方面表现出色,为多人图像合成树立了新标准。
PersonaCraft 的主要功能
- 多人物图像合成:根据单一参考图像生成包含多个人物的逼真图像。
- 遮挡处理:有效管理人物间的遮挡问题,确保图像中每个人物的身体部分都能准确展现。
- 全身个性化:不仅关注面部身份的个性化,还能准确个性化每个人的全身形状。
- 用户定义身体形状控制:用户根据个人喜好调整生成人物的身体比例和形状。
- 3D感知姿态条件控制:用SMPLx-ControlNet(SCNet)进行3D感知的姿态条件控制,提高身体形状和姿态的准确性。
PersonaCraft 的技术原理
- 3D人类建模与扩散模型结合:PersonaCraft整合3D人类建模(特别是SMPLx模型)和扩散模型,增强对人物身体形状和姿态的控制。
- SMPLx-ControlNet(SCNet):用SMPLx模型生成的深度图作为条件信号,准确捕捉身体形状和姿态,有效处理复杂的遮挡问题。
- 面部和身体身份提取:基于InsightFace等技术从参考图像中提取面部身份嵌入,用SMPLx拟合方法提取身体形状参数。
- 3D感知姿态条件:与传统的2D骨架姿势条件不同,PersonaCraft用3D姿势信息,提供更全面的人体姿势表示,包括深度信息。
- 多人个性化图像合成:结合SCNet和IdentityNet,使用面部掩码准确定位身份,实现多人身份的个性化图像合成。
资源
- 项目官网:https://gwang-kim.github.io/persona_craft
- GitHub 仓库:https://github.com/gwang-kim/PersonaCraft
- arXiv 技术论文:https://arxiv.org/pdf/2411.18068
❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!
🥦 微信公众号|搜一搜:蚝油菜花 🥦