阿里云视频云人脸生成领域最新研究成果入选CVPR2022

简介: 基于生成对抗网络的深度感知人脸重演算法

CVPR(IEEE Conference on Computer Vision and Pattern Recognition)作为计算机视觉和模式识别领域的顶级会议,在全球具有极高的权威性。目前在中国计算机学会推荐国际学术会议的排名中,CVPR为人工智能领域的A类会议 。


凭借在人脸生成领域的扎实积累和前沿创新,阿里云视频云与香港科技大学合作的最新研究成果《基于生成对抗网络的深度感知人脸重演算法》(Depth-Aware Generative Adversarial Network for Talking Head Video Generation)被CVPR2022接收。


而最新一届CVPR 2022也将于2022年6月19日-24日在美国路易斯安那州新奥尔良举行。

1647314685038-27415aa9-dd05-4026-b9fe-946345832c1c.png

近年来,人脸重演(face reenactment/talking head)受到了越来越广泛的关注,现有的人脸重演方法严重依赖于从输入图像中学习到的2D表征,而很少引入3D几何信息进行指导和约束 ,导致生成人脸的结构、姿态和表情不够准确,泛化性较差,难以大规模应用于实际场景中 。


阿里云视频云技术团队与香港科技大学联合提出一种具有深度感知的人脸重演算法。该算法的出现,是人脸重演领域的重大创新,其学术和应用价值是值得期待的。尤其是在视频云领域,该算法的应用有望使得音视频编解码的效率有着极大的突破。


算法使用一种自监督的深度估计模型,无需任何3D标注,即可从视频中获得像素级深度图,进而指导人脸关键点的检测和运动场的合成。在人脸生成阶段,利用该深度图可以学习得到跨模态注意力图,以捕捉更多动作细节并修正人脸结构。


因此,该项技术为在特定场景下的视频编解码提供了新的解决方案。例如在视频会议场景中,我们的模型学习使用一张包含目标人物外观的源图像和一段驱动视频来合成人物头部说话的视频。我们的运动是基于一种新的关键点表标注进行编码的,我们紧凑的关键点标注使视频会议系统能够实现与商业 H.264 标准相同的视觉质量,同时仅使用十分之一的带宽。即大幅度降低带宽要求时,仍可实现较高画质和低延迟。


除此之外,该项技术可广泛应用于会议、直播场景或者元宇宙、虚拟人等互动娱乐场景中,可满足各场景中图片视频化的需求。即按照预想动作,驱动各类风格的人脸图片获得对应的视频。可见,利用该技术路径的突破,灵活地应用到热点行业的业务路径中,将收获一股不可估量的助力。



「视频云技术」你最值得关注的音视频技术公众号,每周推送来自阿里云一线的实践技术文章,在这里与音视频领域一流工程师交流切磋。公众号后台回复【技术】可加入阿里云视频云产品技术交流群,和业内大咖一起探讨音视频技术,获取更多行业最新信息。

相关文章
|
前端开发 NoSQL Java
基于SpringBoot+Redis的转盘抽奖项目
基于SpringBoot+Redis的转盘抽奖项目
基于SpringBoot+Redis的转盘抽奖项目
|
Web App开发 人工智能 监控
搬运5款非常有特色的实用软件
本文分享了5款免费实用软件,提升工作生活效率。Q-Dir为四窗格文件管理器,支持多面板操作;Glass2k实现窗口透明化与置顶;3171.cn提供全能在线工具箱,涵盖视频、图片、文本处理等;gifcam专注屏幕GIF录制与编辑;Groupy实现窗口标签化管理,便捷切换程序组。快来探索这些高效工具吧!
382 1
|
API
车牌号归属地查询免费API接口教程
本接口用于根据车牌号查询社会车辆的归属地,不支持军车、使馆等特殊车牌。请求地址为 `https://cn.apihz.cn/api/other/chepai.php`,支持 POST 和 GET 请求。请求参数包括 `id`、`key` 和 `words`,返回数据包含车牌归属地信息。示例请求:`https://cn.apihz.cn/api/other/chepai.php?id=88888888&key=88888888&words=川B1234`。
1510 21
|
监控 安全 网络协议
计算机端口:网络通信的桥梁
计算机端口是网络通信的逻辑通道,支持数据传输和服务识别。本文介绍端口定义、分类(知名、注册、动态端口)、作用及管理方法,涵盖常用知名端口如HTTP(80)、HTTPS(443)等,并强调端口安全配置的重要性,帮助读者全面理解这一关键组件。
1775 6
|
12月前
|
机器学习/深度学习 人工智能 vr&ar
H4H:面向AR/VR应用的NPU-CIM异构系统混合卷积-Transformer架构搜索——论文阅读
H4H是一种面向AR/VR应用的混合卷积-Transformer架构,基于NPU-CIM异构系统,通过神经架构搜索实现高效模型设计。该架构结合卷积神经网络(CNN)的局部特征提取与视觉Transformer(ViT)的全局信息处理能力,提升模型性能与效率。通过两阶段增量训练策略,缓解混合模型训练中的梯度冲突问题,并利用异构计算资源优化推理延迟与能耗。实验表明,H4H在相同准确率下显著降低延迟和功耗,为AR/VR设备上的边缘AI推理提供了高效解决方案。
1856 0
|
数据采集 移动开发 算法
动态与静态结合:抓取移动端新闻数据的探索实践
本文探讨了移动设备上新闻App数据采集的挑战和应对策略。随着App迭代,数据结构变得复杂,今日头条等App的数据多来自动态接口而非静态HTML。应对策略包括界面分析、请求模拟、身份伪装和IP切换。实战案例展示了如何通过H5接口抓取今日头条热门要闻和评论。建议初学者先分析H5页面接口,合理使用代理服务以避免被封锁。文档强调了现代App数据采集需要采用多种技术手段,以应对复杂的数据结构和接口,保证数据采集的稳定性和有效性。
428 12
动态与静态结合:抓取移动端新闻数据的探索实践
|
数据采集 人工智能 运维
广东电网的步步为营,从计量云到电力运维的AI指挥官
2024年8月26日广东电网计量自动化系统3.0单轨运行,在新型电力系统建设蓝图上写下浓墨重彩的一笔。 至今,这个存储容量达10PB、数据入库400万条每秒,覆盖5000万广东电力用户的“计量大脑”,创下全国规模之最。在这一过程中,广东电网携手阿里云等核心合作伙伴,突破了一个又一个技术难点,也实现了电力计量从“人工经验驱动”向“数据智能决策”的跨越式发展。
702 11
|
机器学习/深度学习 搜索推荐 算法
揭秘京东 API,让京东店铺商品推荐更懂用户
在电商时代,京东API通过大数据与机器学习,助力店铺实现精准商品推荐。本文揭秘其核心机制与优化策略,助您打造更“懂”用户的推荐系统,提升转化率与用户体验。
|
人工智能 安全 物联网
《鸿蒙系统中人工智能驱动的智能助手:应用模式与未来航向》
在数字化时代,人工智能与操作系统的融合成为科技变革的核心力量。鸿蒙系统作为华为自主研发的分布式操作系统,为智能助手提供了广阔舞台。通过语音交互、多模态融合、场景感知与跨设备协同,智能助手实现了便捷操控、深度交互和主动服务。未来,借助大模型赋能、物联网深度融合及强化隐私保护,智能助手将推动全场景服务创新,助力开发者生态繁荣,开启万物互联的智能交互新时代。
1075 12
|
网络协议 API Docker
Docker+consul容器服务的更新与发现
通过本文的介绍,我们详细探讨了如何结合Docker和Consul来实现容器服务的更新与发现。通过Consul的服务注册和发现功能,可以高效地管理和监控容器化服务,确保系统的高可用性和可扩展性。希望本文能帮助您在实际项目中更好地应用Docker和Consul,提高系统的可靠性和管理效率。
506 23