百年奥运的凌空之美,AI云智剪背后的新算法

简介: 人文美学的AI生产力

奥运赛事每天都在上演冰雪奇迹,而捕捉发生瞬间,凝结最精彩、最动人的体育人文画面,让“冰之舞”、“雪之舞”、“速度之美”、“凌空之美”如盛宴般绽放,让“金牌时刻”与“国将风采”变成永恒回荡时空。而实现这一切的,源自阿里云视频云AI编辑部提供的云上智能生产能力——AI云智剪。


如果说,2022冬奥开幕式是一场中国对世界讲述的故事,展开的是中国式的浪漫,那冬奥会的瞬间之美,更像是记载历史的青川木牍,展开的是人物和故事的不凡之巅。


北京冬奥已接近尾声,各项赛事全面而展,冰雪奇迹每日上演。此次冬奥赛事,中国代表团首次实现7个大项15个分项“全项目参赛”,其中35项是首次站上冬奥舞台,如此之多的赛事内容也为奥运的视频生产提供了丰富素材。


1.png


为了在冬奥赛事短视频内容时兼顾实效、精彩、人文、美学,央视体育新媒体和总台技术团队联合阿里云视频云、阿里巴巴达摩院,引入AI编辑部的智能生产工具“AI云智剪”,可以实时完成多赛事的智能内容理解,在极短时间内智能化自动生成大量精彩视频素材,覆盖赛场动作、赛事内容、各类镜头等多个描述维度,生成美学主题的集锦素材。


自由式滑雪女子大跳台,单板滑雪男子大跳台、花样滑冰中,中国选手苏翊鸣、谷爱凌、金博洋、隋文静/韩聪等均表现出色,无论是金牌,还是对自我的突破,其传递的冬奥精神在这个冬日里如烈火般鼓舞人心。


AI云智剪在比赛完成的第一时间就对视频内容进行了多维度解析,完成了精彩素材生成,同时基于跨视频集锦生产能力,第一时间为观众生产主题集锦视频,截至目前已经自动化处理200+场比赛,生产素材片段达3万段以上,生成的大量主题式视频在央视体育新媒体上即时呈现,迅速传播。


在体育赛事内容传播上,AI云智剪可以高效、快速、全面地为冬奥赛事播报提供强大的生产力,快速抢占发布先机,也为全球赛事观众带来及时而优质的赛事体感,同时也为媒体行业深度开发体育媒体版权内容价值,创造了更多可能性。


针对奥运赛事内容,AI云智剪设定了丰富的美学主题智能模板,如针对冰球、花滑、速滑、短道速滑等,设置主题“冰之舞”,针对单板滑雪和自由滑雪,打造主题“雪之舞”,同时,从速度型赛事的特殊视角,如花滑的旋转、冰球的进球等,呈现“速度之美”,而对于跳跃性动作丰富的滑雪赛事,塑造“凌空之美”,可谓通过智能化视频云技术,全面捕捉赛事瞬即间的美学光影。


科技冬奥的新内容生产力

AI与机器学习在体育媒体视频生产领域的应用是产业的大势所趋,随着数字化媒体的高速演进以及受众媒体内容消费习惯的持续更迭,碎片化的短视频内容已经成为各内容消费领域的主流,体育媒体内容领域也不例外。


此次冬奥会更是以科技冬奥为主旨,AI在其中的作用至关重要,基于AI编辑部,其云上智能生产能力“AI云智剪”在赛事内容生产中发挥了巨大价值,已俨然成为科技冬奥新内容的生产力。


以比赛本身为核心,AI云智剪通过对赛事内容的精彩信息进行定义、提取,从比赛视频、解说词音频、人物场记等各个维度进行识别与分析,并利用多模态融合技术,从实现复杂场景下的特色集锦效果。AI云智剪可以对体育赛事视频进行高效的AI内容分析,可以实时生成多种类型的集锦内容,除了精彩动作镜头、运动员集锦等单赛事中的重要片段以外,还支持国将风采、凌空之美、小将出征等多种复杂主题类型的集锦视频生产,实现视频内容解析、多类型视频素材生产、跨视频的复杂主题视频生成的多层级短视频生产能力覆盖。


AI云智剪依靠阿里云视频云强大的流媒体处理能力,可以保证每场比赛的精彩集锦,在3-5分钟内生成,再由平台快速发布出去,极大提升了媒体抢占先机的能力和大众尽享冬奥赛事的体感。


image.png

图1 AI云智剪流程图


如上图所示,AI云智剪的智能生产过程,主要包含两个步骤:


第一,AI模型要对赛事视频进行理解,基于在AI领域的长期积累,AI云智剪可以对多种体育赛事进行细粒度行为、赛场事件、人文事件、镜头类型的深度理解,同时对视频片段进行美学评价、动作精彩度评价、多样性评价,这等同于整个系统的眼睛和大脑,只有看得多、看得细、想得全、想得快,才可以在激烈的冬奥赛场上,为观众们尽快呈现精美绝伦的内容。第二,基于AI模型输出的各类型片段和多指标评价,素材生产模块会基于符合权重进行素材选取,生产大量精选素材,同时也输出多种主题集锦素材。

 

同时,为了响应绿色冬奥的主题,AI云智剪首次采用了单视频理解模型,对多赛事、多来源、多种类的视频进行内容解析、多类型视频素材生产、跨视频的复杂主题视频生成的多层级短视频生产。


该视频理解模型有三点突出的内容价值:


  • 可以对横跨自由式滑雪、花样滑冰、单板滑雪、冰球、速度滑冰、短道速滑等多个赛事中的众多细粒度动作进行识别,捕捉精彩瞬间;


  • 可以对赛事视频中的非竞技动作进行识别,感知观众的欢呼、选手的情绪、颁奖夺金等关键时刻;


  • 可以对镜头类型进行区分,进行多类型素材的智能化组合。


将完成如此多重复杂的任务重担放在一个模型里,这也对AI云智剪的AI模型泛化能力带来巨大的挑战。


冬奥云上新内容背后的新算法

通过AI云智剪呈现新内容,冬奥的云上智能生产运用了全新的智能算法技术。从本质逻辑上,AI云智剪是基于智能算法模型,对视频赛事进行解构、解析、评分,最终再基于多样性策略,以及AI模型输出的多样性评分进行智能化的视频素材生成。


正是依托前沿技术,AI模型可以在较少的计算资源需求下,实现多赛事、多来源、多种类的视频进行内容解析、集锦素材生产。


协同阿里云视频云的技术输出,阿里巴巴达摩院的算法工程师采用了阿里巴巴最新研发的预训练模型技术LOOK(该技术已经被人工智能领域顶级会议ICLR 2022录用)。相比于常见的训练方式要求所有的同类别样本特征接近于一个中心特征,LOOK可以在模型训练过程中仅要求接近的同类样本更加接近,保留更多的特征自由度。


可以认为,这是从一个“求同去异”到“求同存异”的过程改进,正因为在训练过程保留了更多的有效信息,也使得模型特征的表示能力更加通用,最终基于这一个通用表征的基础模型,构建了多个轻量级的多分枝任务模型,去完成多项任务。


因为共享了同一个基础表示模型,在计算消耗上多个任务分枝比单个任务分支增加的额外计算负担几乎可以忽略不计,但却可以和直接使用多个模型达到同样的AI能力。


正是基于这一技术,AI云智剪更快更高更强地支撑起冬奥会的短视频生产任务。


image.png

图2 预训练模型技术LOOK示意图


在使用预训练模型技术以外,由于此次冬奥会视频数据是模型“从未见过”的数据,为了保证模型的鲁棒性和计算结果的稳定性,阿里巴巴最新研发的开集识别技术NGC(已被计算机视觉顶级会议 ICCV 2021 录用为口头报告)也被引入其中。AI模型会同时利用模型预测的置信度和特征的几何结构,来共同决定最终结果,这也使得AI云智剪虽然是第一次在冬奥会上登场,但也是相当的“稳”。


image.png

图3 开集识别算法NGC示意图


此外,阿里巴巴达摩院在视频理解领域积累了大量技术,包括基础模型表征,时序特征建模、自监督表示等,通过阿里云视频云AI云智剪的能力输出,均在这次冬奥会中展露头脚,也被开源在EssentialMC2技术框架(https://github.com/alibaba/EssentialMC2)中,以此致力于推动视频内容理解领域社区的技术发展。


多次创造顶级赛事新视听

早在2018年世界杯期间,阿里云视频云AI编辑部就聚焦于利用“视频AI+云剪辑+媒资管理”的技术,实时生产精彩集锦和球星集锦,满足球迷们的重温赛事和追星的需求。


在2018年世界杯上, CCTV5采用了阿里云视频云AI编辑部的视频AI技术,实现对第一脚传球检测、回放检测、危险射门检测、犯规检测、运动轨迹分析及进攻节奏分析等,用AI技术替代了庞大复杂的高清现场制作设备,高效实时地产出赛事集锦,让精彩不容错过。


经过四年的技术锤炼和产品打磨,AI编辑部已陆续支持足球、篮球、冰壶、花样滑冰、短道速滑、滑雪等多种赛事的特色集锦和主题生产,帮助用户有效提高视频的生产效率,让内容更快速、更精彩,也更有优美之感。


冬奥赛事接近尾声,AI编辑部的视频AI技术在本次奥运会中成功落地,这是赛事应用的又一里程碑,也是视频AI应用于体育行业及更多其他行业的广阔开端。经历了对百年奥运如此大型赛事的技术保障,阿里云视频云能更成熟、稳定地应对赛事场景下的视频分析与处理,AI技术也将渗透到各个行业中,帮助行业客户高效提升新内容的生产效率,让每场赛事都拥有全然不同的新视听体验,也让赛事的人文美感由此绽放。




【AI编辑部】

作为阿里云视频云的智能媒体生产产品,AI编辑部是智能时代内容生产行业的基础设施,是可本地化交付的端到端产品。AI编辑部交付面向新媒体的智能化内容生产流水线,借助大数据技术和人工智能,实现视频稿件、图文稿件的自动化、批量化、智能化生产,从而更快、更好、更广地为抢占新媒体市场服务。


【AI云智剪】

作为AI编辑部面向体育赛事主题集锦的智能生产能力,AI云智剪能够在赛事直播过程中实时生产素材,为精彩赛事提供优质高效的短视频内容生产技术。


阿里云视频云多媒体AI体验中心


「视频云技术」你最值得关注的音视频技术公众号,每周推送来自阿里云一线的实践技术文章,在这里与音视频领域一流工程师交流切磋。公众号后台回复【技术】可加入阿里云视频云产品技术交流群,和业内大咖一起探讨音视频技术,获取更多行业最新信息。


相关文章
|
8天前
|
传感器 人工智能 监控
智慧电厂AI算法方案
智慧电厂AI算法方案通过深度学习和机器学习技术,实现设备故障预测、发电运行优化、安全监控和环保管理。方案涵盖平台层、展现层、应用层和基础层,具备精准诊断、智能优化、全方位监控等优势,助力电厂提升效率、降低成本、保障安全和环保合规。
智慧电厂AI算法方案
|
4天前
|
机器学习/深度学习 传感器 人工智能
智慧无人机AI算法方案
智慧无人机AI算法方案通过集成先进的AI技术和多传感器融合,实现了无人机的自主飞行、智能避障、高效数据处理及多机协同作业,显著提升了无人机在复杂环境下的作业能力和安全性。该方案广泛应用于航拍测绘、巡检监测、应急救援和物流配送等领域,能够有效降低人工成本,提高任务执行效率和数据处理速度。
智慧无人机AI算法方案
|
8天前
|
机器学习/深度学习 人工智能 监控
智慧交通AI算法解决方案
智慧交通AI算法方案针对交通拥堵、违法取证难等问题,通过AI技术实现交通管理的智能化。平台层整合多种AI能力,提供实时监控、违法识别等功能;展现层与应用层则通过一张图、路口态势研判等工具,提升交通管理效率。方案优势包括先进的算法、系统集成性和数据融合性,应用场景涵盖车辆检测、道路环境检测和道路行人检测等。
|
8天前
|
传感器 人工智能 监控
智慧化工厂AI算法方案
智慧化工厂AI算法方案针对化工行业生产过程中的安全风险、效率瓶颈、环保压力和数据管理不足等问题,通过深度学习、大数据分析等技术,实现生产过程的实时监控与优化、设备故障预测与维护、安全预警与应急响应、环保监测与治理优化,全面提升工厂的智能化水平和管理效能。
智慧化工厂AI算法方案
|
1月前
|
机器学习/深度学习 人工智能 算法
"拥抱AI规模化浪潮:从数据到算法,解锁未来无限可能,你准备好迎接这场技术革命了吗?"
【10月更文挑战第14天】本文探讨了AI规模化的重要性和挑战,涵盖数据、算法、算力和应用场景等方面。通过使用Python和TensorFlow的示例代码,展示了如何训练并应用一个基本的AI模型进行图像分类,强调了AI规模化在各行业的广泛应用前景。
31 5
|
1月前
|
机器学习/深度学习 人工智能 开发框架
【AI系统】AI 学习方法与算法现状
在人工智能的历史长河中,我们见证了从规则驱动系统到现代机器学习模型的转变。AI的学习方法基于深度神经网络,通过前向传播、反向传播和梯度更新不断优化权重,实现从训练到推理的过程。当前,AI算法如CNN、RNN、GNN和GAN等在各自领域取得突破,推动技术进步的同时也带来了更大的挑战,要求算法工程师与系统设计师紧密合作,共同拓展AI技术的边界。
82 1
|
1月前
|
人工智能 算法 前端开发
无界批发零售定义及无界AI算法,打破传统壁垒,累积数据流量
“无界批发与零售”是一种结合了批发与零售的商业模式,通过后端逻辑、数据库设计和前端用户界面实现。该模式支持用户注册、登录、商品管理、订单处理、批发与零售功能,并根据用户行为计算信用等级,确保交易安全与高效。
|
1月前
|
人工智能 算法 JavaScript
无界SaaS与AI算力算法,链接裂变万企万商万物互联
本文介绍了一种基于无界SaaS与AI算力算法的商业模式的技术实现方案,涵盖前端、后端、数据库及AI算法等关键部分。通过React.js构建用户界面,Node.js与Express搭建后端服务,MongoDB存储数据,TensorFlow实现AI功能。提供了项目结构、代码示例及部署建议,强调了安全性、可扩展性和性能优化的重要性。
|
3月前
|
存储 人工智能 编解码
大模型检索X一键成片,巴黎奥运的AI新演绎
巴黎奥运会,AI上演媒体新科技。
121 10
大模型检索X一键成片,巴黎奥运的AI新演绎
|
3月前
|
机器学习/深度学习 人工智能 算法
AI入门必读:Java实现常见AI算法及实际应用,有两下子!
本文全面介绍了人工智能(AI)的基础知识、操作教程、算法实现及其在实际项目中的应用。首先,从AI的概念出发,解释了AI如何使机器具备学习、思考、决策和交流的能力,并列举了日常生活中的常见应用场景,如手机助手、推荐系统、自动驾驶等。接着,详细介绍了AI在提高效率、增强用户体验、促进技术创新和解决复杂问题等方面的显著作用,同时展望了AI的未来发展趋势,包括自我学习能力的提升、人机协作的增强、伦理法规的完善以及行业垂直化应用的拓展等...
182 3
AI入门必读:Java实现常见AI算法及实际应用,有两下子!

热门文章

最新文章