解密优酷智能生产技术,看 AI 赋能内容数字化

简介: 2021 年,随着社会节奏的加快,用户碎片化消费时间不断增加,当前短视频的消费用户规模已超 7.73 亿人,短视频的市场规模超过 2000 亿元。短视频行业发展迅速,但也存在低质内容泛滥,精品内容稀缺的问题。在 7 月 10 日的 Imagine 阿里云视频云全景创新峰会上,阿里巴巴文娱资深算法专家李静,发表了《视频技术再创新,开启内容数字化浪潮》的主题演讲,从短视频领域的内容生产困境出发,分享 MediaAI 平台的技术能力及应用实践,解密优酷短视频智能生产的技术,以下为演讲内容整理。

image.png

优酷如何开启内容数字化浪潮?


既然是优酷,就要从长视频、短视频以及最后分发呈现出来的所有的视频形态说起。优酷的数字化也会从视频的整个生命周期来分析。优酷作为一个长视频网站,从长视频最初的拍摄到制作再到完成,我们有内容评估的数字化系统


当一个长视频拍摄出来之后,如何利用这种版权内容再进行二次的创作,这就是创作内容的的数字化;接下来我们希望生成一些短视频特效,让用户看起来更好看,更有趣,这是特效的数字化。


最后,在终端上用户拿着手机、平板或者通过电视大屏观看视频的时候如何体验内容数字化的好处?


所以,内容的数字化浪潮要从整个视频的生命周期来讲。


创作要素解构

image.png

第一个是内容评估的数字化。在阿里巴巴文娱有一个北斗星的团队,是专注于做长视频的内容评估,它的核心点是希望通过后验的数据去衡量整个视频内容的质量,视频内容或者视频的生产元素。


其中又包括一些外延的东西,例如导演、编剧、演员、剧本等,这些东西是大家平时能听到的,但距离自己又很遥远的东西,这些就是视频内容生产外延的内容。


外延之外还有内延信息,包括呈现出来视频本身它涵盖的一些人物的信息、镜头的语言以及本身人物的性格等。所有的这些信息都是基于我们 NLP 语言(Natural Language Processing)或者 CV(Computer Vision)的能力进行解构。


所以当我们有了外延信息和对于内容的解构之后,我们希望可以通过这些信息去预测用户的心理感受或者对内容的喜好度。

从数据侧获得的先验数据,其中包含了非常直观的收视率、用户的互动状态、评论数,我们希望通过这些数据可以进一步挖掘用户的心理状态、生理状态,以此推动我们核心能力来完成内容的评估。

image.png

内容的评估需要应用到 AI 的能力,一个是 AI 评估,一个是 AI 体检


什么是 AI 评估?


一个视频片段是否好,以前用人来审,需要花费大量的人力。如果用人工审核预测一部电视剧是否是爆款,会非常非常困难。所以在内容评估上我们利用北斗星的系统,从最开始演员、供应商、IP 等级、导演和编剧的信息预估这部电视剧是什么样的水平。


并且,可以对电视剧里的的演员做进一步更深的分析,例如他的粉丝价值,整个口碑等。通过分析我们让平台进一步做辅助性决策,再利用我们的 AI 技术最终评估这部电视剧到底是什么档次。


第二个点是 AI 体检。


当视频片段拍完剪辑好之后,用算法来预测这些片段,哪些是看点,哪些是高潮点,哪些是剧情非常拖沓无聊的点,去寻找用户可能弃剧的风险点,给出一些建设性的意见,帮助剪辑师进行剪辑优化。这是优酷内容评估另外一个应用点。


在长视频之后,就是短视频了。


优酷的《山河令》和《司藤》在放送结束之后,我们如何进一步利用它做二次的短视频创作?

image.png

短视频最近几年来非常火,去年短视频消费用户达 7 亿多人,短视频工会和 MCN 数量超过两万家,市场规模超过两千亿,在如此庞大的短视频消费市场下我们面临了一些问题,高质量的短视频非常稀缺,大量的低质的、粗制滥造的短视频充斥在整个市场上。


所以,我们想利用自动化生产的方式代替掉那些质量低劣的短视频,让我们的智能创作达到人创作的水平,这是优酷想要去做的。


所以阿里巴巴文娱研发出了概念级的视频的解构能力去赋能智能创作。这是什么呢?

image.png

当每次提到视频解构、CV 能力,大家可能都会自然想到一些标签,对于一个视频场景,里面有人物、物体、运动等,在过去 CV 领域这些是特别客观的标签描述,但进行视频创作的时候,这些东西并不是创作者们非常需要的,创作者们需要的元素或者素材是能够让观众有深切感受的,所以我们重新定义了语义级的标签,才能够赋能智能创作

image.png


视频解构赋能短视频生产

ezgif-4-ad91302f629a.gif

有了基于概念级的标签解构能力之后我们可以进行一系列的编辑。


在短视频中使用浓缩的手段,把这个片段中平淡的剧情或者没有对话的情景切掉,将对话或者有信息含量的片段拼接在一起,最终形成完整的短视频片段。

ezgif-4-35d5c786860f.gif

在综艺的场景,将猫晚易烊千玺的片段进行重新剪辑,做成粉丝向的短视频,可以取得很好的效果。


以上所有的视频制作,都利用了我们过去这一年以来所沉淀下来的 AI 技术,所有的视频都是可以实现自动化的生产。


我们目前整个团队的智能生产技术的产能是一天万条以上,但由于每一条都要经过核审,稍微限制了一下产能。智能生产的质量在人工审核的整体通过率是 90%,远远高于普通人的或者优酷的 UP 主自己创作的视频通过率。


视频浓缩,多风格化剧集快看


现在大家碎片化的消费习惯,长视频的观看率越来愈低,所以我们针对这种情况有不同细度浓缩的手段。


如 5 分钟的短剧,3 分钟看一部电影等。在优酷看剧时,每个剧前面有一个 15 秒的前情提要,这就是我们自动化生产出来的。

image.png

同时,因为我们具有风格化的解构能力,所以可以提取不同风格的前情提要,对于女生做甜向的前情提要,对于男生来说可能更喜欢悲壮型的,这些提要都是可以抽取出来的。视频的浓缩就是我们把不同风格的关键剧情择出来,在短时间内让你了解到故事的主线。

image.png

另外一种短视频的类型也是现在非常火爆的,那就是解说类的短视频


我们重新定义了所谓的 Text to Video 的技术,把视频进行解构化,生产视频剧本解说词,两者进行匹配,最后通过剧本生成解说类短视频。


这里的解说词是来自于人工编辑或者现有剧本,视频的解说 tts 能力是由达摩院提供。目前 tts 已经有 10 多种风格,有不同方言,不同的解说风格。


接下来,还有图文转视频,每个热点新闻底下都有配图,我们可以使其直接生成视频,但生成的视频不是 PPT,而是结合 IP 版权图片相对应的视频内容。


娱乐资讯类的视频也是一样,其中的图片可以直接溯源定位找到我们对应的视频版权内容。过于复杂的图片,视频生产才会直接使用图片。


内容呈现:特效让视频更好看

image.png


视频的特效,我们会针对于动作、动作的幅度以及主角人物等进行自动化加特效,这里涉及到的 CV 技术包括:动作检测,动作幅度检测,范围检测,明星识别,BGM 等。
琐碎的东西来加特效显示会非常乱,所以我们对于运动幅度还是有一定要求的,达到某个幅度我们再加特效,相对来说观看体验好很多,在 CG 侧我们有自己的大千云端渲染系统,支持不同特效的制作。

ezgif-4-d5e74090a0ca.gif

综艺特效是目前制作综艺必不可少的环节,然而制作一个特效,非常费时,我们的目标是让 AI 发现、标注和凸显综艺节目的精彩时刻,让 AI 制作快速化,批量化


目前,我们基于 CG 技术已经研发出 30 余种特效类型,《这!就是街舞》就是我们特效技术一个小小的展示。

ezgif-4-6778badac212.gif

CBA 有这么一个子弹时刻,在子弹时刻上我们可以加投篮的热区图,告诉大家这个投篮命中度是多少,可以辅助大家得到更多的信息。

ezgif-4-1407fb00734c.gif

互动上的新玩法,就要讲到端上了,第一个视频横转竖。比如在地铁上非常拥挤的时候大家都是竖着看的,很少有横着看的,基于这样的需求我们也得做把横的视频转为竖的,这里的难点是确定主体,第二是稳定。


我们还有一个技术是自由视角视频,这是国内也是业内第一个在 C 端上,用户可以体验自由视角的产品,在去年的《这!就是街舞》节目上我们已经应用了这个技术。

科技冬奥 冰雪 VR


今年的《这!就是街舞》我们技术还会进一步升级,大家敬请期待。在前段冬奥测试赛上也进行了测试,我们希望用这个技术让用户多角度观看他们想看的体育内容。并且阿里巴巴文娱会不断创新视频技术,为大家带来不一样的视听体验,开启中国视频技术内容数字化浪潮。



扫码入群和作者一起探讨音视频技术

获取更多视频云行业最新信息👇

image.png


「视频云技术」你最值得关注的音视频技术公众号,每周推送来自阿里云一线的实践技术文章,在这里与音视频领域一流工程师交流切磋。公众号后台回复【技术】可加入阿里云视频云产品技术交流群,和业内大咖一起探讨音视频技术,获取更多行业最新信息。
相关文章
|
13天前
|
机器学习/深度学习 人工智能 自然语言处理
构建智能化编程环境:AI 与代码编辑器的融合
在人工智能的推动下,未来的代码编辑器将转变为智能化编程环境,具备智能代码补全、自动化错误检测与修复、个性化学习支持及自动化代码审查等功能。本文探讨了其核心功能、技术实现(包括机器学习、自然语言处理、深度学习及知识图谱)及应用场景,如辅助新手开发者、提升高级开发者效率和优化团队协作。随着AI技术进步,智能化编程环境将成为软件开发的重要趋势,变革开发者工作方式,提升效率,降低编程门槛,并推动行业创新。
|
16天前
|
机器学习/深度学习 人工智能 运维
|
4天前
|
机器学习/深度学习 人工智能 供应链
精准农业:AI在农业生产中的应用
【10月更文挑战第1天】随着科技的发展,人工智能(AI)逐渐渗透到农业领域,通过精准监控和管理提升了农业生产效率和质量。AI在精准农业中的应用包括:精准农田管理,如个性化灌溉和施肥;作物病虫害识别与预测,及时发现并预防病虫害;智能农机自动化作业,提高作业效率;农产品质量检测与分类,确保品质;农业供应链优化,预测需求和价格。尽管面临数据收集、技术接受度等挑战,AI在精准农业中的未来前景广阔,有望实现全程自动化作业、数据驱动决策及智能预警系统,推动农业可持续发展。
23 11
|
5天前
|
人工智能 自然语言处理 运维
钉钉x昇腾:用AI一体机撬动企业数字资产智能化
大模型在过去两年迅速崛起,正加速应用于各行各业。尤其在办公领域,其主要模态——文字和图片,成为了数字化办公的基础内容,催生了公文写作、表格生成、文本翻译等多种应用场景,显著提升了工作效率。然而,AI引入办公场景也带来了数据安全与成本等问题。为此,钉钉与昇腾联合推出的“钉钉专属AI一体机解决方案”,通过本地化部署解决了数据安全、成本高昂及落地难等痛点,实现了从硬件到软件的深度协同优化,为企业提供了开箱即用的AI服务,推动了办公场景的智能化升级。
23 11
|
4天前
|
机器学习/深度学习 人工智能 算法
AI与未来医疗:智能化健康管理的新纪元
本文探讨了人工智能(AI)在医疗领域的应用及其对未来健康管理的影响。通过分析当前AI技术在疾病诊断、个性化治疗及远程医疗等方面的最新进展,文章揭示了AI如何提升医疗服务质量,实现精准医疗。同时,探讨了AI技术面临的伦理和隐私挑战,并提出应对策略。最终,本文展望了AI在未来医疗中的潜力,强调其在提高公共健康水平方面的重要性。
|
6天前
|
机器学习/深度学习 人工智能 自然语言处理
如何利用AI提高内容生产效率?
如何利用AI提高内容生产效率?
|
15天前
|
人工智能 算法 大数据
懂场景者得AI,瓴羊发布年度产品智能化战略
9月20日,瓴羊智能科技(以下简称瓴羊)在2024云栖大会上举办了“Data × AI:企业服务智能化,价值增长新动能”专场论坛。阿里巴巴集团副总裁、瓴羊智能科技CEO 朋新宇在会上发布年度产品智能化战略:“(算法 + 算力 + 数据) x 场景 ”,强调企业必须重视场景,只有通过解构场景、重构业务,才能真正拥抱AI,带来突破性增长。
|
9天前
|
存储 人工智能 算法
AI伦理学:建立可信的智能系统框架
【9月更文挑战第26天】随着AI技术的迅猛发展,其在各领域的应用日益广泛,但也带来了算法偏见、数据隐私泄露、就业替代等伦理和法律挑战。本文探讨AI伦理学的核心议题,包括数据隐私保护、算法公平性与透明度、机器决策责任归属及对就业市场的影响,并提出建立可信智能系统框架的建议,如强化法律法规、技术创新、建立监督机制、行业自律和公众教育,以确保AI技术的可持续发展和社会接受。
|
12天前
|
人工智能 运维 Serverless
Serverless + AI 让应用开发更简单,加速应用智能化
2024 云栖大会开幕,在大会第一天,阿里云正式发布全新产品——云应用开发平台 CAP。CAP 拥有丰富的场景化应用模板,可以极速体验,并且具备更低的成本优势以及灵活组装等特点,成为广大开发者与企业必备的一站式应用开发平台,让应用开发更简单。
|
17天前
|
机器学习/深度学习 人工智能 搜索推荐
AI与未来医疗:智能化诊疗的时代
随着人工智能技术的迅猛发展,其在医疗领域的应用日益广泛。本文探讨了AI在医疗诊断、治疗和健康管理中的具体应用及其潜在影响。AI技术不仅提高了诊断的准确性和效率,还为个性化治疗提供了可能。同时,通过对大量健康数据的分析,AI还能预测疾病风险,帮助医生制定更有效的预防措施。尽管存在一些伦理和隐私问题,但AI在医疗领域的前景依然广阔。本文将深入分析这些应用的现状、挑战及未来发展趋势。

热门文章

最新文章

下一篇
无影云桌面