智能媒体生产 ICE 使用及原理介绍(二)|学习笔记

本文涉及的产品
智能媒体服务,播放器SDK标准版 1年
智能媒体服务,推流SDK标准版 1年
简介: 快速学习智能媒体生产 ICE 使用及原理介绍(二)

开发者学堂课程【视频云技术入门-1024程序员节创造营公益课智能媒体生产 ICE 使用及原理介绍(二)】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/902/detail/14335


智能媒体生产 ICE 使用及原理介绍(二)


三、时间线

1、时间线—设计

统一架构与协议:同一套世家线协议 端(WebSDK)云(OpenAPI)一致

专业非编(Apple/Aciod/Adobe 等)多轨 素材 效果的设计各异

传统 EDL 单轨 定义素材 不定义效果和舞台

取舍与平衡

1FX 轨道可独立出现->增加移动的灵活性

保留轨道素材,原始素材仅引用-> 增加易用性
按素材类型多轨设计->保证通用性和可扩展性
舞台/画布:自动+自定义

2、时间线—数据结构详细—轨道素材(条目)

TimeLine 包括:

1VideoTrack[]-- VideoTrackClip[]
2AudioTrack]-- AudioTrackClip[]

3ImageTrack[]-- ImageTrackClip[]

4Subt3itleTrack[]- SubtitleTrackClip[]
5EffectTrack[]--EffectTrackltem[]

其中1和2是最简单模式

-ImageTrack. SubtitleTrack. EffectTrack 也可以统设置为 VideoTrack(逻辑:都属于“图像/视觉"领域). 

SubtitleTrack. EffectTrack 通过
VideoTrack--Type 区分,值为 Subtitle

.Effect
ImageTrack 及图片素材通过
VideoTrackClip--Type 区分,值为 Ilmage

(Track--Type 仍为 Video)

3时间线—数据结构详细—轨道素材(条目)属性

TrackClip 包括:

Mediald 素材片段对应的 ICE 内容库资源 ld,或 VOD Mediald 

Mediald 素材片段对应的 OSS 地址。

Type 素材片段类型。取值: Video({视频); Audio(音频); Image(图片); Text(字幕文本)
In 素材片段相对于完整素材的入点。图片素材可忽略该字段

Out 素材片段相对于完整素材的出点。图片素材可忽略该字段
Duration 素材片段的时长。一般为图片素材使用,音视频素材在填写了 In.Out 后可忽略该字段

Timelineln 素材片段相对于时间线的入点。不填则会按照素材片段顺序相接的方式自动计算 TimelineIn

TimelineOut 素材片段相对于时间线的出点。不填则会按照素材片段顺序相接的方式自动计算 TimelineOut

Effects 素材片段的效果列表

注意

1、Mediald Mediald 有且仅有一个不为空

2、 In.Out Timelineln.
TimelineOut 的区別,一个相対源,一个相对目标

4、时间线—数据结构详情—效果(基本效果/滤镜/转场/特效)

Effect 包括:

Text DeWattermark Crop Pad Scale VFX Volume Filter AFade Transition

5、时间线—降低门槛—模板工厂

与时间线合成类似,模板工厂的设计也完全是端(WebSDK) 云(OpenAPI) 一致的
模板能力可以通过 OpenAPI 调用,实现规模化生产制作;也可以在 WebSDK/ 控制台进行交互操作与提交

公共模板库 编排 特效 字幕 图片 Html 主题

自定义模板 设计师生态

门槛包括使用门槛和创意门槛

Template 包括 Templated 和 ClipsParam,完整之后为 Timeline,Timeline 包括Track/Layer Clip Effect(AL) Scene/Canvas

模板工厂—高级模板

专业制作能力+量产
高级模板
●完美结合 Adobe 设计师生态
●内置70个官网模板
●支持使用 Adobe AfterEffect 制作视频

-使用 VE Exporter 插件导出
-模板工厂服务注册模板
-使用模板工厂服务批量生成视频

专业化 高并发 规模化 低门槛 低成本

规模化生产制作—效率提高

明确的时间线编排方式——不明确的时间线编排方式——AL 能力——视频云 AL 服务

可以分为四个部分创意 素材 剪辑与包装 渲染与合成

各自缺点和改进优势

创意 门槛高 烧脑 ——模板工厂 智能剧本

素材 收集难 挑选难 ——素材 AL 分析 素材智能搜索

剪辑与包装 工具复杂 ——协作不便

渲染与合成 渲染耗时久 并行能力差——云端规模化优势 高倍速剪辑合成

 

四、一站式开发接入

1一站式开发接入—核心要点

image.png

剪辑制作与合成包括智能处理 内容管理 全局管理

异步处理过程:提交任务--接收回调/查询任务状态
三种调用方式: 1) 直接调用 OpenAPI; 2) 通过阿里云 ICE 控制台发起调用:3)在自己的系统集成 WebSDK 发起调用

流程1:使用 Timeline 直接进行剪辑合成(最简流程)

客户                                        

Start 核心参数:Timeline

合成目标设置:OutputMediaConfig

回调服务 方式1

查询合成状态及信息 方式2 使用 Jobid 查询

查询合成目标资源信息 方式3 使用 Mediald 查询

ICE

提交剪辑合成作业服务 SubmitMediaProducingJob 同步返回 Jobld、Projectld、
Mediald

合成完成回调(事件通知) ProduceMediaComplete
查询剪辑合成作业服务 GetMediaProducingJob
获取媒资内容信息服务 GetMedialnfo

流程2:使用标准模板进行剪辑合成

使用 OpenAPI 发起标准剪辑合成,核心参数为 Temlateld.ClipsParam.前提:自定义模板已创建 or 使用系统模板。和第一个流程一样,只是参数不同

流程3:使用高级模板进行剪辑合成

使用 OpenAPI 发起标准剪辑合成,核心参数为 Temlateld.ClipsParam. 前提:自定义模板已创建 or 使用系统模板

客户

Start

下载并安装 VE Exporter 插件

基于 AE 创作,使用 VE 插件 导出模板 Zip 文件,上传到 OSS
提交高级模板合成
回调服务方式1
查询合成状态及信息查询合成目标资源信息 方式2使用 Jobid 查询和使用 Mediald 查询

ICE 和流程12同

流程4:直播剪辑

使用 OpenAPI 发起直播剪辑合成,核心数据 Clip,LiveStreamConfig

客户

Start 核心数据 Clip,LiveStreamConfig 合成设置 MediaProduceConfig

目标设置: OutputMediaConfig

查询合成状态及信息 方式2使用 Jobid 查询

查询合成目标资源信息 使用 Mediald 查询

ICE

提交直播剪辑作业服务 SubmitMediaProducingJob 同步返回 Jobld、Projectld、
Mediald

查询直播剪辑作业服务 GetMediaProducingJo
获取媒资内容信息服务 GetMedialnfo

流程5:使用 Web 工具进行剪辑并提交合成

使用阿里云控制台;或者集成 WebSDK 在客户自己的业务页面进行剪辑与提交合成

●标准剪辑-时间线、标准剪辑-模板、直播剪辑都支持在 Web 端进行剪辑制作与效果预览
●当制作完成后,如果使用阿里云控制台,则可以直接在界面上提交合成(导出视频) ,如果使用集成 WebSDK 到自己的业务界面,则可以调用
SubmitMediaProducingJob (标准剪辑)或 SubmitLiveEditingJob (直播剪辑)

流程6:剪辑工具管理与使用工程 id 提交合成

●适用于对剪辑工程进行深入管理,并经由云剪辑工程提交合成作业的场景 

方式1

1. 创建云剪辑工程,创建时直接指定工程的 Timeline 数据,对应的CreateEditingProject 接口

2. 根据工程 ID 合成, 对应的 SubmitMediaProducingJob, SubmitLiveEditingJob 接口.

方式2
1.创建云剪辑工程,创建时根据需要指定工程的 Timeline 数据(也可以在创建的时候不指定),对应 CreateEditingProject 接口。

2. 更新云剪辑工程的 Timeline 数据, 对应 UpdateEditingProject 接口。
3.根据工程 ID 合成,对应 SubmitMediaProducingJob. SubmitLiveEditingJob 接口。

流程7:内容库资源注册

支持对 OSS Object VOD Media 发起注册,注册之后会生成 ICEMediald 以方便统一管理与后续的剪辑制作

客户

Start 核心参数: inoutURL 同时可设置多个媒资元数据字段

查询内容库资源信息 使用 Mediald 查询

ICE

内容库资源注册服务 RegisterMedialnfo 同步返回 Mediald
源文件 mediainfo9tr
获取媒资内容消息服务 GetMedialnfo

流程8:智能任务处理

image.png

在素材分析阶段,剪辑于包装阶段进行智能分析或处理

客户

Start 核心参数 INoutFile

查询智能任务结果信息 使用 Jobid 查询

ICE

提交智能任务服务SubmitASRJob SubmitH2VJob SubmitDelogoJob SubmitMattingJob

SubmitAudioProduceJob 同步返回 Jobld
获取智能任务结果服务 GetSmartHandleJob
1.调用 SubmitMediaProducingJob 后, 如果直接使用 Timeline 进行提交且 Projectld(云剪辑工程 ld )未填写时,会自动创建-个云剪辑工程
2.当剪辑合成完成(可能成功,也可能失败)后,客户可以通过2种途径获取相关状态及信息:
1)接收ProduceMediaComplete 事件通知(http 回调、 mns 两种方式)
2) Job 提交成功后,主动查询 Btw:基于效率考虑,建议使用第1种回调的方式,也可以2种方式结合使用
3.合成的目标资源为一个新资源

 

相关文章
|
5月前
|
机器学习/深度学习 Java 开发工具
【能力展现】魔改ZXING源码实现商业级DM码检测能力
【能力展现】魔改ZXING源码实现商业级DM码检测能力
140 1
|
5月前
|
机器学习/深度学习 人工智能 分布式计算
人工智能平台PAI产品使用合集之本地离线预测可以支持多张卡吗
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
6月前
|
人工智能 搜索推荐 机器人
AI Agent涌向移动终端,手机智能体开启跨端跨应用业务连接新场景
AI Agent涌向移动终端,开启跨端跨应用业务连接新场景,手机智能体将成企业AIGC应用新标配。
142 0
|
视频直播 芯片 异构计算
山东布谷科技直播系统源码热点分析:不同芯片实现高质量编码与渲染视频的GPU加速功能
总而言之,对于直播系统源码来说,GPU加速功能是提升实时图像质量和观看体验的重要手段,是不可或缺的重要功能技术之一。
山东布谷科技直播系统源码热点分析:不同芯片实现高质量编码与渲染视频的GPU加速功能
|
算法 搜索推荐
【直播预告】融合复杂目标且支持实时调控的重排模型在淘宝流式推荐场景的应用
【直播预告】融合复杂目标且支持实时调控的重排模型在淘宝流式推荐场景的应用
301 1
|
消息中间件 编解码 人工智能
|
人工智能 数据可视化 大数据
专访惠众科技|元宇宙应用如何借助3DCAT实时云渲染实现流畅大并发呈现?
惠众科技是一家致力于元宇宙创新应用的技术开发服务的高新科技企业及智慧城市、大数据、虚拟现实仿真技术解决方案的专业服务商。我们有幸采访到了惠众科技的联合创始人钟凯,来听听惠众科技如何在政府、企业和消费者三个环节部署自己的元宇宙内容的?为何选择了使用3DCAT实时云渲染?以及AIGC会如何赋能元宇宙内容创作?
|
编解码 自然语言处理 文字识别
智能媒体生产 ICE 使用及原理介绍(一)|学习笔记
快速学习智能媒体生产 ICE 使用及原理介绍(一)
247 0
智能媒体生产 ICE 使用及原理介绍(一)|学习笔记
|
机器学习/深度学习 人工智能 小程序
智能媒体处理使用与原理(一)|学习笔记
快速学习智能媒体处理使用与原理(一)
172 0
智能媒体处理使用与原理(一)|学习笔记
|
人工智能 文字识别 算法
视频 AI 与智能生产(一)|学习笔记
快速学习视频 AI 与智能生产(一)
176 0
视频 AI 与智能生产(一)|学习笔记