智能媒体生产 ICE 使用及原理介绍(二)|学习笔记

本文涉及的产品
智能媒体服务,推流SDK标准版 1年
智能媒体服务,播放器SDK标准版 1年
简介: 快速学习智能媒体生产 ICE 使用及原理介绍(二)

开发者学堂课程【视频云技术入门-1024程序员节创造营公益课智能媒体生产 ICE 使用及原理介绍(二)】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/902/detail/14335


智能媒体生产 ICE 使用及原理介绍(二)


三、时间线

1、时间线—设计

统一架构与协议:同一套世家线协议 端(WebSDK)云(OpenAPI)一致

专业非编(Apple/Aciod/Adobe 等)多轨 素材 效果的设计各异

传统 EDL 单轨 定义素材 不定义效果和舞台

取舍与平衡

1FX 轨道可独立出现->增加移动的灵活性

保留轨道素材,原始素材仅引用-> 增加易用性
按素材类型多轨设计->保证通用性和可扩展性
舞台/画布:自动+自定义

2、时间线—数据结构详细—轨道素材(条目)

TimeLine 包括:

1VideoTrack[]-- VideoTrackClip[]
2AudioTrack]-- AudioTrackClip[]

3ImageTrack[]-- ImageTrackClip[]

4Subt3itleTrack[]- SubtitleTrackClip[]
5EffectTrack[]--EffectTrackltem[]

其中1和2是最简单模式

-ImageTrack. SubtitleTrack. EffectTrack 也可以统设置为 VideoTrack(逻辑:都属于“图像/视觉"领域). 

SubtitleTrack. EffectTrack 通过
VideoTrack--Type 区分,值为 Subtitle

.Effect
ImageTrack 及图片素材通过
VideoTrackClip--Type 区分,值为 Ilmage

(Track--Type 仍为 Video)

3时间线—数据结构详细—轨道素材(条目)属性

TrackClip 包括:

Mediald 素材片段对应的 ICE 内容库资源 ld,或 VOD Mediald 

Mediald 素材片段对应的 OSS 地址。

Type 素材片段类型。取值: Video({视频); Audio(音频); Image(图片); Text(字幕文本)
In 素材片段相对于完整素材的入点。图片素材可忽略该字段

Out 素材片段相对于完整素材的出点。图片素材可忽略该字段
Duration 素材片段的时长。一般为图片素材使用,音视频素材在填写了 In.Out 后可忽略该字段

Timelineln 素材片段相对于时间线的入点。不填则会按照素材片段顺序相接的方式自动计算 TimelineIn

TimelineOut 素材片段相对于时间线的出点。不填则会按照素材片段顺序相接的方式自动计算 TimelineOut

Effects 素材片段的效果列表

注意

1、Mediald Mediald 有且仅有一个不为空

2、 In.Out Timelineln.
TimelineOut 的区別,一个相対源,一个相对目标

4、时间线—数据结构详情—效果(基本效果/滤镜/转场/特效)

Effect 包括:

Text DeWattermark Crop Pad Scale VFX Volume Filter AFade Transition

5、时间线—降低门槛—模板工厂

与时间线合成类似,模板工厂的设计也完全是端(WebSDK) 云(OpenAPI) 一致的
模板能力可以通过 OpenAPI 调用,实现规模化生产制作;也可以在 WebSDK/ 控制台进行交互操作与提交

公共模板库 编排 特效 字幕 图片 Html 主题

自定义模板 设计师生态

门槛包括使用门槛和创意门槛

Template 包括 Templated 和 ClipsParam,完整之后为 Timeline,Timeline 包括Track/Layer Clip Effect(AL) Scene/Canvas

模板工厂—高级模板

专业制作能力+量产
高级模板
●完美结合 Adobe 设计师生态
●内置70个官网模板
●支持使用 Adobe AfterEffect 制作视频

-使用 VE Exporter 插件导出
-模板工厂服务注册模板
-使用模板工厂服务批量生成视频

专业化 高并发 规模化 低门槛 低成本

规模化生产制作—效率提高

明确的时间线编排方式——不明确的时间线编排方式——AL 能力——视频云 AL 服务

可以分为四个部分创意 素材 剪辑与包装 渲染与合成

各自缺点和改进优势

创意 门槛高 烧脑 ——模板工厂 智能剧本

素材 收集难 挑选难 ——素材 AL 分析 素材智能搜索

剪辑与包装 工具复杂 ——协作不便

渲染与合成 渲染耗时久 并行能力差——云端规模化优势 高倍速剪辑合成

 

四、一站式开发接入

1一站式开发接入—核心要点

image.png

剪辑制作与合成包括智能处理 内容管理 全局管理

异步处理过程:提交任务--接收回调/查询任务状态
三种调用方式: 1) 直接调用 OpenAPI; 2) 通过阿里云 ICE 控制台发起调用:3)在自己的系统集成 WebSDK 发起调用

流程1:使用 Timeline 直接进行剪辑合成(最简流程)

客户                                        

Start 核心参数:Timeline

合成目标设置:OutputMediaConfig

回调服务 方式1

查询合成状态及信息 方式2 使用 Jobid 查询

查询合成目标资源信息 方式3 使用 Mediald 查询

ICE

提交剪辑合成作业服务 SubmitMediaProducingJob 同步返回 Jobld、Projectld、
Mediald

合成完成回调(事件通知) ProduceMediaComplete
查询剪辑合成作业服务 GetMediaProducingJob
获取媒资内容信息服务 GetMedialnfo

流程2:使用标准模板进行剪辑合成

使用 OpenAPI 发起标准剪辑合成,核心参数为 Temlateld.ClipsParam.前提:自定义模板已创建 or 使用系统模板。和第一个流程一样,只是参数不同

流程3:使用高级模板进行剪辑合成

使用 OpenAPI 发起标准剪辑合成,核心参数为 Temlateld.ClipsParam. 前提:自定义模板已创建 or 使用系统模板

客户

Start

下载并安装 VE Exporter 插件

基于 AE 创作,使用 VE 插件 导出模板 Zip 文件,上传到 OSS
提交高级模板合成
回调服务方式1
查询合成状态及信息查询合成目标资源信息 方式2使用 Jobid 查询和使用 Mediald 查询

ICE 和流程12同

流程4:直播剪辑

使用 OpenAPI 发起直播剪辑合成,核心数据 Clip,LiveStreamConfig

客户

Start 核心数据 Clip,LiveStreamConfig 合成设置 MediaProduceConfig

目标设置: OutputMediaConfig

查询合成状态及信息 方式2使用 Jobid 查询

查询合成目标资源信息 使用 Mediald 查询

ICE

提交直播剪辑作业服务 SubmitMediaProducingJob 同步返回 Jobld、Projectld、
Mediald

查询直播剪辑作业服务 GetMediaProducingJo
获取媒资内容信息服务 GetMedialnfo

流程5:使用 Web 工具进行剪辑并提交合成

使用阿里云控制台;或者集成 WebSDK 在客户自己的业务页面进行剪辑与提交合成

●标准剪辑-时间线、标准剪辑-模板、直播剪辑都支持在 Web 端进行剪辑制作与效果预览
●当制作完成后,如果使用阿里云控制台,则可以直接在界面上提交合成(导出视频) ,如果使用集成 WebSDK 到自己的业务界面,则可以调用
SubmitMediaProducingJob (标准剪辑)或 SubmitLiveEditingJob (直播剪辑)

流程6:剪辑工具管理与使用工程 id 提交合成

●适用于对剪辑工程进行深入管理,并经由云剪辑工程提交合成作业的场景 

方式1

1. 创建云剪辑工程,创建时直接指定工程的 Timeline 数据,对应的CreateEditingProject 接口

2. 根据工程 ID 合成, 对应的 SubmitMediaProducingJob, SubmitLiveEditingJob 接口.

方式2
1.创建云剪辑工程,创建时根据需要指定工程的 Timeline 数据(也可以在创建的时候不指定),对应 CreateEditingProject 接口。

2. 更新云剪辑工程的 Timeline 数据, 对应 UpdateEditingProject 接口。
3.根据工程 ID 合成,对应 SubmitMediaProducingJob. SubmitLiveEditingJob 接口。

流程7:内容库资源注册

支持对 OSS Object VOD Media 发起注册,注册之后会生成 ICEMediald 以方便统一管理与后续的剪辑制作

客户

Start 核心参数: inoutURL 同时可设置多个媒资元数据字段

查询内容库资源信息 使用 Mediald 查询

ICE

内容库资源注册服务 RegisterMedialnfo 同步返回 Mediald
源文件 mediainfo9tr
获取媒资内容消息服务 GetMedialnfo

流程8:智能任务处理

image.png

在素材分析阶段,剪辑于包装阶段进行智能分析或处理

客户

Start 核心参数 INoutFile

查询智能任务结果信息 使用 Jobid 查询

ICE

提交智能任务服务SubmitASRJob SubmitH2VJob SubmitDelogoJob SubmitMattingJob

SubmitAudioProduceJob 同步返回 Jobld
获取智能任务结果服务 GetSmartHandleJob
1.调用 SubmitMediaProducingJob 后, 如果直接使用 Timeline 进行提交且 Projectld(云剪辑工程 ld )未填写时,会自动创建-个云剪辑工程
2.当剪辑合成完成(可能成功,也可能失败)后,客户可以通过2种途径获取相关状态及信息:
1)接收ProduceMediaComplete 事件通知(http 回调、 mns 两种方式)
2) Job 提交成功后,主动查询 Btw:基于效率考虑,建议使用第1种回调的方式,也可以2种方式结合使用
3.合成的目标资源为一个新资源

 

相关文章
|
4天前
|
存储 人工智能 数据管理
媒体声音|专访阿里云数据库周文超博士:AI就绪的智能数据平台设计思路
在生成式AI的浪潮中,数据的重要性日益凸显。大模型在实际业务场景的落地过程中,必须有海量数据的支撑:经过训练、推理和分析等一系列复杂的数据处理过程,才能最终产生业务价值。事实上,大模型本身就是数据处理后的产物,以数据驱动的决策与创新需要通过更智能的平台解决数据多模处理、实时分析等问题,这正是以阿里云为代表的企业推动 “Data+AI”融合战略的核心动因。
|
2月前
|
API 语音技术 开发者
基于开源技术的数字人实时对话:形象可自定义,支持语音输入,对话首包延迟可低至3s
魔搭社区最近上线了基于开源技术的数字人实时对话demo,无需预训练即可使用自定义的数字人形象进行实时对话,支持语音输入和实时对话。
|
7月前
|
文字识别 算法 API
视觉智能开放平台产品使用合集之调用通用视频生成后输出的视频在播放到一半时出现没有声音,一般是什么导致的
视觉智能开放平台是指提供一系列基于视觉识别技术的API和服务的平台,这些服务通常包括图像识别、人脸识别、物体检测、文字识别、场景理解等。企业或开发者可以通过调用这些API,快速将视觉智能功能集成到自己的应用或服务中,而无需从零开始研发相关算法和技术。以下是一些常见的视觉智能开放平台产品及其应用场景的概览。
|
7月前
|
文字识别 算法 API
视觉智能开放平台产品使用合集之如何解决视频生成接口中声音和画面不同步
视觉智能开放平台是指提供一系列基于视觉识别技术的API和服务的平台,这些服务通常包括图像识别、人脸识别、物体检测、文字识别、场景理解等。企业或开发者可以通过调用这些API,快速将视觉智能功能集成到自己的应用或服务中,而无需从零开始研发相关算法和技术。以下是一些常见的视觉智能开放平台产品及其应用场景的概览。
视觉智能开放平台产品使用合集之如何解决视频生成接口中声音和画面不同步
|
7月前
|
文字识别 算法 API
视觉智能开放平台产品使用合集之图美学评分AssessComposition是同步接口还是异步接口
视觉智能开放平台是指提供一系列基于视觉识别技术的API和服务的平台,这些服务通常包括图像识别、人脸识别、物体检测、文字识别、场景理解等。企业或开发者可以通过调用这些API,快速将视觉智能功能集成到自己的应用或服务中,而无需从零开始研发相关算法和技术。以下是一些常见的视觉智能开放平台产品及其应用场景的概览。
|
消息中间件 编解码 人工智能
|
人工智能 自然语言处理 物联网
如何实现一款接入chatGPT的智能音箱
如何实现一款接入chatGPT的智能音箱
|
移动开发 自然语言处理 小程序
简单对话场景搭建与云小蜜接口集成(二)| 学习笔记
快速学习简单对话场景搭建与云小蜜接口集成。
简单对话场景搭建与云小蜜接口集成(二)| 学习笔记
|
编解码 自然语言处理 文字识别
智能媒体生产 ICE 使用及原理介绍(一)|学习笔记
快速学习智能媒体生产 ICE 使用及原理介绍(一)
272 0
智能媒体生产 ICE 使用及原理介绍(一)|学习笔记
|
存储 自然语言处理 搜索推荐
简单对话场景搭建与云小蜜接口集成(三)| 学习笔记
快速学习简单对话场景搭建与云小蜜接口集成。
简单对话场景搭建与云小蜜接口集成(三)| 学习笔记

热门文章

最新文章