智能媒体生产 ICE 使用及原理介绍(二)|学习笔记

简介: 快速学习智能媒体生产 ICE 使用及原理介绍(二)

开发者学堂课程【视频云技术入门-1024程序员节创造营公益课:智能媒体生产 ICE 使用及原理介绍(二)】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/902/detail/14335


智能媒体生产 ICE 使用及原理介绍(二)


三、时间线

1、时间线—设计

统一架构与协议:同一套世家线协议 端(WebSDK)云(OpenAPI)一致

专业非编(Apple/Aciod/Adobe 等)多轨 素材 效果的设计各异

传统 EDL 单轨 定义素材 不定义效果和舞台

取舍与平衡

1FX 轨道可独立出现->增加移动的灵活性

保留轨道素材,原始素材仅引用-> 增加易用性
按素材类型多轨设计->保证通用性和可扩展性
舞台/画布:自动+自定义

2、时间线—数据结构详细—轨道素材(条目)

TimeLine 包括:

1VideoTrack[]-- VideoTrackClip[]
2AudioTrack]-- AudioTrackClip[]

3ImageTrack[]-- ImageTrackClip[]

4Subt3itleTrack[]- SubtitleTrackClip[]
5EffectTrack[]--EffectTrackltem[]

其中1和2是最简单模式

-ImageTrack. SubtitleTrack. EffectTrack 也可以统一设置为 VideoTrack(逻辑:都属于“图像/视觉"领域). 

—SubtitleTrack. EffectTrack 通过
VideoTrack--Type 区分,值为 Subtitle

.Effect
ImageTrack 及图片素材通过
VideoTrackClip--Type 区分,值为 Ilmage

(Track--Type 仍为 Video)

3时间线—数据结构详细—轨道素材(条目)属性

TrackClip 包括:

Mediald 素材片段对应的 ICE 内容库资源 ld,或 VOD Mediald 

Mediald 素材片段对应的 OSS 地址。

Type 素材片段类型。取值: Video({视频); Audio(音频); Image(图片); Text(字幕文本)
In 素材片段相对于完整素材的入点。图片素材可忽略该字段

Out 素材片段相对于完整素材的出点。图片素材可忽略该字段
Duration 素材片段的时长。一般为图片素材使用,音视频素材在填写了 In.Out 后可忽略该字段

Timelineln 素材片段相对于时间线的入点。不填则会按照素材片段顺序相接的方式自动计算 TimelineIn

TimelineOut 素材片段相对于时间线的出点。不填则会按照素材片段顺序相接的方式自动计算 TimelineOut

Effects 素材片段的效果列表

注意

1、Mediald 和 Mediald 有且仅有一个不为空

2、 In.Out 和 Timelineln.
TimelineOut 的区別,一个相対源,一个相对目标

4、时间线—数据结构详情—效果(基本效果/滤镜/转场/特效)

Effect 包括:

Text DeWattermark Crop Pad Scale VFX Volume Filter AFade Transition

5、时间线—降低门槛—模板工厂

与时间线合成类似,模板工厂的设计也完全是端(WebSDK) 云(OpenAPI) 一致的
模板能力可以通过 OpenAPI 调用,实现规模化生产制作;也可以在 WebSDK/ 控制台进行交互操作与提交

公共模板库 编排 特效 字幕 图片 Html 主题

自定义模板 设计师生态

门槛包括使用门槛和创意门槛

Template 包括 Templated 和 ClipsParam,完整之后为 Timeline,Timeline 包括Track/Layer Clip Effect(AL) Scene/Canvas

模板工厂—高级模板

专业制作能力+量产
高级模板
●完美结合 Adobe 设计师生态
●内置70个官网模板
●支持使用 Adobe AfterEffect 制作视频

-使用 VE Exporter 插件导出
-模板工厂服务注册模板
-使用模板工厂服务批量生成视频

专业化 高并发 规模化 低门槛 低成本

规模化生产制作—效率提高

明确的时间线编排方式——不明确的时间线编排方式——AL 能力——视频云 AL 服务

可以分为四个部分创意 素材 剪辑与包装 渲染与合成

各自缺点和改进优势

创意 门槛高 烧脑 ——模板工厂 智能剧本

素材 收集难 挑选难 ——素材 AL 分析 素材智能搜索

剪辑与包装 工具复杂 ——协作不便

渲染与合成 渲染耗时久 并行能力差——云端规模化优势 高倍速剪辑合成

 

四、一站式开发接入

1一站式开发接入—核心要点

image.png

剪辑制作与合成包括智能处理 内容管理 全局管理

异步处理过程:提交任务--接收回调/查询任务状态
三种调用方式: 1) 直接调用 OpenAPI; 2) 通过阿里云 ICE 控制台发起调用:3)在自己的系统集成 WebSDK 发起调用

流程1:使用 Timeline 直接进行剪辑合成(最简流程)

客户                                        

Start 核心参数:Timeline

合成目标设置:OutputMediaConfig

回调服务 方式1

查询合成状态及信息 方式2 使用 Jobid 查询

查询合成目标资源信息 方式3 使用 Mediald 查询

ICE

提交剪辑合成作业服务 SubmitMediaProducingJob 同步返回 Jobld、Projectld、
Mediald

合成完成回调(事件通知) ProduceMediaComplete
查询剪辑合成作业服务 GetMediaProducingJob
获取媒资内容信息服务 GetMedialnfo

流程2:使用标准模板进行剪辑合成

使用 OpenAPI 发起标准剪辑合成,核心参数为 Temlateld.ClipsParam.前提:自定义模板已创建 or 使用系统模板。和第一个流程一样,只是参数不同

流程3:使用高级模板进行剪辑合成

使用 OpenAPI 发起标准剪辑合成,核心参数为 Temlateld.ClipsParam. 前提:自定义模板已创建 or 使用系统模板

客户

Start

下载并安装 VE Exporter 插件

基于 AE 创作,使用 VE 插件 导出模板 Zip 文件,上传到 OSS
提交高级模板合成
回调服务方式1
查询合成状态及信息查询合成目标资源信息 方式2使用 Jobid 查询和使用 Mediald 查询

ICE 和流程12同

流程4:直播剪辑

使用 OpenAPI 发起直播剪辑合成,核心数据 Clip,LiveStreamConfig

客户

Start 核心数据 Clip,LiveStreamConfig 合成设置 MediaProduceConfig

目标设置: OutputMediaConfig

查询合成状态及信息 方式2使用 Jobid 查询

查询合成目标资源信息 使用 Mediald 查询

ICE

提交直播剪辑作业服务 SubmitMediaProducingJob 同步返回 Jobld、Projectld、
Mediald

查询直播剪辑作业服务 GetMediaProducingJo
获取媒资内容信息服务 GetMedialnfo

流程5:使用 Web 工具进行剪辑并提交合成

使用阿里云控制台;或者集成 WebSDK 在客户自己的业务页面进行剪辑与提交合成

●标准剪辑-时间线、标准剪辑-模板、直播剪辑都支持在 Web 端进行剪辑制作与效果预览
●当制作完成后,如果使用阿里云控制台,则可以直接在界面上提交合成(导出视频) ,如果使用集成 WebSDK 到自己的业务界面,则可以调用
SubmitMediaProducingJob (标准剪辑)或 SubmitLiveEditingJob (直播剪辑)

流程6:剪辑工具管理与使用工程 id 提交合成

●适用于对剪辑工程进行深入管理,并经由云剪辑工程提交合成作业的场景 

方式1

1. 创建云剪辑工程,创建时直接指定工程的 Timeline 数据,对应的CreateEditingProject 接口

2. 根据工程 ID 合成, 对应的 SubmitMediaProducingJob, SubmitLiveEditingJob 接口.

方式2
1.创建云剪辑工程,创建时根据需要指定工程的 Timeline 数据(也可以在创建的时候不指定),对应 CreateEditingProject 接口。

2. 更新云剪辑工程的 Timeline 数据, 对应 UpdateEditingProject 接口。
3.根据工程 ID 合成,对应 SubmitMediaProducingJob. SubmitLiveEditingJob 接口。

流程7:内容库资源注册

支持对 OSS Object VOD Media 发起注册,注册之后会生成 ICEMediald 以方便统一管理与后续的剪辑制作

客户

Start 核心参数: inoutURL 同时可设置多个媒资元数据字段

查询内容库资源信息 使用 Mediald 查询

ICE

内容库资源注册服务 RegisterMedialnfo 同步返回 Mediald
源文件 mediainfo9tr
获取媒资内容消息服务 GetMedialnfo

流程8:智能任务处理

image.png

在素材分析阶段,剪辑于包装阶段进行智能分析或处理

客户

Start 核心参数 INoutFile

查询智能任务结果信息 使用 Jobid 查询

ICE

提交智能任务服务SubmitASRJob SubmitH2VJob SubmitDelogoJob SubmitMattingJob

SubmitAudioProduceJob 同步返回 Jobld
获取智能任务结果服务 GetSmartHandleJob
1.调用 SubmitMediaProducingJob 后, 如果直接使用 Timeline 进行提交且 Projectld(云剪辑工程 ld )未填写时,会自动创建-个云剪辑工程
2.当剪辑合成完成(可能成功,也可能失败)后,客户可以通过2种途径获取相关状态及信息:
1)接收ProduceMediaComplete 事件通知(http 回调、 mns 两种方式)
2) Job 提交成功后,主动查询 Btw:基于效率考虑,建议使用第1种回调的方式,也可以2种方式结合使用
3.合成的目标资源为一个新资源

 

相关文章
|
数据安全/隐私保护 开发者 异构计算
阿里巴巴开源可控视频生成框架VideoComposer!(内含体验、推理实践干货)
8月16日,时间、空间可控的视频生成模型 VideoComposer 在魔搭社区开源。
阿里巴巴开源可控视频生成框架VideoComposer!(内含体验、推理实践干货)
|
运维 Java 应用服务中间件
Unexpected EOF read on the socket问题研究及解决
Unexpected EOF read on the socket问题研究及解决
1392 0
|
7月前
|
编解码 API 开发工具
证件照制作-证件照生成-证件照优化API接口介绍
使用证件照制作API的核心原因在于解决传统证件照拍摄和制作过程中的效率低、成本高、标准难统一、用户体验差等痛点。支持:替换背景、自动裁剪尺寸、设置分辨率、设置人脸在证件照中的占比、设置脸部中心在证件照中的位置、设置头顶距离。
601 1
|
10月前
|
开发框架 人工智能 测试技术
字节推出VeAgentBench + veADK,打造可评估、可复现的智能体开发新范式
字节跳动推出VeAgentBench与veADK,打造智能体“开发-评估”闭环。VeAgentBench是覆盖教育、金融、法律等四大场景的开源评估基准,veADK为高效易用的开发框架,支持工具调用、RAG与记忆管理,助力AI智能体可度量、可复现、可落地。
1600 11
|
6月前
|
API Docker 容器
开源剪映小助手(capcut-mate)v3.0.26发布
CapCut Mate API 是开源免费的剪映草稿自动化工具,基于 FastAPI 构建,支持独立部署。赋能大模型实现智能视频剪辑,覆盖剪映核心功能全流程,可对接 Coze/n8n 或云渲染生成成品视频。Docker 三行命令极速部署,文档更清晰简洁。(239字)
1788 5
|
7月前
|
人工智能 安全 API
阿里云百炼API Key获取方法:先在百炼控制台创建API Key,然后复制开通即可
本文为2026最新阿里云百炼API Key获取保姆级教程:详解主/子账号权限、创建步骤(控制台→创建→配置归属→复制)、使用方式(第三方工具/代码调用)、Base URL地域地址、权限与时效说明,并附常见问题解答,助您安全高效接入大模型服务。
1557 2
|
11月前
|
存储 人工智能 监控
|
人工智能 JavaScript API
开发者必备:阿里云百炼 API 调用图文教程
百炼是阿里云推出的大模型服务平台,集成了很多优质的 AI 模型,包括通义千问、DeepSeek 等。
开发者必备:阿里云百炼 API 调用图文教程
|
人工智能 JSON API

热门文章

最新文章