智能媒体生产 ICE 使用及原理介绍(二)|学习笔记

简介: 快速学习智能媒体生产 ICE 使用及原理介绍(二)

开发者学堂课程【视频云技术入门-1024程序员节创造营公益课智能媒体生产 ICE 使用及原理介绍(二)】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/902/detail/14335


智能媒体生产 ICE 使用及原理介绍(二)


三、时间线

1、时间线—设计

统一架构与协议:同一套世家线协议 端(WebSDK)云(OpenAPI)一致

专业非编(Apple/Aciod/Adobe 等)多轨 素材 效果的设计各异

传统 EDL 单轨 定义素材 不定义效果和舞台

取舍与平衡

1FX 轨道可独立出现->增加移动的灵活性

保留轨道素材,原始素材仅引用-> 增加易用性
按素材类型多轨设计->保证通用性和可扩展性
舞台/画布:自动+自定义

2、时间线—数据结构详细—轨道素材(条目)

TimeLine 包括:

1VideoTrack[]-- VideoTrackClip[]
2AudioTrack]-- AudioTrackClip[]

3ImageTrack[]-- ImageTrackClip[]

4Subt3itleTrack[]- SubtitleTrackClip[]
5EffectTrack[]--EffectTrackltem[]

其中1和2是最简单模式

-ImageTrack. SubtitleTrack. EffectTrack 也可以统设置为 VideoTrack(逻辑:都属于“图像/视觉"领域). 

SubtitleTrack. EffectTrack 通过
VideoTrack--Type 区分,值为 Subtitle

.Effect
ImageTrack 及图片素材通过
VideoTrackClip--Type 区分,值为 Ilmage

(Track--Type 仍为 Video)

3时间线—数据结构详细—轨道素材(条目)属性

TrackClip 包括:

Mediald 素材片段对应的 ICE 内容库资源 ld,或 VOD Mediald 

Mediald 素材片段对应的 OSS 地址。

Type 素材片段类型。取值: Video({视频); Audio(音频); Image(图片); Text(字幕文本)
In 素材片段相对于完整素材的入点。图片素材可忽略该字段

Out 素材片段相对于完整素材的出点。图片素材可忽略该字段
Duration 素材片段的时长。一般为图片素材使用,音视频素材在填写了 In.Out 后可忽略该字段

Timelineln 素材片段相对于时间线的入点。不填则会按照素材片段顺序相接的方式自动计算 TimelineIn

TimelineOut 素材片段相对于时间线的出点。不填则会按照素材片段顺序相接的方式自动计算 TimelineOut

Effects 素材片段的效果列表

注意

1、Mediald Mediald 有且仅有一个不为空

2、 In.Out Timelineln.
TimelineOut 的区別,一个相対源,一个相对目标

4、时间线—数据结构详情—效果(基本效果/滤镜/转场/特效)

Effect 包括:

Text DeWattermark Crop Pad Scale VFX Volume Filter AFade Transition

5、时间线—降低门槛—模板工厂

与时间线合成类似,模板工厂的设计也完全是端(WebSDK) 云(OpenAPI) 一致的
模板能力可以通过 OpenAPI 调用,实现规模化生产制作;也可以在 WebSDK/ 控制台进行交互操作与提交

公共模板库 编排 特效 字幕 图片 Html 主题

自定义模板 设计师生态

门槛包括使用门槛和创意门槛

Template 包括 Templated 和 ClipsParam,完整之后为 Timeline,Timeline 包括Track/Layer Clip Effect(AL) Scene/Canvas

模板工厂—高级模板

专业制作能力+量产
高级模板
●完美结合 Adobe 设计师生态
●内置70个官网模板
●支持使用 Adobe AfterEffect 制作视频

-使用 VE Exporter 插件导出
-模板工厂服务注册模板
-使用模板工厂服务批量生成视频

专业化 高并发 规模化 低门槛 低成本

规模化生产制作—效率提高

明确的时间线编排方式——不明确的时间线编排方式——AL 能力——视频云 AL 服务

可以分为四个部分创意 素材 剪辑与包装 渲染与合成

各自缺点和改进优势

创意 门槛高 烧脑 ——模板工厂 智能剧本

素材 收集难 挑选难 ——素材 AL 分析 素材智能搜索

剪辑与包装 工具复杂 ——协作不便

渲染与合成 渲染耗时久 并行能力差——云端规模化优势 高倍速剪辑合成

 

四、一站式开发接入

1一站式开发接入—核心要点

image.png

剪辑制作与合成包括智能处理 内容管理 全局管理

异步处理过程:提交任务--接收回调/查询任务状态
三种调用方式: 1) 直接调用 OpenAPI; 2) 通过阿里云 ICE 控制台发起调用:3)在自己的系统集成 WebSDK 发起调用

流程1:使用 Timeline 直接进行剪辑合成(最简流程)

客户                                        

Start 核心参数:Timeline

合成目标设置:OutputMediaConfig

回调服务 方式1

查询合成状态及信息 方式2 使用 Jobid 查询

查询合成目标资源信息 方式3 使用 Mediald 查询

ICE

提交剪辑合成作业服务 SubmitMediaProducingJob 同步返回 Jobld、Projectld、
Mediald

合成完成回调(事件通知) ProduceMediaComplete
查询剪辑合成作业服务 GetMediaProducingJob
获取媒资内容信息服务 GetMedialnfo

流程2:使用标准模板进行剪辑合成

使用 OpenAPI 发起标准剪辑合成,核心参数为 Temlateld.ClipsParam.前提:自定义模板已创建 or 使用系统模板。和第一个流程一样,只是参数不同

流程3:使用高级模板进行剪辑合成

使用 OpenAPI 发起标准剪辑合成,核心参数为 Temlateld.ClipsParam. 前提:自定义模板已创建 or 使用系统模板

客户

Start

下载并安装 VE Exporter 插件

基于 AE 创作,使用 VE 插件 导出模板 Zip 文件,上传到 OSS
提交高级模板合成
回调服务方式1
查询合成状态及信息查询合成目标资源信息 方式2使用 Jobid 查询和使用 Mediald 查询

ICE 和流程12同

流程4:直播剪辑

使用 OpenAPI 发起直播剪辑合成,核心数据 Clip,LiveStreamConfig

客户

Start 核心数据 Clip,LiveStreamConfig 合成设置 MediaProduceConfig

目标设置: OutputMediaConfig

查询合成状态及信息 方式2使用 Jobid 查询

查询合成目标资源信息 使用 Mediald 查询

ICE

提交直播剪辑作业服务 SubmitMediaProducingJob 同步返回 Jobld、Projectld、
Mediald

查询直播剪辑作业服务 GetMediaProducingJo
获取媒资内容信息服务 GetMedialnfo

流程5:使用 Web 工具进行剪辑并提交合成

使用阿里云控制台;或者集成 WebSDK 在客户自己的业务页面进行剪辑与提交合成

●标准剪辑-时间线、标准剪辑-模板、直播剪辑都支持在 Web 端进行剪辑制作与效果预览
●当制作完成后,如果使用阿里云控制台,则可以直接在界面上提交合成(导出视频) ,如果使用集成 WebSDK 到自己的业务界面,则可以调用
SubmitMediaProducingJob (标准剪辑)或 SubmitLiveEditingJob (直播剪辑)

流程6:剪辑工具管理与使用工程 id 提交合成

●适用于对剪辑工程进行深入管理,并经由云剪辑工程提交合成作业的场景 

方式1

1. 创建云剪辑工程,创建时直接指定工程的 Timeline 数据,对应的CreateEditingProject 接口

2. 根据工程 ID 合成, 对应的 SubmitMediaProducingJob, SubmitLiveEditingJob 接口.

方式2
1.创建云剪辑工程,创建时根据需要指定工程的 Timeline 数据(也可以在创建的时候不指定),对应 CreateEditingProject 接口。

2. 更新云剪辑工程的 Timeline 数据, 对应 UpdateEditingProject 接口。
3.根据工程 ID 合成,对应 SubmitMediaProducingJob. SubmitLiveEditingJob 接口。

流程7:内容库资源注册

支持对 OSS Object VOD Media 发起注册,注册之后会生成 ICEMediald 以方便统一管理与后续的剪辑制作

客户

Start 核心参数: inoutURL 同时可设置多个媒资元数据字段

查询内容库资源信息 使用 Mediald 查询

ICE

内容库资源注册服务 RegisterMedialnfo 同步返回 Mediald
源文件 mediainfo9tr
获取媒资内容消息服务 GetMedialnfo

流程8:智能任务处理

image.png

在素材分析阶段,剪辑于包装阶段进行智能分析或处理

客户

Start 核心参数 INoutFile

查询智能任务结果信息 使用 Jobid 查询

ICE

提交智能任务服务SubmitASRJob SubmitH2VJob SubmitDelogoJob SubmitMattingJob

SubmitAudioProduceJob 同步返回 Jobld
获取智能任务结果服务 GetSmartHandleJob
1.调用 SubmitMediaProducingJob 后, 如果直接使用 Timeline 进行提交且 Projectld(云剪辑工程 ld )未填写时,会自动创建-个云剪辑工程
2.当剪辑合成完成(可能成功,也可能失败)后,客户可以通过2种途径获取相关状态及信息:
1)接收ProduceMediaComplete 事件通知(http 回调、 mns 两种方式)
2) Job 提交成功后,主动查询 Btw:基于效率考虑,建议使用第1种回调的方式,也可以2种方式结合使用
3.合成的目标资源为一个新资源

 

相关文章
|
6月前
|
人工智能 自然语言处理 JavaScript
我定制的通义灵码 Project Rules,用 AI 写出“更懂我”的代码
本文分享了一名全栈开发同学使用通义灵码做代码生成、接口注释、测试代码补全等工作,效率明显提升的体会。
|
6月前
|
人工智能 自然语言处理 JavaScript
我定制的通义灵码 Project Rules,用 AI 写出“更懂我”的代码
本文分享了一名全栈开发者使用通义灵码的经验,重点介绍了其新推出的“Project Rules”功能。通过定制规则,解决了团队代码风格不统一、AI生成代码不符合项目规范等问题。示例配置包括Vue 3 + Composition API的语法规范、命名约定、注释风格等。作者总结,该功能显著提升了编码效率和团队协作一致性,并建议用户根据自身需求定制规则以优化体验。文中还提出了对团队规则共享、行业模版内置等功能的期待。
|
7月前
|
SQL 人工智能 搜索推荐
通义灵码 Rules 来了:个性化代码生成,对抗模型幻觉
通义灵码又上新外挂啦,Project Rules来了。当模型生成代码不精准,试下通义灵码 Rules,对抗模型幻觉,硬控 AI 根据你的代码风格和偏好生成代码和回复。
|
数据采集 Web App开发 JavaScript
爬虫技术升级:如何结合DrissionPage和Auth代理插件实现数据采集
本文介绍了在Python中使用DrissionPage库和Auth代理Chrome插件抓取163新闻网站数据的方法。针对许多爬虫框架不支持代理认证的问题,文章提出了通过代码生成包含认证信息的Chrome插件来配置代理。示例代码展示了如何创建插件并利用DrissionPage进行网页自动化,成功访问需要代理的网站并打印页面标题。该方法有效解决了代理认证难题,提高了爬虫的效率和安全性,适用于各种需要代理认证的网页数据采集。
937 0
爬虫技术升级:如何结合DrissionPage和Auth代理插件实现数据采集
|
小程序 安全 数据安全/隐私保护
微信小程序项目实例——密码管理器
微信小程序项目实例——密码管理器
微信小程序项目实例——密码管理器
|
JavaScript
Vue3标签(Tag)
这是一个Vue组件`Tag.vue`,提供了多样化的标签展示功能。支持设置标签颜色、尺寸、图标、边框等样式,并可实现标签的动态添加与删除。
207 2
Vue3标签(Tag)
|
前端开发 JavaScript API
wangEditor富文本编辑器的调用开发实录(v5版本、获取HTML内容、上传图片、隐藏上传视频)
wangEditor富文本编辑器的调用开发实录(v5版本、获取HTML内容、上传图片、隐藏上传视频)
1631 0
|
JavaScript 前端开发 架构师
Node框架 【Egg-企业级框架】
Node框架 【Egg-企业级框架】
650 0
|
运维 Devops 测试技术
DevOps实践:自动化部署与持续集成
【8月更文挑战第24天】在软件工程的世界里,DevOps已经成为一种提升效率和质量的必由之路。本文将深入探讨如何通过自动化部署和持续集成来实施DevOps策略。我们将从基础概念出发,逐步引导读者理解并实现一个简单而强大的自动化部署流程,同时展示如何利用持续集成来保障代码质量和快速迭代。文章旨在为读者提供清晰的操作指南和思路启发,帮助团队构建更加高效、稳定和可靠的软件开发与运维环境。
|
SQL 关系型数据库 MySQL
qt登录界面简单制作,是真的保姆级别了!!!
qt登录界面简单制作,是真的保姆级别了!!!