Sora到底牛在哪 | AI爆发的大趋势下,普通人真正该学的是什么

简介: Sora炸裂了的地方,在于它能理解自然语言,知道那个画面该是怎么样的,它学习很多视频内容(大力出奇迹,需要很多算力),而且一上来就是能制作60s的视频,刚好是短视频的需求,之前的AI视频生成的时间都很短(几秒钟).

Sora炸裂了的地方,在于它能理解自然语言,知道那个画面该是怎么样的,它学习很多视频内容(大力出奇迹,需要很多算力),而且一上来就是能制作60s的视频,刚好是短视频的需求,之前的AI视频生成的时间都很短(几秒钟).

就说Sora有多火吧,生成的视频上线一个,疯传一个。

明显能看出来Sora生成的视频中的各项细节都让人惊叹,一如去年的ChatGPT,Sora被认为是AGI(通用人工智能)的又一个里程碑时刻。



一. sora的出现可以如何看待:

对于许多行业来说,都应该关注Open AI和sora这些人工智能相关的产品。

尤其是对设计领域来说,比如以前做logo、做海报、宣传册、做操作视频剪辑、拍摄等等相关的行业。

其一是思考,面对这些新技术、新工具,对自己有哪些挑战,应对策略是什么。

其二是结合,基于自己当前的业务,哪些可以利用这些技术进行结合,从而提升自己的效率和业务场景。

比如美图秀秀、稿定设计、剪映等产品,就基于AI立马推出了相关的产品。

(PS:目前 openai 官方还未开放 sora 灰度,不过根据文生图模型 DALL·E 案例,一定是先给 ChatGPT Plus 付费用户使用,需要注册或者升级 GPT Plus 可以看这个教程: 升级 ChatGPT Plus 的教程 ,一分钟完成升级)



二. 以终为始地看,AI爆发的大趋势下,普通人真正该学的是什么?

我觉得有三点:讲故事的能力、结构化思考力和内容专业力。


1. 讲故事的能力

以文生视频为例,先不说Sora,很多人连Pika、Runway都用不利索。

用文字描述一件事、一个观点、一个诉求并不难,但描述一段画面、一个场景、一则完整故事,对绝大多数人是极高的门槛。

Sora不会让影视行业失业,正相反,如果视频生成的AI技术持续普及,会让真正会写故事的人发挥才能,而不是受限于影视行业的潜规则而灰心放弃。


2. 结构化思考力

很多写Sora的文章,都在讲它在模型算法、算力涌现、物理模拟上的创新。对我而言,会更惊讶它在训练视频数据时,以一种结构化提示词方法,解决了视频标注问题:

“We first train a highly descriptive captioner model and then use it to produce text captions for all videos in our training set”

本质上看,无论是B端训练数据,还是C端和大模型对话,都用到了结构化表达能力。包括那些所谓“Sora培训”,其实教你的也是怎么写好提示词。举个例子,对这样的场景:



该怎么描述呢?一个在沉思的老爷爷?一个戴眼镜的老爷爷?一个在咖啡厅发呆的老爷爷?可能大部分人想到这儿就结束了。但更加结构化的描述可以是:


主体人物::一位 60 多岁留着胡须的白发老人

镜头景别:脸部特写

背景环境:巴黎的一家咖啡馆

人物状态:注视着窗外行走的人们,一动不动陷入沉思,后又抿嘴微微一笑

人物细节:穿着一件羊毛大衣和一件纽扣衬衫、头戴棕色贝雷帽,戴着眼镜,像是个教授

环境细节:金色的灯光和背景中的巴黎街道和城市

镜头技术:景深、35 毫米电影胶片,有电影感


具备写出上述提示词的能力,才能真正发挥多模态技术的价值。这背后蕴含着的,就是结构化总结和思考能力。

有句话很形象,写提示词就像客户讲brief,能把需求说清楚,就离正确答案不远了。



3. 内容专业力

这点又说回到创作者本身,我比较喜欢杨远骋老师(「躺岛」和「新世相」联合创始人)的一个观点:

最大的影响会是出现新的创作者,会出现完全不在人们视野里的新的内容偶像,他们有非常好的品位、思维方式和世界观,但受限于表达技术,在过去却连基本的视频制作能力都不具备。

Koji,公众号:十字路口CrossingSora 喧嚣过后,理性浮现 | 我问出了这 5 位顶级创作者的真实想法


是的,除了上文提到的讲故事能力。如果你具备对“好内容”的理解力,懂得怎样更合理地设计脚本、做分镜、上特效、画故事板、运镜、调度、选角、布景、调光、配音、后期等等,AI就是你发挥想象力最好的帮手。能用好 AI 的人,一定能做出更好作品、获得更多收入。

因此我坚定地认为,这波AI趋势,对高潜力的作家、画手、设计师、编剧等创作者,是绝对的利好。如果你也想从中获益,先把“创作一部好内容”作为目标学起来吧。


总的来讲,我认为围着Sora去追新闻没啥必要。能跳出对Sora本身铺天盖地的宣传,去思考这背后该真正掌握的技能是什么。用结构化思维去训练讲故事的能力,成为一名优秀创作者,才是值得为此付出时间的。


三、sora原理常见问题及解答:

Q:训练数据的一个 clip 中如果有场景/镜头的切换,那 casual 3D CNN 还是会和过往的帧都有关系吗?

A:训练数据中大概率是有:一个 clip 有镜头/场景的切换。如果有切换,那么使用 casual 3D CNN 可能会带来问题:在切换前后的内容是不同的,不仅会增加模型训练难度,也会带来瑕疵。这个可能就直接训练了,通过相应数据的训练就能解决。


Q:训练数据的来源?

A:大家猜测有 1)youtube 的视频。2)Shutterstock,之前有公告:Shutterstock 扩大与 OpenAI 的合作伙伴关系,签署新的六年协议以提供高质量的训练数据:渲染引擎的数据,这个网络上大家贴出了一些间接证据。渲染引擎的数据能够针对性地模拟出很多符合 3D 一致性、物理一致性的数据,对于模型的训练应该有很好的帮助。


Q:输出变长的长度、分辨率和长宽比是如何做到的?

A:1. diffusion 过程中,输入的 noise tokens 就添加 factorized positional embedding。比如最直接的实现方式,每个 token 对应有三个数字(t, h, w)分别表示时间、长和宽,然后添加相应的 position embedding 去区分。

训练的时候也采用了变长的长度、分辨率和长宽比。这些 examples 模型在训练的时候见过。

这样,可以做到技术报告中提到的:At inference time, we can control the size of generated videos by arranging randomly-initialized patches in an appropriately-sized grid。

相关文章
|
5月前
|
机器学习/深度学习 人工智能 编解码
哲学家解析Sora本质,AI视频离世界模拟器还有多远?
【2月更文挑战第24天】哲学家解析Sora本质,AI视频离世界模拟器还有多远?
110 2
哲学家解析Sora本质,AI视频离世界模拟器还有多远?
|
16天前
|
人工智能 自然语言处理 搜索推荐
Sora - 探索AI视频模型的无限可能
这篇文章详细介绍了Sora AI视频模型的技术特点、应用场景、未来展望以及伦理和用户体验等方面的问题。
19 0
|
4月前
|
机器学习/深度学习 人工智能 算法
OpenAI发布全新AI视频模型Sora:引领视频创作新纪元
OpenAI发布全新AI视频模型Sora:引领视频创作新纪元
|
4月前
|
机器学习/深度学习 人工智能 监控
Sora - 探索AI视频模型的无限可能
Sora - 探索AI视频模型的无限可能
71 0
|
5月前
|
机器学习/深度学习 人工智能
超越Sora极限,120秒超长AI视频模型诞生!
【5月更文挑战第1天】 StreamingT2V技术突破AI视频生成界限,实现120秒超长连贯视频,超越Sora等传统模型。采用自回归方法,结合短期记忆的条件注意模块和长期记忆的外观保持模块,保证内容连贯性和动态性。在实际应用中,展示出优秀的动态性、连贯性和图像质量,但仍有优化空间,如处理复杂场景变化和连续性问题。[链接](https://arxiv.org/abs/2403.14773)
80 3
|
5月前
|
人工智能 数据安全/隐私保护
Sora超逼真视频引恐慌!Nature刊文警示AI视频模型,或在2024年颠覆科学和社会
【4月更文挑战第27天】OpenAI公司的新型AI工具Sora能根据文字提示生成超逼真视频,引发关注。尽管已有类似产品,如Runway的Gen-2和谷歌的Lumiere,Sora以其高质量生成效果领先。该技术的进步可能导致2024年全球政治格局的颠覆,同时带来虚假信息的挑战。OpenAI已组建“红队”评估风险,但虚假视频识别仍是难题。尽管有水印解决方案,其有效性尚不确定。Sora在教育、医疗和科研等领域有潜力,但也对创意产业构成威胁。
79 2
|
5月前
|
机器学习/深度学习 人工智能 编解码
Sora - 探索AI视频模型的无限可能
Sora - 探索AI视频模型的无限可能
89 0
|
5月前
|
机器学习/深度学习 人工智能 编解码
Sora - 探索AI视频模型的无限可能
Sora - 探索AI视频模型的无限可能
|
5月前
|
机器学习/深度学习 人工智能 自然语言处理
探索无限:Sora与AI视频模型的技术革命 - 开创未来视觉艺术的新篇章
探索无限:Sora与AI视频模型的技术革命 - 开创未来视觉艺术的新篇章
99 1
|
6天前
|
人工智能 Serverless
AI助理精准匹配------助力快速搭建Stable Difussion图像生成应用
【10月更文挑战第7天】过去在阿里云社区搭建Stable Diffusion图像生成应用需查阅在线实验室或官方文档,耗时且不便。现阿里云AI助理提供精准匹配服务,直接在首页询问AI助理即可获取详细部署步骤,简化了操作流程,提高了效率。用户可按AI助理提供的步骤快速完成应用创建、参数设置、应用部署及资源释放等操作,轻松体验Stable Diffusion图像生成功能。