[AI StoryDiffusion] 创造神奇故事,AI漫画大乱斗!

简介: 探索神奇AI项目StoryDiffusion,为您带来一致性连贯的图像和视频创作体验。

今天介绍一个新的AI项目,StoryDiffusion,用于生成一致性连贯的图像和视频。

因为它的一致性,因此可以用于创建漫画,或者长视频。

官方示例可看文末链接,这里不再赘述。

关键特性:

StoryDiffusion 可以通过生成连贯的图像和视频来创造一个神奇的故事。我们的工作主要包括两个部分:

  1. 长距离序列中角色一致的图像生成的连贯自注意力机制。它是即插即用的,与所有基于SD1.5和SDXL的图像扩散模型兼容。在当前的实现中,用户需要为连贯自注意力模块提供至少3个文本提示。我们建议至少提供5-6个文本提示以获得更好的布局安排。
  2. 长距离视频生成的运动预测器,它在压缩的图像语义空间中预测条件图像之间的运动,实现更大范围的运动预测。

安装

安装很简单,依次执行几个命令

conda create --name storydiffusion python=3.10
conda activate storydiffusion
pip install -U pip
pip install -r requirements.txt

python gradio_app_sdxl_specific_id_low_vram.py

使用

我们看下界面

ui-1

ui-2

所以,需要输入“角色描述” 和 “漫画描述”,基本上就可以了。

程序员经常争论代码对齐用 tab 还是 space,我们考虑用这个话题做个漫画。

角色描述

[汤姆] 一个戴眼镜的年轻程序员,穿着带有编程口号的T恤。
[丽莎] 一个女开发者,短发,笔记本电脑上贴满了科技标志的贴纸。

漫画描述

[汤姆] 在办公室,正在键盘上打字 #汤姆正在编写一段代码。
[丽莎] 在同一个办公室,正在她的笔记本电脑上查看汤姆的代码 #丽莎问汤姆他是用的tab还是空格。
[汤姆] 和 [丽莎] 争论,双方都显得很沮丧 #汤姆辩解用tab,丽莎坚持用空格。
[汤姆] 和 [丽莎] 打起来了,纸张和笔记本飞得到处都是 #他们的争论升级成了肢体冲突。

然后点“Generate”,出图!

tab-or-space

样例

我们再来看几个例子。还是 tab or space 主题,换漫画风格试试

tab-or-space-comicbook

tab-or-space-lineart

tab-or-space-photographic

tab-or-space-realvision

再换几个主题试试

人工智能是否会取代人类工作?

ai-replace-human-anime

猫和狗哪个是更好的宠物?

dog-or-cat-anime

哪个操作系统更好:Windows还是macOS?

win-or-mac-anime


相关文章
|
5月前
|
机器学习/深度学习 人工智能 自然语言处理
了解AIGC:让AI创造内容,改变未来
了解AIGC:让AI创造内容,改变未来
136 2
|
机器学习/深度学习 人工智能 编解码
课时1;跨越N次元 一键变身AI漫画人
课时1;跨越N次元 一键变身AI漫画人
|
6月前
|
人工智能
钉钉AI助理创造大赛来袭,百万奖金等你拿!
尽情发挥你的想象力与创造力吧>>
|
4月前
|
机器学习/深度学习 人工智能 搜索推荐
AI在创造还是毁掉音乐?
AI在创造还是毁掉音乐?
62 0
|
5月前
|
人工智能 算法
AIGC创作活动 | 智"绘"AI,使用PAI创造风格百变绘画助手
使用阿里云人工智能平台PAIx Free Prompt Editing图像编辑算法,开发个人AIGC绘图小助理,实现文本驱动的图像编辑功能单卡即可完成AIGC图片风格变化、背景变化和主体变化等功能。让我们一同开启这场旅程,为您的图像编辑添上无限可能性的翅膀吧。
|
存储 人工智能 定位技术
战略地图|用户为先、AI驱动,以创业心态创造更大价值
9月10日,阿里巴巴集团董事会主席蔡崇信发布全员信宣布,已在当日按计划完成集团管理职务交接,由他接任集团董事会主席职务,吴泳铭出任集团CEO。这意味着,阿里巴巴完成了公司管理职务的第二次制度化交接棒,今年3月启动的自我变革快速顺利推进。 随着阿里巴巴1+6+N全新业务集群基本成型,阿里巴巴“24年来最重要变革”正给公司带来全新变化。与此同时,阿里巴巴集团CEO吴泳铭还兼任阿里云董事长与CEO,这样的任命也足以看出云计算之于阿里巴巴集团的重要性,阿里云下一步将如何发展?本文根据吴泳铭全员信和内部讲话梳理,进一步呈现变化将如何展开。
214 1
|
5月前
|
人工智能 自然语言处理 搜索推荐
AI时代:人工智能大模型引领科技创造新时代
AI时代:人工智能大模型引领科技创造新时代
116 0
|
6月前
|
人工智能 Serverless 文件存储
夏日主题 AI创造挑战活动来了!
参与阿里云夏日主题活动,使用FC和NAS快速部署Stable Diffusion,创作夏日主题图像,赢取定制水杯、充电宝、蓝牙音响等丰厚奖品!
572 9
|
6月前
|
存储 人工智能 NoSQL
AI艺术新境界:用Stable Diffusion插件重塑图像创造与管理
在人工智能艺术的领域,创新的火花从未停止闪耀。Stable Diffusion作为当前最为前沿的文本到图像技术之一,已经打开了艺术创作的新门户。但是,随着生成的图像数量日益增长,如何有效地管理和再创作这些作品成为了新的挑战。今天,我要为大家介绍一个我们开发的 Stable Diffusion 插件:aliyun-tablestore-tool-sd-manager-extension,它不仅提高了图像创作的效率,更带来了全新的图像管理体验。
1381 4
|
6月前
|
人工智能
AI创造营第3期|CRM客户管理专场
让我们一起开启这场科技盛宴,探索AI助理的无限可能!快来报名加入我们吧!
AI创造营第3期|CRM客户管理专场