阿里云万相 Wan2.1 VACE 完整图文教程:多图 / 姿态 / 深度参考工作流搭建与实测案例

简介: 阿里云万相Wan2.1 VACE是统一视频编辑大模型,支持局部编辑、重绘、背景扩展、时长延展及多模态控制(文本/图像/视频)。具备多图参考、姿态控制(OpenPose)、深度感知(Depth Anything)三大核心能力,工作流灵活可配置,阿里云百炼官网:https://t.aliyun.com/U/fPVHqY 现于百炼平台免费开放千万Tokens试用

阿里云万相Wan2.1 VACE视频编辑统一模型,支持局部编辑、视频重绘、背景扩展、时长延展、图片参考等多种视频编辑与生成任务,支持文本、图像、视频等多模态条件控制。本文转自阿里云官网关于Wan2.1 VACE模型的多图参考、姿态参考、深度参考能力及工作流创建逻辑,关于万相Wan2.1 VACE模型的详细介绍参考阿里云百炼平台:https://www.aliyun.com/product/bailian 目前可以免费申请千万Tokens。

wanvace.jpg

核心概念

多图参考是指在生成或处理视频时,能够同时参考多张输入图片的内容信息,融合生成在同一条视频里。这种能力在电商、艺术创作等领域有着极高的应用价值。

image.png


工作流框架

整个工作流可以大致分为3个区域:中心的基础框架区域、前段的输入区域和末端的视频放大区域。

  • 中心区域的Wan2.1 VACE工作流本质是在Wan2.1文生视频工作流的基础上增加了VACE的模型加载和编码器。

image.png


  • 在前端输入区域,因为是多张图片的参考,所以每一个图像加载都会有对应着的尺寸调整,去除背景等节点。

image.png

  • 最后将处理好的图片进行联结、编码,并传输进采样器采样、解码,就可以输出成最终的视频啦。


Wan2.1 VACE工作流的基本框架搭建

采样器配置

首先,选择我们的Wan视频采样器(WanVideo Sampler),并调整参数:步数(steps)输入20cfg值输入6shift值输入8采样器(scheduler)选择dpm++

image.png


在阿里云百炼平台API调用Wan模型:https://www.aliyun.com/product/bailian  如下图:

阿里云百炼AI大模型免费领取7000万tokens.jpg

模型加载选择

model圆点下我们拖拽出Wan视频模型加载器(WanVideo Model Loader),选择Wan2.1_T2V_14b的模型。

image.png


随后,我们拖拽出Wan视频Block Swap节点(WanVideo Block Swap),参数保持默认。


image.png


vace_model圆点下拖拽出Wan视频VACE模型选择器(WanVideo VACE Module Select)选择我们的主角Wan2_1_VACE_14b的模型。


image.png


文本编码

我们回到Wan视频采样器(WanVideo Sampler),在text_embeds圆点下拖拽出Wan视频文本编码器(WanVideo TextEncode),随后t5圆点下拖拽出Wan视频T5文本编码加载器(WanVideo T5 TextEncoder Loader),选择umt5_xxl_fp8_scaled的模型。


image.png

加速与优化节点

在采样器里我们再拖拽出几个加速视频生成及提高画面质量的节点,Wan视频Enhance-A-Video(WanVideo Enhance-A-Video)节点、Wan视频TeaCache(WanVideo TeaCache)节点、Wan视频SLG(WanVideo SLG)节点以及Wan视频Experimental Args(WanVideo Experimental Args)节点。


image.png


图像编码与解码

image_embeds圆点下我们拖拽出Wan视频VACE编码器(WanVideo VACE Encode)节点,在VAE圆点下我们拖拽出Wan视频VAE加载器(WanVideo VAE Loader),选择Wan2_1_VAE_bf16模型。


image.png

最后我们在samples圆点下拖拽出Wan视频解码器(WanVideo VACE Decode)节点,将vae圆点进行连接。


image.png

输出处理

Wan视频解码器(WanVideo VACE Decode)节点之后拖拽出视频合并(Video Combine)节点,帧数保持16,输出格式选择video/h264-mp4

这样,Wan2.1 VACE工作流的基本框架我们就搭建完成了,所有的Wan2.1 VACE工作流都会基于这个框架衍生。

image.png

多图参考工作流搭建

多图输入模块构建

接下来,我们来构建一下多图参考的前期输入模块。我们创建一个加载图片(Load Image)节点,在IMAGE圆点下拖拽出调整图片尺寸(Resize Image v2)节点,调整一下参数,宽度(width)我们给480高度(heidht)保持在720upscale_method选择lanczos

image.png

随后在这个节点后拖拽出图像背景移除(Image Remove Bg)节点,我们将这三个节点复制一份,主图的rem_mode模式我们选择Inspyrenet

image.png

随后我们加载一个图像联结(Image Concatenate)节点,将两张图联结,方向(direction)保持右侧(right)

image.png

在图像联结节点下的IMAGE圆点我们拖拽出一个Get Image Size&Count节点方便我们统一处理图片尺寸。

image.png


我们还可以加载一个图像预览(Preview Image)节点待会看看合并效果。

image.png

最后我们将处理后的的图像接入Wan视频VACE编码器(WanVideo VACE Encode)节点下的ref_images圆点作为参考图,将宽(width)高(height)也连接一下。


image.png

在空白区域我们再创建一个图像联结(Image Concatenate)节点,将解码后的图像与前期预处理的图像进行一个联结,传输进我们复制的视频合并(Video Combine)节点,这样我们可以方便的看到预处理与生成画面的整体效果。


image.png


这样我们的Wan2.1 VACE多图参考的工作流就搭建完成了。


多图参考工作流测试案例

我们上传两张图片一起来测试一下效果,我希望主图的红发女人能与副图的水下金鱼场景融合,在这里因为副图是作为背景,不需要扣像,所以我们将副图的背景移除节点关闭,将节点重新连接一下,我们将负向提示词模版复制进来,输入一下正向提示词,点击运行。

image.png

可以看到人物与背景得到了一个巧妙的融合,光影与场景细节也是非常的还原。

image.png


姿态参考与深度参考能力详解


核心原理

那再让我们来看看Wan2.1 VACE的姿态参考与深度参考工作流。

姿态参考和深度参考的原理是通过openpose模型和深度预测算法,提取上传视频的人物骨骼点或画面深度图,并结合提示词语义控制最终输出视频的画面效果。因此,这两个工作流最核心的节点就是OpenPose节点与Depth Anything节点,我们可以一起着手来搭建一下这套工作流。

image.png

姿态参考与深度参考工作流搭建

基础框架复用

我们导入一个Wan2.1 VACE的基础框架工作流。

image.png


视频输入

双击空白处创建一个加载视频【Load Video(Upload)】节点,我们可以直接拖拽视频上传。随后在IMAGE圆点下拖拽出Image Resize节点,调整宽(width)480高(height)720interpolation参数选择nearest

image.png

控制节点

接着,我们拖拽出OpenPose Pose节点,这个节点主要帮助我们提取视频中的人物骨骼信息。

image.png 同样的,我们还可以拖拽出Depth Anything节点,这个节点可以提取视频的画面深度信息。


image.png

通过图像混合(Image Blend)节点我们将两个节点混合一起,这个节点就像一个开关,当我们选择0时,对应选择OpenPose模型,写入1时可以切换Depth模型。


image.png


数据传输

随后在图像混合(Image Blend)节点下的IMAGE圆点拖拽出Get Image Size&Count节点,和多图参考工作流一样,我们将图像及尺寸传输进Wan视频VACE编码器(WanVideo VACE Encode)节点。


image.png

我们双击空白处,创建加载图像【Load Image(Path)】节点,随后拖拽出调整图像(Resize Image v2)节点与Wan视频VACE编码器(WanVideo VACE Encode)节点的ref_images进行连接,作为视频的参考图。


image.png

同时,我们将视频的尺寸与图像尺寸保持一致。


image.png

可视化对比

我们再次双击空白处创建图像联结(Image Concatenate)节点,将上传的图像与解码后的视频联结

image.png

再创建一个图像联结节点将预处理的控制视频也联结过来

image.png

最后与视频合并连接,这样我们可以更直观的看到整个工作流的各个重要环节的输出结果

image.png

那么这样我们的整套工作流就搭建完成了。

姿态参考与深度参考测试案例

姿态参考测试

我们上传一张艺术感人物图像,用OpenPose模型来测试一下,这里我希望图像中的人物能参考视频的动作起舞,输入一下提示词点击运行。

image.png

我们可以看到人物完美复刻了视频中的动作,效果非常不错,实现了精准响应。

image.png

深度参考测试

我们再上传一段场景丰富一点的滑雪视频,以及一张滑沙的图像,我们使用深度控制对视频进行控制,输入提示词,点击运行。

image.png


我们可以看到滑沙的动作参考了滑雪者运动感十足,背景的处理也变得更加丰富了。

image.png


本节课系统解析了Wan2.1 VACE模型的三大核心能力——多图参考、姿态参考与深度参考,展示了其在视频生成领域对细节还原与动态控制的强大潜力。大家可以移步到阿里云百炼平台测试https://www.aliyun.com/product/bailian

相关文章
|
2月前
|
存储 C# C语言
VS2017下载地址和安装使用图文教程(附官网安装包)
微软VS2017是功能强大的集成开发环境,支持C/C++、C#、Python等多语言及iOS/Android跨平台开发。提供社区版(免费)、专业版和企业版三类授权,推荐初学者使用社区版。本文详述了.NET Framework安装、VS2017下载配置、C语言项目创建、编译链接及调试全流程,含图文步骤与实用技巧。(239字)
|
26天前
|
人工智能 JSON 测试技术
不会写代码也能做自动化测试?Skill + AI 帮你搞定重复性工作
本文介绍一种“零代码”自动化测试新范式:无需编程基础,测试人员只需整理接口文档、操作步骤和判断标准,借助AI+Skill(一个含SKILL.md的文件夹),即可自动生成可运行的Python测试脚本或Postman集合。实测将2.5小时手工回归压缩至48秒,真正让测试经验一键转化为生产力。
|
26天前
|
人工智能 IDE API
阿里云百炼Coding Plan详细介绍:是什么、收费价格、支持模型和AI工具
阿里云百炼Coding Plan是面向开发者的AI编码专属订阅套餐,Lite基础版已全面停售,当前仅Pro高级版支持新购与续费。新用户可享首月200元限时特惠,采用固定月费模式,整合通义千问、Kimi、GLM等多款大模型,兼容Cursor、Qwen Code等数十款主流AI编程工具。产品采用5小时滚动、周度、月度多层级额度恢复机制,月度最高9万次请求,单位调用成本远低于普通按量计费。该套餐仅限交互式编码场景使用,严禁后端自动化调用,适合个人日常写代码;若涉及团队协作或生产级API集成,更推荐搭配Token Plan团队版使用。
|
22天前
|
Linux Shell iOS开发
【全网最详细】PowerShell7下载、安装和使用保姆级图文教程(附安装包)
PowerShell 7 是微软推出的开源跨平台命令行工具与脚本环境,支持 Windows/Linux/macOS,采用面向对象的“动词-名词”语法,适用于系统管理、自动化运维及脚本开发,功能远超传统 CMD 和 Bash。
|
29天前
|
缓存 UED 开发者
Codex109天重置23次,明天还要再送一次
Codex近109天完成23次额度重置,7月14日将迎来第24次。Tibo高频响应用户反馈:优化GPT-5.6高消耗问题、补发失效福利、调整重置时间——形成“反馈→回应→修复→补偿”正向闭环,彰显以用户为中心的产品哲学。(239字)
1504 12
|
25天前
|
人工智能 运维 API
最新版阿里云千问大模型(Qwen)功能介绍
2026年,阿里云通义实验室正式迭代推出**通义千问全新旗舰大模型系列**,完成了AI产品形态的跨越式升级。相较于传统只能完成问答、文案生成的基础AI工具,新版通义千问彻底进化为**可自主思考、自主调用工具、自主闭环执行复杂业务**的通用人工智能代理,全面覆盖个人日常生产力创作、专业职场内容生产、全栈程序开发、企业数字化运维、政企专项业务落地五大核心场景。
890 2
|
2月前
|
人工智能 Rust 并行计算
UV vs pip vs Conda:Python环境管理应该怎么选
Python包管理已进化:pip是标准但慢,conda专精数据科学与跨语言依赖,而uv——Rust打造的极速新锐,10~100倍提速,一站式替代pip+venv+pyenv+pip-tools,AI/大模型开发首选。
393 0
UV vs pip vs Conda:Python环境管理应该怎么选
|
2月前
|
机器学习/深度学习 人工智能 监控
8类工地安全防护用品检测5200张数据集分享
本数据集含5200张真实工地实景图像,精细标注8类安全目标(安全帽、反光背心、施工人员等),YOLO格式,开箱即用。适用于智慧工地监管、PPE合规检测及YOLOv5-v11等模型训练,助力工业安防与目标检测研究。