8G 显卡本地 AI 漫剧流水线|ComfyUI+Wan2.2-ReMixV3.0 从剧本到成片离线部署教程

简介: 本方案为离线AI漫剧生成全流程:支持RTX3060/4050等8G显卡,含ComfyUI、Wan2.2-ReMixV3.0图生视频、IP-Adapter角色锁定、Qwen剧本解析、Fish-TTS配音及FFmpeg成片合成,全部本地运行,无需云端API。

前置说明:本文仅用于开源 AI 技术学习、本地工作流调试研究,所有生成内容请遵守平台规范、版权法规,禁止直接用于违规内容量产。整套方案全部离线运行,不依赖云端 API,适合个人技术调试学习。

一、硬件与环境前置说明

这套流水线最低适配 RTX4050/3060 8G 显存笔记本,16G 内存、50G 以上 SSD 空闲空间;12G 显存显卡可以稳定批量渲染,24G 显卡支持长镜头、高分辨率输出。 核心组件清单:

  1. ComfyUI(秋叶整合包,自带依赖,新手优先)
  2. Wan2.2-ReMixV3.0 I2V 图生视频 FP8 量化模型(漫剧优化版,时序闪烁问题优于原版)
  3. IP-Adapter 角色特征模型,用来锁定人物五官、防止跨镜头变脸
  4. 本地 Qwen 大模型(GGUF 量化版),剧本拆分、分镜结构化
  5. Fish-TTS 本地语音模型,台词配音
  6. FFmpeg,音视频拼接、字幕压制、编码统一

8G 显存启动 ComfyUI 专用 bat 参数,直接复制到 run_nvidia_gpu.bat:

@echo off
set PYTHONARGS=--lowvram --cuda-malloc --force-fp16 --disable-xformers
python main.py %PYTHONARGS%

参数解释:--lowvram开启显存分片,模型自动溢出到内存,是 8G 显卡最核心的优化开关;FP8 量化模型相比 FP16 显存占用直接减半,画质损失很小。

话不多说,先上资源,边看边做,事半功倍:https://pan.quark.cn/s/6422b249063a

二、整体流水线逻辑

本地 LLM 解析剧本 → 脚本自动拆分分镜、提取角色 / 台词 / 场景描述 → IP-Adapter 缓存角色特征向量 → ComfyUI 批量生成分镜静图 → Wan2.2-ReMixV3.0 图生视频生成微动态漫剧片段 → 本地 TTS 批量生成配音 → FFmpeg 自动拼接、压字幕、统一竖屏编码输出成片。

三、剧本转结构化分镜 Python 脚本(核心预处理)

新建drama_storyboard.py,作用:把原始剧本文本清洗、切分镜头,输出 ComfyUI 可以批量读取的 JSON,自动过滤心理描写这类难可视化文本,提取台词供给 TTS。

import re
import json
from typing import List, Dict
class DramaStoryboardConvert:
    def __init__(self, char_map: dict):
        self.char_map = char_map
        self.pat_dialogue = re.compile(r"([^::]{1,12})[::][\"“](.*?)[\"”]")
        self.pat_scene_split = re.compile(r"\n{2,}")
        self.filter_pattern = re.compile(r"心里想着|暗自思忖|内心知道|脑海中闪过")
    def clean_text(self, text: str) -> str:
        text = self.filter_pattern.sub("", text)
        text = re.sub(r"\s+", " ", text)
        return text.strip()
    def parse_to_storyboard(self, raw_text: str, ep_name: str, genre: str = "女频") -> Dict:
        scenes_raw = self.pat_scene_split.split(raw_text)
        shot_list = []
        shot_idx = 0
        for scene in scenes_raw:
            scene = self.clean_text(scene)
            if len(scene) < 6:
                continue
            dialog_match = self.pat_dialogue.search(scene)
            dialogue = ""
            speaker = ""
            if dialog_match:
                speaker = dialog_match.group(1)
                dialogue = dialog_match.group(2)
            action_desc = self.pat_dialogue.sub("", scene).strip()
            shot_item = {
                "shot_id": shot_idx,
                "speaker": speaker,
                "dialogue": dialogue,
                "action_desc": action_desc,
                "prompt_suffix": "漫画分镜,柔和光影,线条干净,人物保持一致,无扭曲,微动作",
                "negative_prompt": "五官变形,人脸漂移,多手指,模糊,闪烁,崩坏"
            }
            shot_list.append(shot_item)
            shot_idx += 1
        return {
            "episode": ep_name,
            "genre": genre,
            "shot_total": shot_idx,
            "shot_list": shot_list
        }
if __name__ == "__main__":
    # 角色字典,自行维护角色名称和参考图
    char_dict = {"苏晚": "ref_suwan.jpg", "陆沉": "ref_luchen.jpg"}
    converter = DramaStoryboardConvert(char_dict)
    with open("raw_script.txt", "r", encoding="utf-8") as f:
        raw = f.read()
    res = converter.parse_to_storyboard(raw, ep_name="ep01", genre="女频")
    with open("./comfy_storyboard.json", "w", encoding="utf-8") as fw:
        json.dump(res, fw, ensure_ascii=False, indent=2)
    print("分镜JSON生成完成,可直接送入ComfyUI批量节点")

四、角色特征缓存脚本(解决漫剧最大痛点:人物变脸漂移)

新建save_character_embedding.py,提前提取角色参考图特征向量,保存 pt 文件,后续所有镜头复用同一个 embedding,锁定五官和形象,避免每一张图人物长相变化。

import torch
from PIL import Image
from transformers import CLIPVisionModelWithProjection
torch.cuda.empty_cache()
image_encoder = CLIPVisionModelWithProjection.from_pretrained(
    "./models/ip-adapter-plus",
    torch_dtype=torch.bfloat16
).to("cuda")
# 修改这里为你的角色参考图路径
ref_img = Image.open("./ref_suwan.jpg").convert("RGB")
ref_img = ref_img.resize((512,512))
with torch.no_grad():
    img_emb = image_encoder.encode_image(ref_img)
torch.save(img_emb, "./char_emb/suwan_01.pt")
print("角色特征向量保存成功,路径:./char_emb/suwan_01.pt")

ComfyUI IP-Adapter 节点直接加载 pt 文件,权重推荐 0.65~0.72,权重太高画面僵硬,太低锁不住人脸。

五、ComfyUI Wan2.2-ReMixV3.0 工作流参数配置

针对漫剧图生视频,推荐固定参数:

  • 分辨率:480×720(9:16 竖屏,适配短剧)
  • 采样步数:22~28 步,8G 显卡不要超过 30 步
  • 帧率:8fps,单镜头时长 4s,短镜头稳定性更强
  • 运动幅度:0.2~0.35,漫剧只需要轻微呼吸、眨眼、手部微动,大幅度动作极易崩坏
  • 提示词模板:漫画分镜,{动作描述},固定人物形象,柔和打光,干净勾线,静态漫画轻微动态,镜头缓慢平移
  • 反向提示词:人脸变化,五官错乱,肢体扭曲,闪烁,鬼影,黑帧,水印,文字

重要避坑:Wan2.2-ReMixV3.0 不要一次性批量并行渲染多个镜头,8G 显卡开启队列串行渲染,防止显存峰值直接 OOM 崩溃。

六、本地 TTS 台词批量导出脚本

新建export_tts.py,读取分镜 JSON 里的台词,调用本地 Fish-TTS 生成配音音频,每个镜头音频和镜头 id 一一对应:

import json
import os
# 这里是本地Fish-TTS的推理接口,根据你本地部署的地址修改
from fish_speech import TTS
tts_engine = TTS()
with open("comfy_storyboard.json","r",encoding="utf-8") as f:
    data = json.load(f)
out_dir = "./tts_audio"
os.makedirs(out_dir,exist_ok=True)
for shot in data["shot_list"]:
    dia = shot["dialogue"].strip()
    if not dia:
        continue
    audio = tts_engine.generate(dia, speaker=shot["speaker"])
    save_path = f"{out_dir}/shot_{shot['shot_id']}.wav"
    audio.save(save_path)
    print(f"生成配音:shot_{shot['shot_id']}.wav")

七、FFmpeg 成片合成指令(批量拼接、字幕压制、编码标准化)

7.1 先写 filelist.txt,按镜头顺序写入视频片段

file 'shot_00.mp4'
file 'shot_01.mp4'
file 'shot_02.mp4'
file 'shot_03.mp4'

7.2 无损拼接所有镜头

ffmpeg -f concat -safe 0 -i filelist.txt -c copy ep01_raw.mp4

7.3 嵌入 SRT 字幕,黑体、白色字体黑色描边

ffmpeg -i ep01_raw.mp4 -vf "subtitles=sub.srt:force_style='FontName=SimHei,Fontsize=28,PrimaryColour=&H00ffffff&,Outline=2'" -c:a copy ep01_sub.mp4

7.4 统一编码,输出符合短剧平台规范的 9:16 成片

ffmpeg -i ep01_sub.mp4 -c:v libx264 -preset medium -crf 24 -vf scale=408:720 -c:a aac -b:a 128k ep01_final.mp4

7.5 单镜头静图缓慢推拉运镜备用指令(不用视频模型时兜底方案)

ffmpeg -loop 1 -i shot_01.png -i shot_01.wav -filter_complex "[0:v]scale=408:720,zoompan=z='min(zoom+0.0015,1.1)':d=125:s=408x720[v]" -map "[v]" -map 1:a -shortest -c:v libx264 -pix_fmt yuv420p shot_01.mp4

八、8G 显卡高频踩坑和显存优化方案

  1. 模型只加载一个主扩散模型,LoRA 叠加数量≤2 个,多 LoRA 同时加载显存爆炸
  2. 推理前关闭浏览器、直播软件、游戏,释放后台显存占用
  3. 一旦出现 CUDA out of memory:降低分辨率、缩短单镜头时长、切换 FP4 量化版本
  4. 视频画面闪烁:降低 motion bucket 数值,不要设置大于 0.4,漫剧优先微动态
  5. 角色偶尔换脸:检查 IP-Adapter 权重,确认特征向量 pt 文件没有损坏,每个角色独立保存 embedding
  6. 导出视频上传报错:必须用 libx264 编码,yuv420p 色彩空间,很多平台不支持 nv12、hevc 编码

九、扩展方向

这套流水线可以对接 BigBanana AI Director 漫剧工场上层编排工具,自动调度整个链路,不用手动依次执行脚本、导入 JSON,实现全自动无人值守渲染。

相关文章
|
5天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
5445 11
|
5天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
2064 6
|
7天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
7天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
20天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
9707 58
|
3天前
|
传感器 安全 区块链
Windows 电脑运行安卓应用教程:开源工具 ApkStart 双击 APK 即装、独立窗口运行
ApkStart 是一款开源Windows工具,让安卓APP像原生软件一样运行:双击APK即安装、生成真实图标、独立窗口启动、开始菜单可搜索。无需传统模拟器,内置QEMU运行时,支持数据互通、ARM兼容与命令行操作。(239字)
|
15天前
|
Linux 开发工具 iOS开发
2026最新codex下载安装保姆级使用教程(下载+安装+登录+使用,含所有历史版本)
本文详解OpenAI Codex国内快速上手指南:提供Win/macOS/Linux全平台免安装包、npm/Homebrew等多方式安装、账号/API Key双登录、简体中文切换,覆盖下载、安装、汉化、使用及高频避坑(如微软商店失败、npm超时等),10分钟即可跑通。
3306 9
|
20天前
|
JavaScript API iOS开发
DeepSeek Harness下载、安装、配置一篇搞定(2026整理,送常用插件)
DeepSeek Harness(DSH)是DeepSeek于2026年开源的MIT协议AI Agent框架,支持插件化组装模型、工具、沙箱与UI,兼容主流大模型。本文提供免Node.js的桌面端安装包(Win/macOS),含详细图文教程及热门插件推荐。
6004 69
|
3天前
|
人工智能 弹性计算 开发工具
零成本玩各大模型!DeepSeek Harness dsh-our-free-model 插件,13 个厂商模型直接用
总结一下:装这个插件,你不用注册、不用绑卡、不用填一个 Key,就能在 DeepSeek Harness 里用上 DeepSeek V4.1 Flash、Kimi K3 这一批前沿模型,而且是白嫖的、还不限量。三步搞定:下载插件,复制包含 `package.json` 的插件目录路径,在「添加插件」里粘贴路径安装并重启。无论是在阿里云 ECS 上通过命令行部署的 Web 版,还是本地的 Electron 桌面端,都能顺利跑通,快速搭建一套零成本的免费模型使用环境。
944 0