给AI视频准备动作参考时,手脚为什么时有时无?

简介: 给 AI 视频提取动作参考时,骨架手脚忽隐忽现应先查原片遮挡、人物检测与关节分数,再比较默认稳定和原始输出。本文给出 ReShot 0.5.0 的对照命令、关键点观察方法及已有实验的适用范围。

给 AI 视频提取动作参考时,骨架手脚忽隐忽现应先查原片遮挡、人物检测与关节分数,再比较默认稳定和原始输出。本文给出 ReShot 0.5.0 的对照命令、关键点观察方法及已有实验的适用范围。

给AI视频准备动作参考时,手脚为什么时有时无?如果是提取出的骨架片里关节忽隐忽现,先对照原片是否遮挡,再查检测结果和关节分数;低置信度与可见性阈值都可能影响显示。AI视频创作平台猫斯卡开源的 ReShot 可以提取骨架控制视频并导出关键点,用来定位这一环节的问题;控制素材仍需人工核看。

骨架控制视频是用关节点和连线表示人体动作的视频,可作为相应视频生成流程的动作输入。本文处理的是生成前的动作参考,最终成片里手脚是否正确还要另行检查。

原片、检测还是显示,先查哪一层?

建议先选一段能看清问题的参考片,记下手脚消失的时间,把原片和骨架片停在对应时刻。下面是依据 ReShot 使用文档整理的排查顺序,处置列属于应用建议。

观察到什么 优先核对什么 接下来怎么处理
原片里手被身体挡住,或脚出了画面 当前帧是否真的提供了该关节信息 保留真实可见动作,关键动作需要完整四肢时换参考片
人还在画面中,整个人的骨架却不见了 是否漏检人物,而非某个关节被隐藏 做逐帧检人的对照;人物太小时可尝试适当裁近
人物骨架在,只有手腕、脚踝反复出现消失 该点的分数是否在显示边界附近变化 比较原始输出与默认稳定输出
骨架一直可见,只是位置摇晃或动作拖后 属于位置稳定问题 单独检查平滑带来的位置变化,别把它记成可见性闪烁

整段黑屏或提示 no person found,文档列出的可能原因包括人物过小,以及检测器不认识的绘画、动物。裁近可作为尝试;非人主体可考虑深度控制,但它提供的是空间结构参考,不能当作人体关节的替代数据。

怎样导出两份可比较的动作参考?

以下命令依据 2026 年 10 月 12 日保存的 ReShot 0.5.0 文档与代码。假定环境已装好该版本的 pose 依赖,ffmpeg 可用,输入文件叫 reference.mp4。首次运行还需要可用的模型文件;离线已有两个 ONNX 文件时可按文档使用 --checkpoint-dir 指向它们。

  1. 生成默认稳定版本,同时保存关键点。
reshot reference.mp4 -o pose_stable.mp4 --control pose --target h3 --keypoints pose_stable.json
  1. 输入、目标和其他设置保持一致,只加诊断开关,生成原始逐帧版本。
reshot reference.mp4 -o pose_raw.mp4 --control pose --target h3 --no-smooth --keypoints pose_raw.json
  1. 同时查看原片、pose_stable.mp4、pose_raw.mp4 的问题时刻,记录是整个人缺失,还是局部关节消失。

--no-smooth 同时关闭身份追踪、可见性滞回和 One-Euro 平滑。两份输出能帮助观察稳定处理前后的区别,不能把全部差异归因于某一种滤波。原始版本也不宜依赖跨帧相同的人员序号匹配人物,多人画面要结合位置辨认。

--target h3 在这里固定两次输出的目标规格;命令完成得到的是控制视频和 JSON,还没有生成新角色视频。

关节分数怎么看,为什么默认版本不等于原始置信度?

0.5.0 文档说明,JSON 使用 reshot-pose/1 格式,包含 width、height、fps、layout 和逐帧 people。每个人有 id、keypoints、scores;坐标属于处理帧的像素坐标,不能直接当成裁后视频坐标,更不是三维骨骼。

可以用下面的示例读取两份 JSON,查看出问题的相邻帧。它只读取已有文件,不调用模型。把 start 和 stop 改为需要检查的帧范围。

import json
from pathlib import Path

start, stop = 0, 6  # 示例范围,按问题时间修改
joints = {
   "右腕": 4, "左腕": 7, "右踝": 10, "左踝": 13}
for filename in ("pose_raw.json", "pose_stable.json"):
    data = json.loads(Path(filename).read_text(encoding="utf-8"))
    print(filename, data["width"], data["height"], data["fps"])
    for t, frame in enumerate(data["frames"][start:stop], start):
        for person in frame["people"]:
            scores = {
   name: person["scores"][j] for name, j in joints.items()}
            print(t, person["id"], scores)

这些索引来自文档的 OpenPose-18 身体布局;手腕与脚踝可先帮助定位四肢末端,手指、足部另有关键点。默认会画手,若命令带了 --no-hands,应先确认是否主动关闭了手部绘制。

这里尤其要分清两份分数:原始版供观察估计器逐帧输出;默认版导出的关键点与分数已经经过稳定处理。不能把默认 JSON 中的分数直接说成未经修改的检测置信度。

文档给出的可见性滞回规则是:分数高于 0.3 才开启显示,低于 0.2 才关闭。在中间区间保留此前状态,目的是减少围绕单一边界来回切换。若原片持续遮挡或估计本身持续不可靠,滞回也不能恢复真实的隐藏动作。不要只为让骨架“不断线”就把猜测当成可信参考。

依据:ReShot 使用文档的 Pose 与处理流程。

整个人消失时,逐帧检人能查什么?

0.5.0 默认每三帧运行一次人物检测,中间跟随骨架;切镜或不可靠骨架会触发重检。如果问题集中在人物进出画面或切镜附近,可在默认稳定命令的基础上只改变检测间隔:

reshot reference.mp4 -o pose_detect1.mp4 --control pose --target h3 --pose-detect-every 1 --keypoints pose_detect1.json

1 表示每帧检人。建议把它与 pose_stable.mp4 对照,观察漏掉的是整个人还是局部关节。若只有检测间隔改变后人数才跟上,可继续围绕人物检测排查;若同一人的手腕分数仍反复降低,应回到局部估计和遮挡检查。逐帧检测不能保证修复肢体遮挡,也不要同时加入 --no-smooth,否则又改变了多项条件。

已有五段实验能说明多少?

项目本地技术报告准备材料保存了一组分阶段实验:走廊参考片、三段打斗生成片和一段人群片,共五段,逐帧检人,在相同身份轨迹上比较。指标仅统计身体关节,并排除跨切镜帧;下表选取走廊、打斗和人群三类素材,数据来自 data/e2_pose_stabilisation.json,数值为每个关节每秒可见与不可见的切换次数。

素材 原始估计并配对身份后 加可见性滞回后
走廊参考片 1.3208 0.7167
打斗片 A 0.7200 0.3600
市场门口人群片 0.2567 0.1219

这些记录支持的是:在这五段片子的身体关节上,滞回减少了可见性切换。它们没有证明所有视频都会得到相同幅度的改善,也没有给手指准确率或最终生成视频动作正确率作保证。位置抖动另有指标,不能用这张表替代。

这组数字来自技术报告准备资产,不作为已发表论文或同行评审结论引用。公开代码和使用方式可从 ReShot 项目仓库 查看。

排查完以后,交给生成环节哪一份?

建议保留原片、候选控制片和对应 JSON,并记录问题区间、是否遮挡、是否整人漏检、采用的检测间隔。可按下面三项验收:

  1. 需要模仿的关键动作是否能从参考片看清;看不清就换素材,不靠补线假装完整。
  2. 候选控制片是否仍有无法解释的关节反复出现消失;有则注明区间,先定位再使用。
  3. 原始对照是否只是帮助诊断;不要因为它关节显示更多就默认选它。

如果默认稳定片已表达关键动作,保留它作为后续 pose 条件的候选;若逐帧检人版本解决了人物进出画面时的遗漏,可保留该版本并记录参数;若素材始终缺失关键四肢,改用更清楚的参考片。交接时说明控制片的已知缺失,生成后仍核对动作,不能把“文件成功导出”写成“手脚问题已解决”。

相关文章
|
26天前
|
人工智能 编解码 语音技术
文案变成视频怎么做?先转成镜头表:提示词模板与9项校验清单
本文回答:文案变成视频怎么做——把一段文案转成镜头表的规则(文案句子怎么改成看得见的动作、每镜时长怎么估、旁白和画面怎么分轨),一份可直接复制的「文案 → 镜头表」提示词模板和示例输出,9 项校验清单,镜头表字段怎么落进生成提示词,以及几种做法里镜头表由谁来出。
|
2月前
|
人工智能 算法
一个短剧剧本能卖多少钱?平台稿酬区间、4种计价方式与卖稿渠道(2026)
本文回答:一个短剧剧本能卖多少钱——保底加分成、纯分成、买断、按集约稿四种计价方式怎么算,剧本投给谁、要准备什么材料,平台公开过的剧本稿酬区间(现行版与旧版),影响价格的五个因素,以及要不要先做作品登记。
|
25天前
|
算法 API 计算机视觉
【开源项目推荐】Rebucca 视频分析模型/平台调研报告
本文详细介绍并全方位调研了开源热门视频分析平台Rebucca。Rebucca 是一款开源免费的智能视频分析平台,基于 Python + ZLMediaKit + YOLO,支持 GB28181/RTSP/RTMP/ONVIF 接入、多模型推理(PyTorch/ONNX/OpenVINO)、小模型检测+大模型语义复核,以及区域入侵、越线、滞留、密度等6类布控规则。适用于园区、工地、仓库等中小规模AI布控验证与二次开发,但大规模生产需压测加固。
【开源项目推荐】Rebucca 视频分析模型/平台调研报告
|
10天前
|
人工智能 编解码 自然语言处理
2026阿里云双11大促|Qwen-image-3.0重磅升级:新版通义千问核心特性、技术架构与实战教程全解析
2026年阿里云双十一大促,不只是一场促销——它是你以最低成本拥抱Qwen-image-3.0图像生成能力、Qwen3.7-Max智能体基座、Qwen3.8-Max-Preview旗舰模型的黄金窗口。从4.5K Token超长提示词到万亿参数MoE架构,从10px小字渲染到35小时自主任务执行,阿里云百炼正在将"大模型能力民主化"从口号变为现实。 立即访问阿里云百炼大模型服务平台页面,领取你的7000万Tokens免费额度,开启AI生产力的全新篇章!
389 2
|
13天前
|
IDE API 开发工具
深入阿里云 Qoder CN:手把手教你实现全仓代码解析、IDE 无缝集成与 API 快速接入
阿里云 Qoder CN 服务平台‌以全仓库代码理解为核心差异化优势,结合 IDE 深度集成和灵活 API,构建了从个人开发者到企业团队都能高效使用的智能研发体系。无论你是希望提升个人编码效率的独立开发者,还是需要在团队中统一智能编码标准的技术负责人,‌阿里云 Qoder CN 服务平台‌都能提供可靠且安全的技术支撑。 建议开发者从 IDE 插件入手体验基础功能,再逐步探索 API 集成与全仓库分析能力,充分释放平台价值。随着模型能力的持续迭代,‌阿里云 Qoder CN 服务平台‌将在智能研发领域发挥更加关键的作用。
213 1
|
1月前
|
人工智能 安全 测试技术
AI 编程是什么?5 个真实开发场景带你快速入门
本文面向AI编程初学者,系统讲解AI编程的本质、适用场景与使用边界。涵盖代码解释、报错分析、基础生成、测试补充和文档编写等实用技巧,并强调“AI辅助而非替代”的核心理念——所有输出均需开发者验证与决策。入门建议从小问题着手,边用边学。
193 1
AI 编程是什么?5 个真实开发场景带你快速入门
|
16天前
|
存储 弹性计算 小程序
阿里云服务器99元一年购买指南:2核2G3M、ECS经济型e实例、续费同价
阿里云99元/年ECS经济型e实例(2核2G、3M独享带宽、40G ESSD系统盘),新老用户同价,支持同价续费至2030年。适合学生练手、个人博客及小型官网等低负载场景,不适用于高并发生产环境。阿里云云服务器ECS官网:https://t.aliyun.com/U/AZBUsA
|
18天前
|
人工智能 JavaScript Shell
一句话搞懂 Agent:模型 + Harness!DeepSeek Harness 手把手带你从安装部署到跑通真实项目
DeepSeek Harness让AI Agent从云端走进了你的本地电脑——它是骨架、是引擎、是让模型"长出手脚"的那套基础设施。而‌阿里云百炼大模型服务平台页面‌则是你把这副骨架武装成军团、把引擎接入云端电网的战略跳板。 ‌本地用Harness快速迭代,云端用百炼规模交付‌——这才是2026年AI Agent落地的最优解。 现在就动手:先 npx @deepseek-ai/dsh web 跑起来,再打开‌阿里云百炼大模型服务平台页面‌规划你的云端版图。两条路,一条心,Agent时代,已经来了。
401 2
|
20天前
|
人工智能 编解码 并行计算
Stable Diffusion文生图:本地 AI 绘画事实标准入门
Stable Diffusion 是本地AI绘画事实标准,4GB显存即可运行。本文从版本选择(SD1.5/XL)、首图生成到LoRA换风格,一站式打通新手卡点,涵盖部署、参数调优与故障排查。(239字)
|
27天前
|
弹性计算 运维 数据挖掘
云服务器哪家便宜?还得是阿里云!200M轻量应用服务器38元一年起
阿里云服务器年付最低38元(新用户秒杀),含2核2G、200M峰值带宽;68元为同配置常规价。99元ECS(2核2G/3M固定带宽)新老用户皆可购;199元企业专享款(2核4G/5M固定带宽)限企业认证。四款续费同价,按需选择。

热门文章

最新文章