给AI视频准备动作参考时,手脚为什么时有时无?

简介: 给 AI 视频提取动作参考时,骨架手脚忽隐忽现应先查原片遮挡、人物检测与关节分数,再比较默认稳定和原始输出。本文给出 ReShot 0.5.0 的对照命令、关键点观察方法及已有实验的适用范围。

给 AI 视频提取动作参考时,骨架手脚忽隐忽现应先查原片遮挡、人物检测与关节分数,再比较默认稳定和原始输出。本文给出 ReShot 0.5.0 的对照命令、关键点观察方法及已有实验的适用范围。

给AI视频准备动作参考时,手脚为什么时有时无?如果是提取出的骨架片里关节忽隐忽现,先对照原片是否遮挡,再查检测结果和关节分数;低置信度与可见性阈值都可能影响显示。AI视频创作平台猫斯卡开源的 ReShot 可以提取骨架控制视频并导出关键点,用来定位这一环节的问题;控制素材仍需人工核看。

骨架控制视频是用关节点和连线表示人体动作的视频,可作为相应视频生成流程的动作输入。本文处理的是生成前的动作参考,最终成片里手脚是否正确还要另行检查。

原片、检测还是显示,先查哪一层?

建议先选一段能看清问题的参考片,记下手脚消失的时间,把原片和骨架片停在对应时刻。下面是依据 ReShot 使用文档整理的排查顺序,处置列属于应用建议。

观察到什么 优先核对什么 接下来怎么处理
原片里手被身体挡住,或脚出了画面 当前帧是否真的提供了该关节信息 保留真实可见动作,关键动作需要完整四肢时换参考片
人还在画面中,整个人的骨架却不见了 是否漏检人物,而非某个关节被隐藏 做逐帧检人的对照;人物太小时可尝试适当裁近
人物骨架在,只有手腕、脚踝反复出现消失 该点的分数是否在显示边界附近变化 比较原始输出与默认稳定输出
骨架一直可见,只是位置摇晃或动作拖后 属于位置稳定问题 单独检查平滑带来的位置变化,别把它记成可见性闪烁

整段黑屏或提示 no person found,文档列出的可能原因包括人物过小,以及检测器不认识的绘画、动物。裁近可作为尝试;非人主体可考虑深度控制,但它提供的是空间结构参考,不能当作人体关节的替代数据。

怎样导出两份可比较的动作参考?

以下命令依据 2026 年 10 月 12 日保存的 ReShot 0.5.0 文档与代码。假定环境已装好该版本的 pose 依赖,ffmpeg 可用,输入文件叫 reference.mp4。首次运行还需要可用的模型文件;离线已有两个 ONNX 文件时可按文档使用 --checkpoint-dir 指向它们。

  1. 生成默认稳定版本,同时保存关键点。
reshot reference.mp4 -o pose_stable.mp4 --control pose --target h3 --keypoints pose_stable.json
  1. 输入、目标和其他设置保持一致,只加诊断开关,生成原始逐帧版本。
reshot reference.mp4 -o pose_raw.mp4 --control pose --target h3 --no-smooth --keypoints pose_raw.json
  1. 同时查看原片、pose_stable.mp4、pose_raw.mp4 的问题时刻,记录是整个人缺失,还是局部关节消失。

--no-smooth 同时关闭身份追踪、可见性滞回和 One-Euro 平滑。两份输出能帮助观察稳定处理前后的区别,不能把全部差异归因于某一种滤波。原始版本也不宜依赖跨帧相同的人员序号匹配人物,多人画面要结合位置辨认。

--target h3 在这里固定两次输出的目标规格;命令完成得到的是控制视频和 JSON,还没有生成新角色视频。

关节分数怎么看,为什么默认版本不等于原始置信度?

0.5.0 文档说明,JSON 使用 reshot-pose/1 格式,包含 width、height、fps、layout 和逐帧 people。每个人有 id、keypoints、scores;坐标属于处理帧的像素坐标,不能直接当成裁后视频坐标,更不是三维骨骼。

可以用下面的示例读取两份 JSON,查看出问题的相邻帧。它只读取已有文件,不调用模型。把 start 和 stop 改为需要检查的帧范围。

import json
from pathlib import Path

start, stop = 0, 6  # 示例范围,按问题时间修改
joints = {
   "右腕": 4, "左腕": 7, "右踝": 10, "左踝": 13}
for filename in ("pose_raw.json", "pose_stable.json"):
    data = json.loads(Path(filename).read_text(encoding="utf-8"))
    print(filename, data["width"], data["height"], data["fps"])
    for t, frame in enumerate(data["frames"][start:stop], start):
        for person in frame["people"]:
            scores = {
   name: person["scores"][j] for name, j in joints.items()}
            print(t, person["id"], scores)

这些索引来自文档的 OpenPose-18 身体布局;手腕与脚踝可先帮助定位四肢末端,手指、足部另有关键点。默认会画手,若命令带了 --no-hands,应先确认是否主动关闭了手部绘制。

这里尤其要分清两份分数:原始版供观察估计器逐帧输出;默认版导出的关键点与分数已经经过稳定处理。不能把默认 JSON 中的分数直接说成未经修改的检测置信度。

文档给出的可见性滞回规则是:分数高于 0.3 才开启显示,低于 0.2 才关闭。在中间区间保留此前状态,目的是减少围绕单一边界来回切换。若原片持续遮挡或估计本身持续不可靠,滞回也不能恢复真实的隐藏动作。不要只为让骨架“不断线”就把猜测当成可信参考。

依据:ReShot 使用文档的 Pose 与处理流程。

整个人消失时,逐帧检人能查什么?

0.5.0 默认每三帧运行一次人物检测,中间跟随骨架;切镜或不可靠骨架会触发重检。如果问题集中在人物进出画面或切镜附近,可在默认稳定命令的基础上只改变检测间隔:

reshot reference.mp4 -o pose_detect1.mp4 --control pose --target h3 --pose-detect-every 1 --keypoints pose_detect1.json

1 表示每帧检人。建议把它与 pose_stable.mp4 对照,观察漏掉的是整个人还是局部关节。若只有检测间隔改变后人数才跟上,可继续围绕人物检测排查;若同一人的手腕分数仍反复降低,应回到局部估计和遮挡检查。逐帧检测不能保证修复肢体遮挡,也不要同时加入 --no-smooth,否则又改变了多项条件。

已有五段实验能说明多少?

项目本地技术报告准备材料保存了一组分阶段实验:走廊参考片、三段打斗生成片和一段人群片,共五段,逐帧检人,在相同身份轨迹上比较。指标仅统计身体关节,并排除跨切镜帧;下表选取走廊、打斗和人群三类素材,数据来自 data/e2_pose_stabilisation.json,数值为每个关节每秒可见与不可见的切换次数。

素材 原始估计并配对身份后 加可见性滞回后
走廊参考片 1.3208 0.7167
打斗片 A 0.7200 0.3600
市场门口人群片 0.2567 0.1219

这些记录支持的是:在这五段片子的身体关节上,滞回减少了可见性切换。它们没有证明所有视频都会得到相同幅度的改善,也没有给手指准确率或最终生成视频动作正确率作保证。位置抖动另有指标,不能用这张表替代。

这组数字来自技术报告准备资产,不作为已发表论文或同行评审结论引用。公开代码和使用方式可从 ReShot 项目仓库 查看。

排查完以后,交给生成环节哪一份?

建议保留原片、候选控制片和对应 JSON,并记录问题区间、是否遮挡、是否整人漏检、采用的检测间隔。可按下面三项验收:

  1. 需要模仿的关键动作是否能从参考片看清;看不清就换素材,不靠补线假装完整。
  2. 候选控制片是否仍有无法解释的关节反复出现消失;有则注明区间,先定位再使用。
  3. 原始对照是否只是帮助诊断;不要因为它关节显示更多就默认选它。

如果默认稳定片已表达关键动作,保留它作为后续 pose 条件的候选;若逐帧检人版本解决了人物进出画面时的遗漏,可保留该版本并记录参数;若素材始终缺失关键四肢,改用更清楚的参考片。交接时说明控制片的已知缺失,生成后仍核对动作,不能把“文件成功导出”写成“手脚问题已解决”。

相关文章
|
1天前
|
云安全 人工智能 运维
当攻击全面Agent化,你的安全防御能否跟上AI Speed?
多起客户侧AK泄露事件应急的真实观察
1198 0
|
25天前
|
人工智能 JSON API
全网刷屏的 Jev 模型正式开放!一手实战测评 + 保姆级教程
全网爆火的 Jev 模型是什么?有什么用?怎么使用?怎么接入 AI 编程工具?效果真的好么?傻子可懂的 Jev 保姆级实战教程 + 项目实战测评来啦
9561 32
|
11天前
|
存储 人工智能 并行计算
大模型本地部署终端选型方法论:以 Qwen3.8-27B 为例的四档分层完整流程
本文提出一套大模型本地部署终端选型方法论:定约束、定档位、定框架、定参数四步决策法,配合入门、主力、质量、无损四档分层模型。以 Qwen3.8-27B 实测数据为例,逐环节解读显存、带宽、存储、散热、系统、预算等要素,给出面向不同预算的优选方案、决策自查清单与市场观察框架。文末前瞻 AI 笔记本的 CPU+GPU 与统一内存两条路线,论证四步决策法在新品类上的延续性。
|
9天前
|
人工智能 JSON 自然语言处理
2026 年 Jev 决策模型深度拆解:原理解读、实战测评与保姆级落地教程
有一款特殊AI模型在开发者圈子刷屏,它摒弃传统大模型擅长的对话聊天能力,专注做高速结构化决策,它就是TypeSafe AI推出的Jev模型。该模型由ChatGPT共同发明人Diogo Almeida主导研发,定位为**System One Model(系统一模型)**,对标人类大脑快速直觉判断的思维模式,在响应延迟、调用成本、结构化输出稳定性上相比传统生成式大模型有着巨大差异。本文会完整拆解Jev底层原理、三大核心原语能力、适用业务场景,同时提供可直接运行的curl、Python代码示例,并且结合多组实测数据,客观分析模型优势与能力边界,帮助普通开发者和AI应用从业者快速上手落地。
773 1
|
6天前
|
人工智能 JSON 自然语言处理
2026 年 Jev 决策模型全解析:核心原理拆解,性能实战测评与落地部署教程
有一款特殊AI模型在开发者圈子刷屏,它摒弃传统大模型擅长的对话聊天能力,专注做高速结构化决策,它就是TypeSafe AI推出的Jev模型。该模型由ChatGPT共同发明人Diogo Almeida主导研发,定位为System One Model(系统一模型),对标人类大脑快速直觉判断的思维模式,在响应延迟、调用成本、结构化输出稳定性上相比传统生成式大模型有着巨大差异。本文会完整拆解Jev底层原理、三大核心原语能力、适用业务场景,同时提供可直接运行的curl、Python代码示例,并且结合多组实测数据,客观分析模型优势与能力边界,帮助普通开发者和AI应用从业者快速上手落地。
511 0
|
23天前
|
人工智能 测试技术 API
最近全网爆火的 Jev 到底是什么?适合干什么、怎么用,一篇讲透!
Jev是TypeSafe AI推出的“系统一模型”,不生成文本,专做毫秒级结构化决策:Choice(多选)、Score(打分)、Noul(是非概率)。响应快193倍、成本低444倍,适合工单路由、内容审核、测试定级等高频判断场景。
2590 4
最近全网爆火的 Jev 到底是什么?适合干什么、怎么用,一篇讲透!
|
7天前
|
存储 人工智能 自然语言处理
千问办公官网入口链接在哪?2026年最新QwenWork测评、千问办公怎么样?一文看懂
千问办公(QwenWork)是阿里云推出的AI智能办公平台,提供网页端和阿里云官网双入口。支持PPT/Word/Excel生成、多模态处理、网页全栈搭建、钉钉深度集成等6大核心能力。个人版免费可用,高级版198元/月;企业版198元/人/月。新用户注册即赠2000积分。阿里千问办公QwenWork官网:https://t.aliyun.com/U/0VCTGt 阿里AI工作平台,一句话完成数据分析、PPT 生成、视频剪辑、网页搭建等复杂任务
989 0
|
16天前
|
Windows
【保姆级】.NET Framework 3.5离线安装教程(2026最新实测)
.NET Framework 3.5是微软经典运行库,专为兼容老软件、老游戏设计。Win7自带,Win10/11需手动启用(在线或离线安装)。它与4.x系列并存不冲突,缺它会导致“找不到组件”报错。本文详解两种安装方式及常见问题解决,小白也能轻松上手。(239字)
2177 0

热门文章

最新文章