「压缩执行过了,但模型忘了此前约定的接口名」——这类反馈在长会话中很常见,而且往往并非 bug。 压缩本来就不承诺保留每个细节;它的作用是把较早的历史替换为一条摘要,让会话得以继续。
在实际使用中,最常见的六类误判是:
- 把「发起过压缩」当成「压缩成功并且保留了细节」;
- 以为压缩是删除数据,忽略了底层持久日志其实原样还在;
- 以为所有实现都按固定的百分比压缩,于是拿别处的经验套当前部署;
- 把
totalTokens和surfaceTokens当成同一个量直接相加; - 会话被一个不可拆分的大单元占满时,反复重试
/compact期待它突然成功; - 手动命令报错时,以为是参数问题,去猜一个不存在的参数。
要避免这些误判,首先要明确一点:压缩是一项可选能力,是否可用取决于服务、后端和用户命令;三条触发路径的规则各不相同。 站内教程版可参考上下文压缩与 /compact 命令。
一、三种触发方式,规则完全不一样
压缩参考将自动触发归为两类:计量压力与已确认的上下文溢出。再加上用户手动触发,合计三条路径。
| 机制 | 触发条件 | 预期行为 |
|---|---|---|
| 压力压缩 | 计量压力越过后端阈值 | 可选剪枝后,摘要较早的平衡历史 |
| 溢出恢复 | 提供方确认上下文溢出 | 更激进的缩减,可能支持有限重试 |
/compact |
用户在空闲时调用 | 即使未达阈值也请求手动缩减 |
| 工具结果剪枝 | 触发后且安装了可选组件 | 可能不调用摘要模型就缩小结果 |
表中有两组区别尤其值得留意:
- 压力压缩 vs 溢出恢复:前者依据自身的计量估算,后者则是提供方确认的事实。后者提供的依据更确凿,因此可以采取更激进的缩减。
/compactvs 自动路径:手动路径不需要等到阈值,但它需要会话空闲。
基础后端默认启用,但别推广到所有组合
基础后端文档说明:随附的基础配置默认启用该后端,其他组合可能不同。
「我的部署里能运行 /compact」,不能据此推断「所有部署都有这个命令」。
默认阈值是一个公式,不是一个百分比
基础后端文档给出的默认压力阈值为:
floor(min(W × 0.8, W − O − B))
其中:
W:模型上下文窗口;O:生效请求的输出预留;B:额外余量,默认 65,536 token。
近期历史的逐字保留预算默认为 W − O 的 16%。
这里必须说清楚两件事:
- 策略配置和按模型覆盖项都能改变这些数值;
- 这个公式属于该后端,不能推广成「所有实现都在固定百分比压缩」。
因此,网上所说的「压缩发生在 80% 窗口」,只对特定后端的特定配置成立。
二、/compact 到底保留什么、替换什么?
安装命令组件后,在聊天中输入:
/compact
该命令会在轮次之间立即发起缩减请求,即使尚未达到自动阈值。
1. 三条路径的保留预算不同
- 普通压力策略:逐字保留近期尾部;
- 手动路径:以零保留预算选择平衡范围;
- 确认溢出后的恢复:也会绕过普通保留策略。
也就是说,虽然都叫「压缩」,手动触发和自动触发处理近期历史的方式并不相同。如果某段近期内容特别关键,压力压缩通常比手动 /compact 更愿意保留它。
2. 范围边界保持配对,但不要求保留整个轮次
所选范围的边界会保持工具调用与结果的配对,但不要求保留整个轮次。
这条规则会直接带来一个结果:一个不可拆分的超大单元,可能导致根本没有可用范围。 后面第五节会展开。
三、被遮蔽 ≠ 被删除
这是全文最重要的一条区分。
压缩作用于模型可见的表层:较早范围会被一条摘要消息遮蔽。
而持久日志仍然记录范围、摘要和生命周期事件。
所以:
- 遮蔽不等于删除底层日志;
- 遮蔽也不保证旧范围内每个细节继续对模型可见。
必须把这两句放在一起理解。只记住前一句的人,会在压缩后毫无防备地依赖模型的记忆;只记住后一句的人,则会误以为压缩删除了日志。
摘要本身是模型生成的,会漏也会歪
摘要由模型生成,可能遗漏或歪曲信息。 因此,压缩之后应该核对关键决策,不能假设摘要忠实。
在讨论 #11217中,有用户反馈原生命令不接受自由文本的摘要侧重点,并提出增加这一能力的建议。
这是用户报告和功能建议,不是已支持参数的文档。 正确做法是:使用不带参数的命令,并在依赖摘要前,将关键事实写入合适的持久项目文档。
四、token 计量:两个数回答的是不同问题
Token 计量参考区分了两个指标:
totalTokens:当前请求及响应的压力;surfaceTokens:当前模型可见表层各节点的计价总和。
两者回答的问题不同,不应作为独立用量直接相加。
计量从哪来
满足文档所列条件时,计量可以复用匹配的最近提供方 usage 锚点;否则会估算完整的请求信封与表层。带符号的表层增量表示的是相对锚点的变化。
图片计价也需要区分情况:如果路由适配器声明了图片价格,就按相应模型定价;否则使用文档所述的启发式。
这里需要明确两点:
- 计量有助于决定压力;
- 但它不是未来提供方账单的精确承诺,也不是逐字节的对话大小。
关于如何跟踪日常会话用量,可参考会话 token 用量怎么看。
五、实践流程:压缩前后各做什么
1. 压缩之前的五步
- 在对话变长之前,将关键决策、约束、未完成事项和文件位置记录在合适的项目文档中。不要为了保留上下文而把密钥写进文档。
- 待 agent 空闲后,若命令组件可用,再输入
/compact。基础后端在活动轮次或已有压缩正在运行时,会报告忙碌。 - 阅读压缩结果,请 agent 复述关键约束和下一步,再与持久记录核对,并明确补上遗漏。
- 按小步、可验证的方式继续。如果仍然溢出,应检查模型真实窗口、输出预留和大输入,不要假定反复摘要必然能解决。
- 调整部署策略前先阅读后端文档,并按目标模型验证配置。如果余量把小模型的窗口吃掉了,这个配置本身就是无效的。
2. 剪枝与摘要不是同一件事
可选剪枝器可能先缩短超大的工具结果;压力降至阈值以内后,基础后端可以跳过摘要调用。
还需留意:如果剪枝已经生效,即使后续摘要失败,这项变更也可能继续保留。
因此,应根据报告核实实际发生的步骤,不要假定「失败就意味着表层完全没变」。
3. 压缩之后怎么接续
压缩前,应在团队认可可保留的文件中写明:问题、已确认约束、关键决策、路径、剩余工作。同时把确定事实与假设分开,并记下仍待处理的测试失败。
压缩后,将助手复述的内容与记录逐项核对。如果重要细节缺失,应明确补充准确事实或指向源文档;不能仅凭旧消息仍在事件日志中,就假定它对模型仍然可见。
六、压缩没生效时,怎么判断?
「发起过压缩」不等于「成功缩减」。
1. 手动命令可能返回的错误
- 不存在有效可缩减范围:服务可以不返回结果;
- 忙碌;
- 取消;
- 输入变化;
- 摘要失败;
- 持久化问题。
可以按以下方式处理:
- agent 正忙 → 先等当前轮次结束;
- 选中历史在操作期间改变,或摘要失败 → 检查实际报告,不要假定替换已经落地。
2. 一个不可拆分的大单元
范围必须保持工具调用与结果配对。 这既避免了随意切断一对消息,也意味着引擎不能总把一个大单元切成期望的大小。
此外,基础后端会拒绝「没有缩短源内容」的摘要。
这会带来一种具体的失败场景:如果会话主要被一个不可拆分的输入、大型固定提示词或工具定义占据,即使普通历史已经缩短,仍然可能超出容量。
这时应该缩小输入或选择合适的模型,而不是无限重复同一条命令。
3. 多轮压缩不能靠次数推断完整性
后一次压缩可能处理包含先前摘要的表层,因此不能仅凭压缩次数推断细节是否仍然存在。
正确的验证方式是:让助手指出所依据的文件或记录,并与已保存材料比对;发现冲突时,先纠正,再执行不易回退的操作。
关于角色分工与交接的记录方式,可参考多步骤任务怎么组织成工作流与工作流与技能有什么区别;会话本身的事件结构见查询已有会话及其事件。
4. 切换模型时也要检查压力
计量是「消费到某个日志修订」时的快照,不能保证任意未来请求的情况。
不同模型的图片定价可能不同,输出预留也会改变可用预算。基础后端切换模型路由时也会检查压力;如果目标窗口较小,可能需要先缩减再发送新请求。
切换失败时,应检查报告中的原因和目标容量,不要把上一个模型的计量直接套用到新路由。
5. 精确数据必须另有权威来源
摘要请求与普通助手回答不同。 基础后端文档说明它会额外调用模型,只有返回的文本进入检查点。
因此,如果任务依赖精确数字、接口字段或测试输出,应单独保留权威文件,并在继续之前重新核对。
会话变长后,诊断日志本身也可能难以定位,可参考启动失败时怎么找完整诊断日志。
七、限制与安全边界
- 压缩不能缩短系统提示词、工具或会话前缀,也不能拆分不可分的超大单元:基础后端文档明确列出了这几项。
- 摘要需要额外模型请求,会消耗时间和 token,而且结果不是完整档案。不要把压缩当作数据归档方案。
- 服务通过持久记录中的锁与生命周期事件管理操作:失败、取消、选区变化或会话忙碌都可能阻止替换。
- 不要把压缩当作隐私删除功能:摘要可能保留敏感细节,被遮蔽的原始事件也可能留在持久日志中。编辑摘要不能替代部署的数据保留或删除流程。
- 持久历史与模型可见表层承担不同职责:两者可见性不同,不能互相替代。
- 求助时应提供脱敏诊断:分享日志前检查路径、凭据与业务数据;将敏感内容写入长期笔记前,先核对适用的存储规定。
- 手动命令不可用不等于配置错误:先确认部署是否安装了命令组件、会话是否空闲,不要通过猜测增加未记录的命令参数。
- 压缩后的复核应聚焦任务所需的精确事实,不能只看摘要读起来是否流畅。
八、术语速查
- 上下文压缩:通过摘要并替换选定范围,缩减模型可见历史。
- 表层:当前投影给模型的有序消息,可能不同于持久事件日志。
- 压力:token 计量得到的请求与响应上下文需求。
- 保留预算:后端为近期逐字历史保留的额度(默认
W − O的 16%,属于该后端)。 - 剪枝:可选地缩短超大工具结果,不一定需要摘要请求。
相关阅读
本文依据 DeepSeek Harness 官方压缩参考、基础后端文档、用户命令参考与 token 计量参考整理,由 DSH Plugin 社区(dsh-plugin.com)维护者撰写,首发于阿里云开发者社区。
插件与文档收录于:https://dsh-plugin.com/zh/blog