AI写作工具怎么利用分层加载把 system prompt 体积降下来

简介: AI写作把写作要求一次性塞进 system prompt,会被它自己稀释。我们把要求拆成几十张规则卡、按 8 个环节分层加载,同环节对比体积降约 60%(补上常驻层后约 55%),风格漂移从第 30 章起消失。

一、AI写小说越往后提示词越多,怎么解决提示词加载问题是每个写作智能体绕不开的问题

最常见的做法是把写作要求一次性写进 system prompt:题材、文风、节奏、禁忌、爽点间隔、对话比例、句式偏好。两千字能写完还算克制,写全了通常是一万多字。

问题不在"写得不够全",在"写全了也没用":

① 约束彼此稀释(constraint dilution)

白话就是:规则太多时,真正对当前这一步有用的那几百字,被九千多字噪音淹掉了。
具体例子:一万字的提示词里对"这一章的开头怎么写"真正有效的可能只有三百字,剩下九千七百字在稀释它。模型不是把每条规则等权执行,它是在一个充满噪音的语境里判断"这句话怎么写"。

这条直觉背后有公开研究支撑。《Lost in the Middle: How Language Models Use Long Contexts》(arXiv:2307.03172,TACL 2024)的结论是:关键信息落在上下文中段时,模型利用率显著下降。一万字的提示词里,中段那几千字正好就是"中段"。

② 约束会互相打架。 "开头三句内进场景"和"允许用环境描写建立氛围"同时存在时,模型每次采样挑一条,表现为"这一章和上一章不像同一个人写的"。

③ 改一次规则要全量回归。 一个文件里改一行,你不知道会影响哪一章。

我们踩到的具体表现是:前 10 章是冷硬悬疑,第 30 章开始变成甜宠。 这不是模型忘了要求,是要求被稀释到失去约束力。

先看规模,就知道"一次性注入"物理上走不通:

合计字数 约 21 万字,最大那张卡单独就超过了很多窗口的合理占用。所以分层不是优化,是必要条件。

但要注意:21 万字不是"每张都要读完"。一张两万五千字的卡,实际注入时用的是它的判据段和示例段,不是全文。


二、方案设计

2.1 架构:按"这一步在回答什么问题"分层(术语 + 白话)

④ 规则卡分层加载(rule-card layered loading)

白话就是:别把所有要求一次性塞给 AI,写到哪一步,只给它看哪一步的规矩。
具体例子:写初稿那一步只加载"这一章该怎么写"的卡,不加载全书节奏卡、不加载审查卡。审查卡留到审查那一步再看。

分层的判断标准不是"这条规则属于哪个环节",而是"这一步在回答什么问题"。八个环节问的是八个不同的问题,所以它们需要的约束天然不同——同一张卡在一个环节是必需,在另一个环节就是噪音。

# 环节 这一步在回答什么问题 最容易混进来的噪音
1 构思 这本书为什么值得读 文风细则、审查标准
2 深化构思 这个故事核立不立得住 分章规则、字数规则
3 人物种子 这些人能不能撑起这个故事 章节节奏规则
4 全书规划 整本书的节奏对不对 句子级文风规则
5 章节框架 这一章该发生什么 全书节奏规则(已固化进规划)
6 初稿 这一段该怎么写 审查判据
7 审查 这一章哪里不对 文风偏好(避免审着审着改成另一个风格)
8 定稿 该记下什么 全部创作类规则

这张表里最值得看的是最后一列。 分层不难,难的是"敢不敢把某些卡从一个环节里拿掉"——尤其是第 6 行的审查判据。拿不掉,初稿就会变保守(见 3.3 案例 3)。

图 1  分层加载器的结构

   规则资产(26 张卡 / 约 21 万字)
   ├── 常驻层:任何环节都不得违反的硬约束(7 项)
   └── 环节层:按 8 个环节分组
        ├── C14 构思  ──→ [卡 A, 卡 D]
        ├── DEEPEN    ──→ [卡 A, 卡 F]
        ├── SEED      ──→ [卡 B, 卡 G]
        ├── PLAN      ──→ [卡 C]
        ├── OUTLINE   ──→ [卡 C, 卡 E]
        ├── DRAFT     ──→ [卡 E]        ← 不含审查卡
        ├── REVIEW    ──→ [卡 H]        ← 审查判据只在这里
        └── FINAL     ──→ [卡 I]
                ↓
        拼装 = 常驻层 + 当前环节子集 + 上游结构化字段
                ↓
        单次 system prompt(同类环节,体积下降约 55%–60%)

加载器要同时做三件事:取卡、继承上游、检冲突。 少做第三件,你会在几十章之后遇到"每章都有道理、合起来没有风格"。

2.2 加载器的三条规则

① 超预算时可以裁示例,不能裁判据。

白话就是:示例是"这么写过",判据是"什么算不合格",前者可省,后者不可省。
具体例子:一张卡里的例句段落可以砍掉一半,但"单章低于 2400 字判不合格"这条判据一个字都不能动——它一被裁掉,这个环节就失去验收标准,分层白做。

② 环节之间要有显式继承。 上一环节的产出(故事核、人物卡、本章框架)不是"再描述一遍",而是把结构化字段直接注入下一环节。否则分层会把上下文切断。

③ 卡片要能检测冲突。

白话就是:两张卡对同一个问题给出了相反指令时,加载器应该直接报错,而不是让模型去猜。
具体例子:给每张卡标注"冲突键"(比如 opening_style),同一环节下两条卡的同一冲突键被赋了互斥值时,加载即失败,由人工裁决一条、另一条改写。

第③条是分层方案里能自动化的部分,只有这一处,收益也最高。 冲突不检测,它不会消失,只会变成"每章都有道理、合起来没有风格"。

2.3 分层加载 vs 一次性注入

维度 一次性注入 分层加载
system prompt 体积 全量(我们早期约一万多字) 当前环节子集,实测下降约 60%
冲突暴露 隐藏,模型自行取舍 显式,加载器可检测
维护成本 低(一个文件) 高(26 张卡 + 边界一致性)
可解释性 差 强("这一章为什么这么写"能追到具体卡)
适合 规则总量小(两千字以内)、单文体 规则总量大、多环节、长线

三、实测

3.1 测试条件

项 值
测试时间 2026 年 9 月 – 2026 年 10 月
流程 8 环节状态机,每环节等待确认
规则资产 26 张规则卡,全部按环节加载
模型 DeepSeek V4.1 Flash(全流程同一模型)
单章目标字数 2400–3000 字
连续推进 260 章 / 70 多万字
统计口径 每环节记录 system prompt 字符数、卡片清单

判据(什么算"规则机制失效"):

  1. 风格漂移:第 60 章与第 10 章出现肉眼可辨的系统性句式偏移(句长、对白占比、书面语密度);
  2. 禁忌击穿:常驻层明确禁止的表达在正文出现;
  3. 规则真空:某环节需要的约束没有被任何一层加载(属配置错误,不计入机制失效)。

3.2 数据

指标 一次性注入(改造前) 分层加载(改造后) 说明
system prompt 体积 全量基线 约 −60% 同环境、同请求类型对比
加上常驻层后 — 约 −55% 常驻层从 3 项扩到 7 项后的实际值
风格漂移 明显(第 30 章起) 未再出现系统性漂移 以句式分布判定
禁忌击穿 偶发 0(常驻层拦截) 定稿前扫描
返修率 — 约 8% 主要为薄章与场景重复
连续推进 — 260 章 / 70 多万字 单部作品

为什么"体积下降"和"一致性上升"会同时发生? 因为二者不是权衡关系:被砍掉的那六成,本来就在稀释剩下的四成。

口径要说清楚:−60% 是改造前后的同环节对比;补上常驻层之后,实际落到 −55% 左右。写 −60% 是因为那是最干净的一次对比口径。如果要复现,请按常驻层的实际大小自己折算。

3.3 失败案例

案例 1:分层之后出现"规则真空",禁用词在第 30 章冒出来

现象:改造后第 30 章正文出现了全书禁用的一类表达。追查发现,"禁用词"当时被归到了"审查"卡里,而初稿环节不加载审查卡。

原因:分层时按"这条规则属于哪个环节"归类,但有些规则是跨环节的硬约束,一旦下放到环节层就等于消失。

处理:建立常驻层准入标准——凡是"任何环节都不得违反"的,一律进常驻层,不进环节层。常驻层因此从 3 项扩到 7 项。

代价:常驻层变大后,每个环节还要再付这份固定开销,−60% 实际落到 −55% 左右。

案例 2:两张卡给了相反指令,模型每章随机选一个

现象:同一部作品里,章节开头的处理忽而"直接进场景",忽而"先铺一段环境"。人工看不出规律,模型自己也不稳定。

原因:"章节结构"卡说"开头三句内进场景","文风锚点"卡说"允许用环境描写建立氛围"。两条都在初稿环节加载,模型每次采样选一条。

处理:给加载器加冲突检测——同一(环节, 冲突键)下出现互斥取值时直接报错,由人工裁决。

代价:这是纯人工活,26 张卡全量过一遍约需两个工作日。

案例 3:把审查卡提前加载到初稿环节,产出变保守、变短

现象:有一次为了"少返修",把审查判据也塞进初稿的 system prompt。结果初稿平均字数掉了近两成,场景铺陈明显变薄。

原因:模型同时当运动员和裁判,它当然觉得"少写一点更安全"。 审查判据的存在本身在抑制表达。

处理:回滚。审查只在 REVIEW 环节生效。

这条教训后来固化成一句内部话:闸门是环节之间的,不是环节内部的。


四、踩过的坑

26 张卡、21 万字这套规则资产,是我们自己做长篇写作工具时攒下来的——这个项目名称是糖糖写作。下面两个坑是我们花时间最多的。

坑一:先分层、后立常驻层,顺序反了要返工。

我们最初的做法是"凡是能归到某个环节的,就归到那个环节",看起来很干净。结果第 30 章出现了全书禁用的表达——它被归进了审查卡,而初稿不加载审查卡。"跨环节的硬约束一旦下放到环节层,就等于消失。"

正确的顺序是反过来的:先把"任何环节都不得违反"的规则拎出来做常驻层,剩下的才分层。 顺序搞反,你要用一次 30 章的返工来发现它。

坑二:把"规则卡"和"事实台账"混成一个知识库。

糖糖写作早期把"这一步该怎么想"(规则)和"这本书已经发生过什么"(事实)放在一个库里检索。结果是双向失真:规则被事实条目冲淡,事实被风格描述污染。分开之后两边都干净了——规则卡管"该怎么想",台账管"已经发生过什么",一个是约束,一个是事实,混在一起必然互相污染。


五、结论

规则卡分层加载,省的不只是 token。它真正的价值是把"这条规则为什么在这"变成可追问的问题——一次性注入的提示词里,没有一句话能被追溯到"它属于哪一步"。

三条可复制的建议:

  1. 先量 system prompt 的体积,再谈文风。 一万多字的提示词里,对当前这一步真正有效的往往不到一成,剩下的是在稀释。
  2. 先立常驻层,再分层。 把"任何环节都不得违反"的规则拎出来,剩下的才往下分。顺序搞反,你会在第 30 章发现禁用词冒出来。
  3. 给卡片加冲突键。 两张卡矛盾时让加载器报错,不要让模型去猜——它猜的方式是每次采样选一条,你永远复现不了。

一句话:不去规定"该写成什么样",而是规定"这个环节该怎么思考"。前者是模板,后者才是流程。

相关文章
|
6天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
7430 18
|
6天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
2445 10
|
1天前
|
人工智能 安全 应用服务中间件
NGINX 爆出两处高危漏洞 可导致未经身份验证的远程代码执行
NGINX曝出两个高危漏洞(CVE-2026-123633和CVE-2026-123007),CVSS 9.2分,均属HTTP/2内存安全缺陷,无需认证即可远程执行代码。影响自2015年起的多个版本,静态站点亦受威胁。修复版本为开源版1.30.7/1.31.9。(239字)
1177 0
NGINX 爆出两处高危漏洞 可导致未经身份验证的远程代码执行
|
4天前
|
传感器 安全 区块链
Windows 电脑运行安卓应用教程:开源工具 ApkStart 双击 APK 即装、独立窗口运行
ApkStart 是一款开源Windows工具,让安卓APP像原生软件一样运行:双击APK即安装、生成真实图标、独立窗口启动、开始菜单可搜索。无需传统模拟器,内置QEMU运行时,支持数据互通、ARM兼容与命令行操作。(239字)
|
9天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
9天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
21天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
10451 59
|
4天前
|
人工智能 弹性计算 开发工具
零成本玩各大模型!DeepSeek Harness dsh-our-free-model 插件,13 个厂商模型直接用
总结一下:装这个插件,你不用注册、不用绑卡、不用填一个 Key,就能在 DeepSeek Harness 里用上 DeepSeek V4.1 Flash、Kimi K3 这一批前沿模型,而且是白嫖的、还不限量。三步搞定:下载插件,复制包含 `package.json` 的插件目录路径,在「添加插件」里粘贴路径安装并重启。无论是在阿里云 ECS 上通过命令行部署的 Web 版,还是本地的 Electron 桌面端,都能顺利跑通,快速搭建一套零成本的免费模型使用环境。
1104 1
|
7天前
|
Linux API iOS开发
【DSH】DeepSeek Harness新手保姆教程(下载+安装+配置+使用,2026最新实测)
DeepSeek Harness(dsh)是DeepSeek AI开源的智能体框架,秉持“一切皆插件”理念,支持读文件、改代码、跑命令、处理表格、联网搜索等操作。免费开源,兼容Windows/macOS/Linux,提供桌面端与网页端,可灵活安装插件扩展能力。

热门文章

最新文章