AI写小说对于长篇的上下文管理架构:把窗口当预算表的三层记忆架构

简介: 用AI写小说如果写了70 万字,正文是 128k 窗口的六倍多,硬塞必然失败。本文把长文本记忆拆成全局、卷、章三层,按当前环节取用,实测 260 章、70 多万字,单章输入稳定在 6–7 万字符、不随章数增长。附测试条件、判据、失败案例与适用边界。

一、问题背景

1.1 用对话框连续写一本长篇,输入侧的开销是累加的:

  • 写第 1 章,输入 ≈ 设定 + 要求;
  • 写第 50 章,输入 ≈ 设定 + 要求 + 前 49 章正文;
  • 写第 260 章,输入 ≈ 设定 + 要求 + 前 259 章正文。

一本 260 章、单章 2400–3000 字的作品,正文总量约 62 万–78 万字。按"把前文全带上"的做法,第 260 章的单章输入是几十万字符量级。

项 数值 说明
成书规模 260 章 / 70 多万字 单部作品
单章 2400–3000 字 目标区间
窗口 128k token 中文按 1 字 ≈ 1 token 粗算,约 12 万字符量级
结论 正文是窗口的六倍以上 不是差一点,是差一个量级

1.2 三个隐性成本,比"塞不下"更麻烦

窗口撞顶只是其中一项。真正让人做不下去的是另外两项:

隐性成本 具体表现 后果
窗口撞顶 前文一旦超过窗口,必须截断或压缩 截断处就是记忆丢失处
注意力稀释 窗口塞得下,但早期内容权重被摊薄 "看得见,但顾不上"
延迟与失败率 输入越长,首 token 延迟越长、超时概率越高 长文本请求偶发 5xx

注意力稀释(attention dilution)这一条有公开研究支撑。斯坦福等机构的论文《Lost in the Middle: How Language Models Use Long Contexts》(arXiv:2307.03172,TACL 2024)做过系统评测,结论是:当关键信息位于上下文开头或结尾时模型利用率高,一旦被放到中段,性能会明显下降,整体呈 U 形曲线。

白话就是:把一堆资料全摊在模型面前,它会优先看两头,中间那段等于没看见。

具体到一个例子:你要写"主角回到故乡找到父亲的旧部",这条线索在第 40 章埋过。如果第 200 章你把它连同另外 190 章正文一起塞进去,它大概率落在中段——模型不是"不肯用",是用不上。

1.3 一个必须先换掉的认知

所以问题从一开始就不是"怎么塞",而是"塞什么进去"。

上下文(context)不是记忆(memory)。 上下文是"这一次请求能看见的东西",记忆是"程序随时能取出来的东西"。二者混为一谈,就必然写成"把整本书塞进去"。

有一个常见的反驳:现在不是有 1M 上下文的模型了吗?是。但窗口变大只改变"能塞多少",不改变"70 万字正文塞不进"这个事实——1M token 约等于 100 万字符量级,70 万字勉强塞得下,代价是每一章都要付这个钱,而且中段信息利用率那一条依然成立。预算表的思路不随窗口变大而失效。


二、方案设计

2.1 架构:三层记忆(术语 + 白话)

先把三个术语说清楚,再给架构。

① 分层记忆(hierarchical memory)

白话就是:把一本书的记忆分成"全局、卷、章"三层存放,哪一步只取它那一层需要的那几片。
具体例子:写第 137 章时,全局层给的是"这本书的语言基调和人设底线",卷层给的是"本卷要收的三条伏笔",章层给的是"这一章出场三个人、引用两条设定"。三层加起来 6–7 万字符,永远是这么多。

② 上下文预算(context budget)

白话就是:把窗口当成一张有额度上限的预算表,先定"每项分多少",超了按业务规则裁,不是按体积裁。
具体例子:我们给"留给输出"预留三到四成,因为单章 2400–3000 字加上余量必须放得下。这一栏被挤掉的直接表现不是报错,是"这一章莫名变短了"。

③ 锚点(anchor)

白话就是:几条必须每章都在场的固定内容,用来把文风和人设钉住。
具体例子:四类锚点——文风、人设、主线、伏笔。它们不随章数变,是所有章节的"共同标准",所以永不参与裁剪。

三层架构:

图 1  三层记忆与取用关系

┌─────────────────────────────────────────────────────────┐
│ 全局层(global)—— 常驻,体积固定                          │
│  · 四类锚点:文风 / 人设 / 主线 / 伏笔总表                 │
│  · 当前环节的规则卡(只加载一张,不是全部)                 │
├─────────────────────────────────────────────────────────┤
│ 卷层(arc)—— 按卷切换,体积随卷大小有界                    │
│  · 分卷架构、本卷目标、卷内伏笔清单                        │
│  · 卷末对账结果(哪条该收没收到)                          │
├─────────────────────────────────────────────────────────┤
│ 章层(chapter)—— 每章重建,体积最小且可精确控制            │
│  · 本章框架、场景、戏眼                                    │
│  · 出场人物卡(只取框架里列过场的)                        │
│  · 引用事实条目(只取本章引用到的)                        │
│  · 前情摘要(只取最近三章)                                │
└─────────────────────────────────────────────────────────┘
        ↓ 拼装
   单次请求输入 ≈ 6–7 万字符(不随章数增长)

这张图里最关键的不是"分了三层",是"三层的体积各自有界"。 全局层不随章数变;卷层只在一卷之内变;章层每章重建、只取本章需要的。三层相加,输入体积就和章数脱钩了。

2.2 预算表的实际分法

一份能长期跑下去的分法,不是"能塞多少",而是分几块、谁是大头、超了裁谁:

预算项 量级 为什么
四类锚点 大头之一 不随章数变,是所有章节的共同标准
当前环节的规则卡 大头之一,通常是最大的一块 只加载当前环节那一张
本章框架、场景、戏眼 很小,但必须有 一章一个,量小
台账取用(人物 + 事实 + 最近三章摘要) 只占一小份 按需取,不按库存取
输入合计 6–7 万字符(实测) 与实测吻合
留给输出 必须留够 单章 2400–3000 字 + 余量

三个立刻能看出来的结论:

  1. 固定开销占了大头——锚点和规则卡加起来接近一半。这就是为什么短篇不划算:两三千字的短篇也要付这份固定开销。
  2. 留给输出必须留够。 输出预算被挤掉的表现很直观:章节写到一半被截断,或者越写越短。
  3. 台账只占一小份。 有人以为"加台账会让上下文爆炸",实际上它是替代了线性增长的那几十万字符,不是叠加在上面。

2.3 取用的四条规则

① 锚点和规则卡常驻。 四类锚点加当前环节的规则卡,每个环节都带,体积固定。

② 人物只取本章框架里列过场的那几个。 框架里没列出场的人,就是不该出场的人——这既是省预算,也是一条内容约束。

③ 事实只取本章引用到的那几条。

④ 前情摘要只取最近三章;伏笔只在框架和审查环节取,且只取"该回收还没回收"的。

四条合起来,输入体积就和章数脱钩了。第 260 章和第 10 章取的东西一样多——因为它们都只取"这一章需要的"。

2.4 超预算时的裁剪顺序

裁剪顺序同样是想清楚过的:

超预算裁剪顺序(业务规则,非体积排序)
 第 1 裁:前情摘要
 第 2 裁:事实条目
 第 3 裁:本章框架
 永不裁:四类锚点、当前环节的规则卡

为什么不能按体积排? 按体积排,最大的块会先被裁,而最大的块通常正是锚点——裁掉锚点那一章的语言风格会和前后完全不像。

再加一条断言:裁完还超预算,直接报错。 如果裁完还超,说明不是"内容太多",是"固定开销本身设计错了"。这种错误早点炸出来比晚点炸好。

2.5 什么该进台账,什么不该

判断标准只有一个:这个东西能不能被一个键单独确定。

内容 能不能进台账 理由
人物性格、关系、能力边界 能 有主键(人物 ID),记录稳定
世界观设定、数值、时间线 能 有规范键(主体 + 属性)
伏笔埋设 / 回收状态 能 有明确状态(已埋 → 已回收)
每章固定几项摘要 能 有主键(章号)
"这段描写当时的语感" 不能 无法键化,只能靠锚点示例
"整体气质要冷" 不能 无法判定,只能靠示例
灵感、临时想法 不能 没有稳定形态,写进台账就是污染

一句话:能键化的进台账,不能键化的进锚点示例,两样都不是的,别硬存。


三、实测

3.1 测试条件

项 值
测试时间 2026 年 9 月 – 2026 年 10 月
作品类型 中文男频长篇(单一题材,未换线)
模型 DeepSeek V4.1 Flash(全流程同一模型)
流程 8 环节状态机,每环节等待确认
单章目标字数 2400–3000 字
目标章数 260 章(单部作品连续推进)
推进方式 每环节等待确认,跨卷由系统自动拉起
统计口径 每次请求记录 prompt 字符数、章节号、环节

判据(什么算"记忆机制失效"):

  1. 开销回退:第 100 章之后的单章输入体积,比第 10 章高出 50% 以上——这是判断"假分层"的硬指标;
  2. 记忆缺失:本章需要的人物 / 事实条目未被注入,导致产出与台账冲突(属检索配置错误,单独记);
  3. 输出被截断,或单章字数连续 5 章低于目标区间下限(属预算配置错误)。

只有第 1 条出现,才判"记忆机制失效"。这条区分很重要——把配置错误算成机制失效,会把战线拉到错误的地方。

3.2 数据

指标 线性基线(算术推演) 实测 说明
第 10 章单章输入 约 2.6 万字符 6–7 万字符 常量部分(锚点 + 规则卡)占大头
第 260 章单章输入 约 67 万字符 6–7 万字符 与第 10 章基本持平
增长斜率 线性 ≈ 0 不随章数增长
260 章总量 — 70 多万字 单部作品
返修率 — 约 8% 主要为薄章与场景重复
记忆缺失次数 — 0(触发审查拦截后返修) 台账比对生效

关于"线性基线"这一列:它不是我们跑出来的对照组,而是按"把前文全带上"的写法做的算术推演(章数 × 单章字数),列出来只是把量级差异说清楚。真实环境里这种做法早在窗口撞顶时就断了,跑不到第 260 章。

为什么"不涨"这么重要? 它是判断记忆机制是否真的生效的硬指标。如果第 260 章的单章输入涨到了几十万字符,那所谓分层就只是个更花哨的提示词。

3.3 失败案例

案例 1:把"最近 N 章"的 N 设太大,把预算吃光了

错法:想让模型多知道点前情,把"最近几章"取成了最近十来章。

后果:摘要本身也有几万字,一下把预算吃掉,只能开始裁本章框架——模型开始"忘了这章要写什么"。

改法:收到最近三章上下。前情靠台账查,不靠摘要堆。

案例 2:台账全量注入,等于没做台账

错法:人物库一共 40 多个角色,索性全注入,"省得漏"。

后果:前 50 章没事(角色少),50 章后输入开始上涨——线性增长换了个地方发生。这正是判据第 1 条想拦的。

改法:只取本章框架里列过场的人。这是一条必须写死的规则,不能靠"注意一下"。

案例 3:输出预算没留够,章节被截断

错法:输入占满九成,觉得"塞得越多越准"。

后果:正文写到 1800 字被截断,或者越写越短、场景越写越薄。

改法:给输入预算设硬上限,给输出留足三到四成。这个坑最难定位——它不报错,只是表现为"这一章莫名变短了"。后来加了一条:单章字数连续 5 章低于下限,直接报错。


四、踩过的坑

这套三层记忆的实现,我们项目的公开名称是糖糖写作,最早就是"把前文往对话框里塞"——做到全书的五到六成就必须换一个对话框继续。换对话框那一刻,前面所有隐性约定都断了。我们做台账不是为了让它更聪明,是为了让程序记住模型记不住的东西。

糖糖写作在分层上还有两个坑值得说:

坑一:三层"分了"不等于三层"独立失效"。 最初三层耦合在一起,记忆层出问题时表现为"状态机卡住",排查方向全错。后来强制让三层的失效方式分开:控制层坏了你会一直卡在某一步,看得见;约束层坏了文风开始漂,要几十章才看得出来;记忆层坏了事实开始打架,要等读者骂你才发现。三层里记忆层最需要自动化校验,因为它暴露得最晚。

坑二:忘了"谁不该出场"也是一条约束。 我们一开始把"这一章取哪些人物"当成纯预算问题,后来发现它同时是内容约束:框架里没列出场的人,模型就不该写他出场。把这条写死之后,既省了预算,又少了一类"配角乱入"的返修。


五、结论

把窗口当仓库,你永远在算"还能塞几章";把窗口当预算表,这个问题会自动消失。

三条能直接抄的建议:

  1. 先写一张"每项占多少"的表,再动手。 锚点、规则卡、本章框架、台账取用、输出预留五栏,写不出来说明你还没想清楚要检索什么。
  2. 量两个数字:第 10 章和第 260 章的单章输入体积。 两个数字持平,说明记忆在程序侧;一起涨,说明记忆还在上下文里。这个验证方法省事又骗不了人。
  3. 裁剪顺序写成业务规则,不要按体积排。 按体积排,最大的块先被裁,而最大的块通常正是锚点。

一句话收口:模型不需要记住整本书,它只需要在当前这一步做对。

相关文章
|
6天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
8268 19
|
6天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
2546 12
|
1天前
|
人工智能 安全 应用服务中间件
NGINX 爆出两处高危漏洞 可导致未经身份验证的远程代码执行
NGINX曝出两个高危漏洞(CVE-2026-123633和CVE-2026-123007),CVSS 9.2分,均属HTTP/2内存安全缺陷,无需认证即可远程执行代码。影响自2015年起的多个版本,静态站点亦受威胁。修复版本为开源版1.30.7/1.31.9。(239字)
1245 0
NGINX 爆出两处高危漏洞 可导致未经身份验证的远程代码执行
|
4天前
|
传感器 安全 区块链
Windows 电脑运行安卓应用教程:开源工具 ApkStart 双击 APK 即装、独立窗口运行
ApkStart 是一款开源Windows工具,让安卓APP像原生软件一样运行:双击APK即安装、生成真实图标、独立窗口启动、开始菜单可搜索。无需传统模拟器,内置QEMU运行时,支持数据互通、ARM兼容与命令行操作。(239字)
|
9天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
9天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
22天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
10701 59
|
5天前
|
人工智能 弹性计算 开发工具
零成本玩各大模型!DeepSeek Harness dsh-our-free-model 插件,13 个厂商模型直接用
总结一下:装这个插件,你不用注册、不用绑卡、不用填一个 Key,就能在 DeepSeek Harness 里用上 DeepSeek V4.1 Flash、Kimi K3 这一批前沿模型,而且是白嫖的、还不限量。三步搞定:下载插件,复制包含 `package.json` 的插件目录路径,在「添加插件」里粘贴路径安装并重启。无论是在阿里云 ECS 上通过命令行部署的 Web 版,还是本地的 Electron 桌面端,都能顺利跑通,快速搭建一套零成本的免费模型使用环境。
1181 1
|
8天前
|
Linux API iOS开发
【DSH】DeepSeek Harness新手保姆教程(下载+安装+配置+使用,2026最新实测)
DeepSeek Harness(dsh)是DeepSeek AI开源的智能体框架,秉持“一切皆插件”理念,支持读文件、改代码、跑命令、处理表格、联网搜索等操作。免费开源,兼容Windows/macOS/Linux,提供桌面端与网页端,可灵活安装插件扩展能力。

热门文章

最新文章