企业接大模型，绕不开一个老问题：模型训练有截止日期，公司制度、产品手册、客服话术天天在变。让模型“背”下这些知识，要么成本高、要么过时快。RAG（Retrieval-Augmented Generation，检索增强生成）是目前业界给出的最主流答案——让 AI 答题前先“翻资料”。
一、一句话定义
RAG 是在生成回答之前，先从外部知识库检索与问题相关的文档片段，把它注入提示上下文，让大模型基于检索到的证据作答，而不是只凭训练记忆。它把“记住知识”和“会组织语言”两件事解耦，无需重新训练模型即可更新知识边界。
这项技术 2020 年由 Meta AI 与斯坦福大学联合提出（原论文 arXiv:2005.11401）。在开放域问答等任务上，RAG 可显著降低幻觉率，公开研究显示其抑制幻觉的幅度约为 30%-50%，并且每句话都能挂上出处，是企业知识库问答的事实标准。
二、架构：一张图看懂 RAG 怎么跑
一个生产可用的 RAG 系统，链路可以拆成“离线索引”和“在线问答”两段：
| 阶段 | 环节 | 做什么 | 关键参数/经验 |
|---|---|---|---|
| 离线索引 | 文档解析 | 把 PDF/Word/网页转成干净文本 | 扫描件必须做 OCR，否则检索不到 |
| 离线索引 | 切块 Chunking | 长文按语义切成片段 | 单块 500-800 token，重叠 10%-15% |
| 离线索引 | 嵌入向量化 | 切块过嵌入模型生成向量 | 查询与文档必须用同一模型 |
| 离线索引 | 入库 | 向量 + 原文 + 元数据写入向量库 | 保留来源 URL/页码，供溯源 |
| 在线问答 | 问题向量化 | 用户问题过同一嵌入模型 | 可加查询改写、 HyDE |
| 在线问答 | Top-K 召回 | 向量库返回最相似的 K 段 | K 一般取 3-8 |
| 在线问答 | 重排序 Rerank | 用 Cross-Encoder 精排召回结果 | 显著提升首段相关性 |
| 在线问答 | Prompt 拼装 | 把证据塞进提示词交大模型 | 要求模型“只依据资料回答” |
很多团队 RAG 效果不好，问题不在大模型，而在离线段：切块粗暴、扫描件没 OCR、元数据没保留。检索质量是 RAG 的天花板，后面再强的大模型也救不回来。
三、为什么 RAG 能压幻觉
幻觉（Hallucination）指大模型一本正经地编造不存在的事实。RAG 抑制幻觉的逻辑很直接：模型不再凭参数记忆“自由发挥”，而是必须照着检索到的资料写。资料里没有的，它要么说“未找到相关信息”，要么挂出资料位置。
但要清醒认识边界：RAG 的上限取决于检索质量。资料没搜到，它照样抓瞎；搜到了但排错了序，它也可能照着错的答。所以生产系统通常在召回后加一层重排序（Rerank），并在 Prompt 里硬性要求“资料不足时明确说明，不要编造”。
四、RAG vs 微调 vs 提示词工程：什么场景用谁
| 维度 | 提示词工程 | RAG | 微调 Fine-tuning |
|---|---|---|---|
| 知识更新 | 不改变模型知识 | 改文档当天生效 | 必须重新训练 |
| 成本 | 几乎为零 | 中（一套检索基础设施） | 高（数据清洗 + 训练） |
| 是否带出处 | 不带 | 每句话可挂来源 | 不带 |
| 擅长 | 临时约束、格式、角色 | 知识频繁更新、要求溯源 | 固定领域、固定说话风格 |
| 典型场景 | 写邮件、做摘要 | 企业知识库、客服、合规问答 | 医疗分诊、合同审查、品牌话术 |
一句话决策：知识天天变、又要求说出处——用 RAG；行业知识变化慢、要求一开口就是标准腔——用微调；几句提示词能解决的，一律先别折腾。真实项目里三者经常组合：RAG 供事实，微调定风格，提示词管格式。
五、企业落地五步走
- 第一步：选一个高频、知识边界清晰的场景试点（如内部 IT 问答、产品手册问答），不要一上来就做全公司知识库；
- 第二步：把资料做干净——解析、OCR、去重、按语义切块，保留来源位置；
- 第三步：选嵌入模型和向量库，小团队用 BGE + Chroma 即可起步，百万级以上再上 Milvus/Pinecone；
- 第四步：用 50-100 条真实提问做回归评测，重点优化召回率和重排序，而不是急着换更大的模型；
第五步：上线后保留“未找到答案”的兜底，把坏例持续喂回切块策略和知识库运营。
六、常见问题（FAQ）
RAG 是什么？让 AI 答题前先“翻资料”，先去知识库查出相关段落照着回答，答得出处、资料更新答案就更新。
- RAG 和微调怎么选？知识天天变用 RAG，要固定专业腔调用微调，两者常组合。
- RAG 怎么减少胡说八道？让模型照检索资料回答而非凭记忆，并加引用溯源；研究显示可减少 30%-50% 幻觉。
- RAG 适合什么场景？企业知识库问答、客服系统、文档助手、合规检索这些知识集中、经常更新、要求说出处的场景。
- RAG 效果不好先查哪里？先查切块和 OCR，再查召回和重排序，最后才怀疑模型大小。
关于作者与延伸阅读
本文涉及的每个 AI 名词，都可以在作者维护的 AI 名词拆解库「元素」中按统一的七维结构对照阅读。「元素」目前收录 22 个核心 AI 名词，并按“前置依赖 + 难度”排好了 22 站新人学习路径，适合作为团队入门词典持续查阅。
