A Survey on Security and Privacy in Retrieval-Augmented Generation |检索增强生成安全与隐私保护综述

简介: 检索增强生成(Retrieval-AugmentedGeneration,RAG)通过引入外部知识库缓解大语言模型(LLM)的幻觉与知识滞后问题,其架构特性在提升生成准确性的同时,将外部数据源暴露为主要的攻击面。早期研究聚焦于检索精度优化,安全被视为次要的工程细节,直至2024年知识库投毒攻击的涌现迫使学界重新审视系统完整性。随着黑盒攻击自动化与隐私泄露路径的揭示,研究重心从被动防御转向构建具备形式化保证的可信基础设施。当前领域在差分隐私与加密检索、全局鲁棒性与细粒度检测之间形成了多元并存的防御格局,核心矛盾在于安全保证强度与检索效用之间的权衡。

综述原文见 www.arxivreview.com

导读

检索增强生成(Retrieval-Augmented Generation, RAG)通过引入外部知识库缓解大语言模型(LLM)的幻觉与知识滞后问题,其架构特性在提升生成准确性的同时,将外部数据源暴露为主要的攻击面。早期研究聚焦于检索精度优化,安全被视为次要的工程细节,直至 2024 年知识库投毒攻击的涌现迫使学界重新审视系统完整性。随着黑盒攻击自动化与隐私泄露路径的揭示,研究重心从被动防御转向构建具备形式化保证的可信基础设施。当前领域在差分隐私与加密检索、全局鲁棒性与细粒度检测之间形成了多元并存的防御格局,核心矛盾在于安全保证强度与检索效用之间的权衡。本综述梳理从威胁建模到系统化防御的因果演进链条,为读者提供一张领域认知地图。全文按问题演化与路线取舍组织,覆盖该领域从奠基到当前的主要工作。

1. 研究背景、问题结构与演进脉络

RAG 范式的兴起源于 LLM 固有的知识静态性与幻觉问题,Lewis 等人于 2020 年提出的基础架构确立了“检索-生成”的双模块范式,通过动态访问外部数据缓解模型参数中的知识滞后。这一架构在医疗、金融等高风险领域迅速普及,但其开放性既是性能优势也是安全劣势:外部知识库的引入使得系统边界从封闭的模型参数扩展至开放的数据接口,攻击面随之从模型内部转移至数据预处理、检索与生成全链路。初期研究主要关注如何更准确地检索以辅助生成,安全与隐私被视为边缘问题,缺乏系统性的威胁建模与防御机制设计。

随着 RAG 在敏感领域的深入应用,2023-2024 年成为领域发展的关键转折点。Zou 等人提出的 PoisonedRAG 攻击揭示了外部知识库是主要的攻击面,攻击者通过注入对抗性文档操纵检索结果,从而在生成阶段输出有害内容。这一发现促使问题定义发生根本性转变,从“如何检索更准”转向“如何防止知识库被投毒及数据泄露”。与此同时,Zeng 等人发现的 RAG Leakage 问题表明,攻击者可通过对抗性提示诱导模型逐字复述检索到的敏感文档,确立了隐私泄露攻击的基本范式。此时,安全研究不再局限于模型对齐,而是扩展至数据完整性、隐私主权及社会公平性的多维体系。

2025 年,领域进入系统化防御与隐私保护阶段,研究范式从单一的对抗样本防御扩展至联邦学习、差分隐私(Differential Privacy, DP)及同态加密等系统性安全框架。Arzanipour 等人形式化了 RAG 系统的威胁模型,定义了从外部观察者到内部知情者的四级攻击者能力,为领域研究提供了统一分类框架。这一阶段的核心约束是黑盒场景下的攻击自动化与隐私-效用权衡:由于商业 RAG 系统不公开内部参数,攻击者转向基于 API 交互的黑盒策略,而防御机制需在提供形式化隐私保证的同时维持高准确率与低延迟。

2026 年,研究热点进一步细化至多模态 RAG 的隐私漏洞挖掘、推理成本攻击及公平性偏差缓解。Vonderhaar 等人构建了涵盖预检索、检索时及生成时的完整攻击分类法,详细分析了知识库投毒、检索操纵及信任边界跨越等攻击向量。当前,领域正从被动响应攻击转向构建具备形式化安全保证和隐私合规性的可信 RAG 基础设施,旨在解决数据主权、知识产权窃取及公平性偏差等深层问题。

如果用一个核心问题概括该领域,那便是:如何在开放、动态且存在对抗性威胁的外部知识环境中,构建既能保证生成准确性与隐私合规性,又能抵御投毒、提取及可用性攻击的可信检索-生成闭环。

2. 方法体系

  • 2020:RAG——Lewis等人提出检索增强生成范式,奠定安全研究基础架构

  • 2024:PoisonedRAG——Zou等人提出针对RAG知识库的投毒攻击,揭示完整性脆弱性

  • 2024:RAG Leakage——Zeng等人发现RAG系统隐私泄露风险,确立泄露攻击范式

  • 2025:RIPRAG——提出基于强化学习的黑盒RAG攻击方法,降低攻击门槛

  • 2025:Private-RAG——提出基于差分隐私的RAG防御机制,解决隐私预算线性增长问题

  • 2026:RAG Attack Taxonomy——Vonderhaar等人构建完整攻击分类法,指导防御机制设计

  • 2026:CREEP——提出针对RAG系统的推理成本攻击框架,揭示可用性风险

这条时间线勾勒了该领域方法演进的代表性节点:从 2020 年的 RAG 奠定该领域方法基线,经 2024 年 PoisonedRAG 的推进,到 2026 年的 RAG Fairness Backdoor 代表当前前沿。各节点对应的技术路线、取舍与关联,详见后续小节。

2.1 知识库投毒攻击与防御

知识库投毒是 RAG 系统面临的最主要安全威胁,其核心在于攻击者向外部知识库注入恶意文档以操纵检索结果。早期攻击如 PoisonedRAG 依赖白盒假设,通过优化对抗文档使其在检索阶段被优先选中,但这一假设在商业闭源系统中失效。RIPRAG(Xi et al., 2025, P4)针对这一局限,提出基于强化学习的黑盒攻击框架,将投毒过程建模为马尔可夫决策过程,智能体根据系统响应反馈动态调整注入文档,无需访问内部梯度即可实现高成功率投毒。该方法的代价是攻击过程需要大量查询交互,计算成本显著增加,但其里程碑意义在于揭示了 RAG 系统在黑盒环境下的脆弱性,促使防御机制向更鲁棒的检索过滤方向发展。

在防御层面,RAGDEFENDER(Kim et al., 2025, P5)提出利用小型语言模型对检索文档进行快速分类,通过置信度阈值过滤可疑文档,相比使用大型 LLM 进行防御,其成本降低了数个数量级。该方法的取舍在于以检测精度的潜在损失换取极低的计算开销,适用于大规模部署场景。PRA-RAG(Tan et al., 2026, P21)则走向另一极端,提出可证明鲁棒的聚合策略,通过形式化鲁棒性算子量化投毒内容对生成结果的影响,提供理论保证。其代价是计算复杂度较高,且过于保守的阈值可能导致正常信息丢失。Byzantine-Tolerant Secure Collaborative RAG(Wang et al., 2026, P22)进一步引入协作防御机制,利用图神经网络评估多源检索结果的可信度,解决了单一机构数据被投毒的风险,但图构建与推理的计算开销较大。

2.2 隐私泄露攻击与检测

隐私泄露攻击聚焦于从 RAG 系统中推断敏感信息,包括成员推断(Membership Inference Attack, MIA)与数据提取。传统 MIA 依赖模型内部概率或损失,难以应用于闭源系统。E-MIA(Guan et al., 2026, P17)提出考试式黑盒 MIA,将文档级成员推断重构为证据提取的验证问题,通过构建自然语言查询集评估系统表现,完全基于黑盒交互。DCMI(Gao et al., 2025, P1)则引入差分校准机制,通过比较系统对原始样本与扰动样本的响应概率差异来消除背景噪声,提高了黑盒设置下的推断准确率。

在数据提取方面,Fine-Grained Privacy Extraction(ICLR 2026, P26)利用知识不对称性,通过比较 RAG 系统与标准 LLM 对同一查询的响应差异,推断知识库中的敏感信息。该方法实现了细粒度的信息提取,能够定位到具体的文档片段,但效果高度依赖攻击者对目标领域的了解程度。Multimodal RAG Privacy Evaluation(Al-Lawati and Wang, 2026, P11)将隐私评估从纯文本扩展到多模态场景,揭示了图像元数据与视觉内容在 RAG 中的独特泄露路径,填补了多模态 RAG 隐私研究的空白。

2.3 隐私保护与加密检索

隐私保护路线在差分隐私与加密检索之间形成了明显的技术分歧。Private-RAG(Wu et al., 2025, P6)提出基于 DP 的防御机制,通过每文档隐私过滤器与全局相关性阈值,解决了传统 DP 中隐私预算随查询数量线性增长的问题。其核心取舍在于以相关性阈值的选择权衡隐私与效用,过高的阈值可能导致有用文档被排除。

加密检索路线则追求强隐私保证,以计算开销为代价。p2RAG(Ming et al., 2026, P13)利用 Shamir 秘密共享与分布式比较函数,在两个半诚实服务器之间实现加密数据库的安全检索,支持任意 Top-k 检索。ppRAG(Ye et al., 2026, P9)则采用距离保持加密方案,平衡了隐私保护与检索效率,避免了同态加密的高计算开销。Pisces(ICLR 2026, P25)结合语义与词汇双路径检索,利用安全多方计算(MPC)保护用户查询与知识库隐私,适用于医疗、法律等高安全要求场景。这些方法的共同代价是加密计算与通信开销较大,导致系统延迟增加。

2.4 知识提取与知识产权

知识提取攻击旨在窃取 RAG 系统的专有知识库或嵌入模型,保护知识产权成为新的研究焦点。RAGCRAWLER(Yao et al., 2026, P10)提出基于知识图谱引导的爬虫攻击,通过自适应查询策略系统性重建 RAG 系统的内部图谱结构,揭示了 GraphRAG 架构在知识产权保护方面的新漏洞。Silent Leaks(ICLR 2026, P24)则通过良性查询实现隐式知识提取,利用锚点概念生成自然用户查询,避免触发显式泄露检测,其隐蔽性使得基于关键词的防御机制失效。

在防御方面,RAGFort(Li et al., 2025, P7)提出双路径防御机制,通过结构感知的双模块保护策略,在保护敏感知识的同时保持系统效用。Knowledge-Infused Multi-Bit Watermarking(ACL-Findings 2026, P28)则引入多比特水印技术,通过向知识库注入 LLM 生成的水印内容,实现版权保护与来源追踪。这些方法推动了知识库保护从全有或全无向细粒度控制的转变。

2.5 系统鲁棒性与可用性

系统鲁棒性研究关注 RAG 系统在对抗性扰动下的稳定性与资源消耗。CREEP(Liu et al., 2026, P18)提出推理成本攻击框架,通过注入计算密集型诱饵文档与矛盾信息,迫使 LLM 产生过度且隐蔽的计算开销,揭示了 RAG 系统在资源消耗方面的可用性风险。Soft-Failure Attack(Zhang et al., 2026, P16)则通过注入单一对抗性文档,诱导系统在目标查询下产生“不知道”或拒绝回答的响应,实现了隐蔽的可用性攻击。

在防御与评估方面,Adversarial Hubness Detector(Habler et al., 2026, P12)针对嵌入空间几何特性的攻击,通过识别异常枢纽点并调整距离度量,防止恶意文档主导检索结果。TempPerturb-Eval(Zhou et al., 2025, P8)提出评估 RAG 系统鲁棒性的框架,研究内部温度参数与外部扰动对系统输出的联合影响,揭示了不同温度下扰动效果的差异性。

2.6 公平性与偏见缓解

RAG 系统的公平性偏差源于外部数据集中的社会偏见通过检索机制被放大。RAG Fairness Backdoor(EMNLP 2025, P27)提出基于后门攻击的公平性破坏技术,通过注入包含偏见触发的文档,在特定查询下诱导模型生成针对受保护群体的偏见输出。RAG Fairness Degradation(EMNLP 2025, P29)则提出三级威胁模型,分析 RAG 系统如何无意中导致 LLM 生成偏见输出,揭示了即使外部数据集被认为是公平的,RAG 仍可能破坏公平性。

Query Group Fairness in RAG(Dehghan and McDonald, 2026, P14)提出评估 RAG 系统查询组公平性的框架,研究曝光、效用与归因偏见对公平性的影响,揭示了 RAG 系统在群体层面的不公平现象。这些工作促使开发者关注检索过程的公平性影响,推动了 RAG 系统公平性评估与缓解技术的发展。

3. 关键共识、分歧与开放问题

3.1 领域共识

外部知识库是 RAG 系统最脆弱且最易受攻击的环节,这一共识在多个基准上被反复验证:AIP 在 MedSquad、AmazonQA 及 MoviesQA 上均实现了超过 91% 的 ASR,而 RIPRAG 在 NQ、HotpotQA 及 MS-MARCO 上均实现了 0.65 以上的 ASR 提升,表明投毒攻击比针对模型参数的攻击更具现实威胁(支撑证据:P2、P4)。与此相关的另一个共识是黑盒攻击是现实部署中最主要的威胁场景,因为大多数商业 RAG 系统不公开内部参数和检索器细节,RIPRAG 在黑盒设置下的高成功率验证了这一判断(支撑证据:P4)。

单纯的检索优化无法解决安全问题,必须在检索、生成及数据预处理阶段引入专门的安全或隐私保护机制,这一共识源于对攻击面全链路的分析:Vonderhaar 等人的攻击分类法指出,攻击可发生在预检索、检索时及生成时,单一阶段的防御无法覆盖所有环节(支撑证据:P15)。差分隐私(DP)是提供形式化隐私保证的有效手段,但需解决隐私预算消耗与查询数量线性增长的问题,Private-RAG 的每文档隐私预算监控机制正是对此问题的回应(支撑证据:P6)。

3.2 观点分歧

隐私保护的最优技术路径存在显著分歧:DP 派认为 DP 计算开销小,易于集成,适合大规模部署,代表方法 Private-RAG;加密派认为 DP 导致精度损失不可接受,MPC/HE 提供强隐私保证,代表方法 p2RAG 与 Pisces。现有证据偏向 DP 在通用场景下的实用性,但加密检索在敏感领域(医疗/金融)的合规性上更优。证据强度中等,缺乏在相同效用约束下的直接延迟-精度对比实验,导致难以定论哪种路径在特定场景下更优(支撑证据:P6、P13、P25)。

防御的粒度也存在争论:全局派主张通过鲁棒聚合或全局 DP 提供整体安全保证,代表方法 PRA-RAG;细粒度派主张通过文档级检测或水印进行精准防御,代表方法 RAGDEFENDER 与 Knowledge-Infused Watermarking。细粒度检测在降低误报率方面表现更好,但全局鲁棒性在应对未知攻击类型时更具泛化能力。证据强度较弱,缺乏大规模动态知识库下的长期稳定性对比,场景依赖性是未决的主要原因(支撑证据:P21、P5、P28)。

3.3 其他开放问题

最紧迫的工程问题是隐私保护与检索效用的权衡:DP 和加密检索往往导致检索精度下降或计算开销激增,如何在保证强隐私保证的同时维持高准确率和低延迟尚未完全解决。关键困难在于缺乏统一的评测基准,现有指标未能充分捕捉隐私-效用权衡的动态特性。研究路径包括开发综合评估隐私保证强度、检索精度、延迟及计算成本的统一指标体系。

最根本的研究问题是多模态 RAG 的隐私漏洞缺乏系统性防御:现有防御主要针对文本,而图像、音频等多模态数据在检索和生成过程中的隐私泄露机制复杂,缺乏通用的跨模态隐私保护框架。关键困难在于多模态嵌入空间的复杂性与现有文本隐私技术不可直接迁移。研究路径包括多模态差分隐私与跨模态对抗过滤。

已知—争议—未知认知图谱显示:已知外部知识库是主要攻击面,黑盒攻击是主要威胁;争议在于隐私保护的最优技术路径与防御粒度;未知在于多模态隐私泄露机制与联邦 RAG 通信效率。发展趋势是从点状防御向系统性可信基础设施转型,标准化评测与动态防御框架将是下一阶段的焦点。

4. 总结与展望

RAG 安全与隐私研究正处于从“点状防御”向“系统性可信基础设施”转型的关键期,核心矛盾在于隐私/安全保证与检索效用/延迟之间的不可调和权衡。从 2020 年 RAG 范式的确立,到 2024 年投毒攻击的涌现,再到 2026 年系统化防御框架的出现,领域经历了从性能优化到安全合规的范式转移。当前瓶颈在于缺乏统一的评测基准与标准化防御协议,导致不同方法难以公平比较,且现有防御机制在黑盒、多模态及分布式环境下的有效性尚未充分验证。

未来可能突破的方向包括:开发针对多模态 RAG 的隐私保护机制,解决跨模态泄露路径问题;构建覆盖 RAG 全生命周期的动态防御系统,解决静态防御导致的效用-安全权衡失衡;研究联邦学习与隐私计算在 RAG 中的应用,解决数据孤岛与隐私泄露矛盾。对进入者而言,最值得做的一件事是建立标准化的 RAG 安全基准与评测协议,覆盖多样化攻击场景与防御方法,为领域研究提供统一的评估框架。

以上为节选,完整内容见ArxivReview

目录
相关文章
|
8天前
|
Linux Go 开发工具
手机上跑 DeepSeek 智能体:开源安卓客户端 DSH Go 安装与使用指南
DSH Go 是一款开源安卓客户端,将 DeepSeek Harness 智能体引擎装进手机:免 Root、免 Termux,一键安装即用;支持本机运行(内置 Ubuntu+Node.js)或远程接管电脑会话;具备插话打断、过程折叠、屏幕操控、端到端加密分享等特色功能,真正实现智能体“口袋化”。
9175 24
|
8天前
|
弹性计算 人工智能 API
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
建议收藏本教程,2026 全年各版本更新随时回来查阅。如果你在搭建过程中遇到任何问题,欢迎结合 阿里云工单系统 提交技术支持请求,或在 阿里云开发者社区 搜索 Codex 相关话题交流。 祝你编码愉快,效率翻倍!
2707 14
|
3天前
|
人工智能 安全 应用服务中间件
NGINX 爆出两处高危漏洞 可导致未经身份验证的远程代码执行
NGINX曝出两个高危漏洞(CVE-2026-123633和CVE-2026-123007),CVSS 9.2分,均属HTTP/2内存安全缺陷,无需认证即可远程执行代码。影响自2015年起的多个版本,静态站点亦受威胁。修复版本为开源版1.30.7/1.31.9。(239字)
1298 0
NGINX 爆出两处高危漏洞 可导致未经身份验证的远程代码执行
|
6天前
|
传感器 安全 区块链
Windows 电脑运行安卓应用教程:开源工具 ApkStart 双击 APK 即装、独立窗口运行
ApkStart 是一款开源Windows工具,让安卓APP像原生软件一样运行:双击APK即安装、生成真实图标、独立窗口启动、开始菜单可搜索。无需传统模拟器,内置QEMU运行时,支持数据互通、ARM兼容与命令行操作。(239字)
|
10天前
|
人工智能 前端开发 API
阿里云Qwen4-Max 大模型详解:定位、特征、能力、适用场景与相对Qwen3-Max差异解析
2026年11月11日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问AI平台Token Plan并接入千问办公、Qoder等入口。该版本聚焦知识理解、世界感知、编程与Agentic四项升级,主打复杂编程、专业办公、前端设计与专业软件操作等真实任务。预览期为11月11日10:00至11月25日24:00,仅支持Token Plan调用,到期后模型标识下线;限时2折、新用户再享5折,最低1折可体验。
|
10天前
|
JSON 前端开发 API
阿里云最新Qwen4-Max大模型介绍:模型定位、特征、能力、适用场景解析
2026 年 11 月 11 日,阿里发布第四代旗舰模型Qwen4-Max预览版,首发千问 AI 平台 Token Plan,并同步接入千问办公、Qoder 等入口。该版本聚焦知识理解、世界感知、编程与 Agentic 四项升级,主打复杂编程、专业办公、前端设计与专业软件操作。预览期至 11 月 25 日 24:00,到期后模型标识下线;限时 2 折、新用户再享 5 折,最低 1 折可体验。
|
23天前
|
Linux 开发工具 iOS开发
Codex保姆级教程(下载+安装+登录+使用,含所有版本,2026最新)
Codex是OpenAI推出的开源AI编程智能体,本地运行,可理解整个代码库,支持自然语言指令改代码、执行命令、跑测试、修Bug,兼容Win/macOS/Linux。(239字)
11185 59
|
4天前
|
人工智能 弹性计算 IDE
Codex超详细入门指南(下载·安装·登录·上手,全版本覆盖,2026最新版)
适合团队落地代码规范,每次提交自动生成评审报告,降低人工CR工作量。同时支持自定义技能脚本,接入团队内部SDK说明文档,让Codex生成符合团队编码规范的代码。Codex三大客户端覆盖本地开发、服务器远程编码、自动化流水线场景,搭配阿里云百炼的Token Plan、Coding Plan,能够低成本搭建稳定可控的AI编码助手。新手建议先从IDE插件入手,熟悉交互逻辑,再尝试CLI版本部署在阿里云ECS,实现云上项目远程编码、批量脚本处理。只要按照步骤完成环境准备、版本选型、密钥对接、项目初始化,就可以把Codex融入日常开发流程,大幅提升代码编写、问题排查、项目重构的效率。
951 0
|
6天前
|
人工智能 弹性计算 开发工具
零成本玩各大模型!DeepSeek Harness dsh-our-free-model 插件,13 个厂商模型直接用
总结一下:装这个插件,你不用注册、不用绑卡、不用填一个 Key,就能在 DeepSeek Harness 里用上 DeepSeek V4.1 Flash、Kimi K3 这一批前沿模型,而且是白嫖的、还不限量。三步搞定:下载插件,复制包含 `package.json` 的插件目录路径,在「添加插件」里粘贴路径安装并重启。无论是在阿里云 ECS 上通过命令行部署的 Web 版,还是本地的 Electron 桌面端,都能顺利跑通,快速搭建一套零成本的免费模型使用环境。
1334 1
|
9天前
|
Linux API iOS开发
【DSH】DeepSeek Harness新手保姆教程(下载+安装+配置+使用,2026最新实测)
DeepSeek Harness(dsh)是DeepSeek AI开源的智能体框架,秉持“一切皆插件”理念,支持读文件、改代码、跑命令、处理表格、联网搜索等操作。免费开源,兼容Windows/macOS/Linux,提供桌面端与网页端,可灵活安装插件扩展能力。