七种RAG架构cheat sheet!

本文涉及的产品
阿里云百炼推荐规格 ADB PostgreSQL,4核16GB 100GB 1个月
简介: RAG 即检索增强生成,是一种结合检索技术和生成模型的人工智能方法。Weaviate厂商给出了七种RAG架构cheat sheet。

RAG 即检索增强生成(Retrieval - Augmented Generation ),是一种结合检索技术和生成模型的人工智能方法。

Weaviate 是一个开源的向量数据库,专为 AI 原生应用设计,能够高效地存储和检索数据对象及其向量嵌入。它结合了语义搜索、结构化过滤和机器学习集成,能够处理跨多种数据类型(如文本、图像等)的复杂查询。

Weaviate 面向的就是RAG使用场景,给出了七种RAG架构cheat sheet。

RAG 分为两个阶段:索引阶段查询阶段,每个阶段都有超多硬核技术加持!💡

索引阶段 📂

  1. Embedding model:嵌入模型,把数据变成低维向量,计算机秒懂!
  2. Generative model:生成模型,文本、图像随便生成,创意无限!
  3. Reranker model:重排序模型,检索结果重新排,相关性拉满!
  4. Vector database:向量数据库,存储向量数据,检索快到飞起!
  5. Prompt template:提示模板,指导模型生成特定格式,输出超精准!

查询阶段 🔍

  1. Multimodal embedding model:多模态嵌入模型,图像、文本全搞定,统一嵌入表示!
  2. Multimodal generative model:多模态生成模型,多种数据结合生成,输出超丰富!
  3. LLM Graph Generator:大语言模型图生成器,生成图结构数据,复杂关系轻松搞定!
  4. Graph database:图数据库,存储图结构数据,图查询操作超高效!
  5. AI agent:AI 代理,代表用户执行任务,决策交互超智能!

Weaviate 的 7 种 RAG 架构 🧩

以下是Weaviate官方总结的七种RAG(Retrieval-Augmented Generation)架构的核心要点速查表,涵盖核心原理、优缺点及适用场景。

20250110093655 (1).png

1. Naive RAG(朴素RAG)

  • 核心原理:基于文档分块检索,直接将检索结果输入生成模型生成答案,包含检索模块(向量/关键词搜索)和生成模块(LLM)。
  • 优点:简单易实现、低延迟、模块化设计。
  • 缺点:检索结果质量不稳定、缺乏上下文整合、易受噪声影响。
  • 适用场景:基础问答、小型知识库、对精度要求不高的场景。

2. Retrieve-and-Rerank RAG(检索与重排序RAG)

  • 核心原理:在Naive RAG基础上增加重排序模块(如Cross-Encoder或BERT模型),优化检索结果相关性。
  • 优点:提升生成质量、减少噪声干扰、支持领域优化(如法律/医学)。
  • 缺点:计算成本增加、依赖重排序模型性能。
  • 适用场景:高精度问答(法律文档、技术文档)。

3. Multimodal RAG(多模态RAG)

  • 核心原理:支持多模态数据(文本、图像、视频等)的检索与生成,利用跨模态模型(如CLIP)对齐语义。
  • 优点:信息表达丰富、支持跨模态查询(如图像问答)、增强上下文理解。
  • 缺点:实现复杂、计算资源消耗高、需多模态训练数据。
  • 适用场景:电商推荐、医疗影像分析、多模态内容生成。

4. Graph RAG(图RAG)

  • 核心原理:利用图数据库(如Neo4j)存储实体关系,通过图查询实现多跳推理和语义关联检索。
  • 优点:捕捉复杂关系(因果、层级)、支持动态更新、增强推理能力。
  • 缺点:图构建和维护成本高、依赖图数据质量。
  • 适用场景:知识图谱问答、科研文献分析、复杂关系推理(医学/法律)。

5. Hybrid RAG(混合RAG)

  • 核心原理:结合多种检索策略(如向量检索+关键词检索+图检索),融合结果后生成答案。
  • 优点:检索覆盖率高、灵活适配多场景、抗噪声能力强。
  • 缺点:系统复杂度高、需协调多模块权重。
  • 适用场景:知识库质量参差不齐、需多策略互补的场景。

6. Agentic RAG (Router)(路由RAG)

  • 核心原理:通过智能路由器(基于LLM)动态分配查询至不同模块(如专用知识库、API等)。
  • 优点:动态负载均衡、支持多数据源、模块扩展性强。
  • 缺点:路由策略设计复杂、多模块整合难度高。
  • 适用场景:多任务类型(跨API/数据库)、企业知识管理。

7. Agentic RAG (Multi-Agent)(多智能体RAG)

  • 核心原理:多个智能体协同处理任务(如并行检索数据库、搜索引擎、邮件系统),整合结果生成答案。
  • 优点:高度模块化、并行处理效率高、支持复杂任务自动化。
  • 缺点:代理协作机制复杂、通信开销大。
  • 适用场景:超大规模任务(多轮对话、跨工具协作)。

对架构选择的建议

  1. 基础场景:优先选择Naive RAGRetrieve-and-Rerank,平衡速度与精度。
  2. 多模态需求:采用Multimodal RAG,结合CLIP等跨模态模型。
  3. 复杂关系推理Graph RAGHybrid RAG更适合知识图谱和结构化数据。
  4. 动态任务分配Agentic RAG系列适用于多数据源、多工具集成的企业级应用。

扩展工具与资源

  • Weaviate部署:通过Docker快速部署并集成LangChain实现RAG流程。
  • 优化技巧:使用混合搜索(alpha参数调优)、查询重写(Query Rewriting)、自剪枝(Autocut)提升生成质量。
  • 开源框架:参考TrustRAG项目实现模块化设计。

Spring Boot 集成 LLM 的 RAG(Retrieval-Augmented Generation)架构框架、技术选型与核心工作流

Springboot使用RAG的流程一般是这样的:

用户请求 → Spring Boot 应用 → 检索模块(Weaviate) → 生成模块(LLM) → 返回回答  
           ↑  
          数据预处理(分块/向量化) → 向量数据库

RAG 系统分为三大核心模块

  1. 数据预处理模块

    • 负责文档加载、解析(PDF/Word/HTML等)、分块(按段落、句子或固定长度)和向量化。
    • 支持多模态数据(文本、图像等)的分块和向量生成。
  2. 检索模块

    • 基于向量数据库(如 Weaviate)实现语义搜索,支持混合检索(向量+关键词)。
    • 可选重排序(Reranking)模块优化检索结果。
  3. 生成模块

    • 集成大语言模型(LLM),将检索到的上下文与用户查询结合生成最终回答。
    • 支持多种 LLM 服务(如 OpenAI、本地部署的 Llama 3 等)。

核心工作流

1. 数据准备阶段

  1. 文档解析:从本地文件、数据库或 API 加载原始文档。
  2. 分块处理:根据语义或固定长度切割文档,保留元数据(来源、时间等)。
  3. 向量生成:调用嵌入模型(如 OpenAI text-embedding-3-small)生成块向量。
  4. 向量存储:将向量与原始文本存入向量数据库,建立索引。

2. 用户查询阶段

  1. 查询向量化:将用户输入转换为向量。
  2. 上下文检索
    • 通过向量数据库检索 Top-K 相关文档块。
    • 可选重排序模型(如 Cohere Rerank)优化结果。
  3. 上下文过滤:基于阈值(如相似度 > 0.7)过滤低质量结果。

3. 回答生成阶段

  1. Prompt 构建:将用户查询与检索结果组合为 LLM 输入,例如:

    “基于以下上下文回答问题:  
    [上下文1] ...  
    [上下文2] ...  
    问题:{用户输入}”
    
  2. 模型调用:发送 Prompt 至 LLM,配置生成参数(温度值、最大长度等)。

  3. 结果后处理:过滤敏感内容、格式化输出(如 Markdown 表格、列表)。

技术选型建议

1. 向量数据库

  • Weaviate:支持多模态、内置混合搜索(BM25 + 向量)、低延迟,适合复杂查询场景。
  • Qdrant:轻量级、高吞吐量,适合中小规模部署。
  • Milvus:分布式架构,适合超大规模数据(亿级向量)。

2. LLM 服务

  • 云端 API:OpenAI GPT、DeepSeek。
  • 本地部署:Ollama、vLLM。

3. 数据分块策略

  • 固定长度分块:简单但可能破坏语义(如 512 字符)。
  • 语义分块:基于 NLP 模型(如 Sentence-BERT)识别段落边界。
  • 多粒度分块:结合粗粒度(文档级)和细粒度(段落级)提升召回率。

4. 检索策略

  • 纯向量检索:适合语义相关性强的场景(如问答)。
  • 混合检索:结合向量与关键词(BM25),提升多样性和覆盖率。
  • 图增强检索:集成知识图谱(如 Neo4j)支持多跳推理。

扩展与优化方向

  1. 性能优化
    • 异步处理分块和向量生成。
    • 缓存高频查询结果(如 Redis)。
  2. 质量提升
    • 引入自检机制(Self-RAG)让 LLM 评估自身回答的可靠性。
    • 动态调整检索范围(如小范围精确检索 + 大范围兜底检索)。
  3. 安全与合规
    • 敏感信息过滤(如 PII 数据脱敏)。
    • 审计日志记录查询和生成过程。

关于作者

开发|界面|引擎|交付|副驾——重写全栈法则:AI原生的倍速造应用流

来自全栈程序员nine的探索与实践,持续迭代中。(🛰️codetrend)

#RAG架构 #Weaviate #AI技术 #技术分享 #多模态 #知识图谱 #智能代理

相关实践学习
阿里云百炼xAnalyticDB PostgreSQL构建AIGC应用
通过该实验体验在阿里云百炼中构建企业专属知识库构建及应用全流程。同时体验使用ADB-PG向量检索引擎提供专属安全存储,保障企业数据隐私安全。
AnalyticDB PostgreSQL 企业智能数据中台:一站式管理数据服务资产
企业在数据仓库之上可构建丰富的数据服务用以支持数据应用及业务场景;ADB PG推出全新企业智能数据平台,用以帮助用户一站式的管理企业数据服务资产,包括创建, 管理,探索, 监控等; 助力企业在现有平台之上快速构建起数据服务资产体系
目录
相关文章
|
9月前
|
人工智能 自然语言处理 数据库
AI - RAG架构
AI-RAG架构
248 0
|
7天前
|
存储 缓存 自然语言处理
浏览量超 10w 的热图,描述 RAG 的主流架构
大模型性能的持续提升,进一步挖掘了 RAG 的潜力,RAG 将检索系统与生成模型相结合,带来诸多优势,如实时更新知识、降低成本等。点击本文,为您梳理 RAG 的基本信息,并介绍提升大模型生成结果的方法,快一起看看吧~
|
4月前
|
存储 人工智能 算法
精通RAG架构:从0到1,基于LLM+RAG构建生产级企业知识库
为了帮助更多人掌握大模型技术,尼恩和他的团队编写了《LLM大模型学习圣经》系列文档,包括《从0到1吃透Transformer技术底座》、《从0到1精通RAG架构,基于LLM+RAG构建生产级企业知识库》和《从0到1吃透大模型的顶级架构》。这些文档不仅系统地讲解了大模型的核心技术,还提供了实战案例和配套视频,帮助读者快速上手。
精通RAG架构:从0到1,基于LLM+RAG构建生产级企业知识库
|
9月前
|
机器学习/深度学习 算法 atlas
RAG 2.0架构详解:构建端到端检索增强生成系统
RAG(检索增强生成)旨在通过提供额外上下文帮助大型语言模型(LLM)生成更精准的回答。现有的RAG系统由独立组件构成,效率不高。RAG 2.0提出了一种预训练、微调和对齐所有组件的集成方法,通过双重反向传播最大化性能。文章探讨了不同的检索策略,如TF-IDF、BM25和密集检索,并介绍了如SPLADE、DRAGON等先进算法。目前的挑战包括创建可训练的检索器和优化检索-生成流程。研究表明,端到端训练的RAG可能提供最佳性能,但资源需求高。未来研究需关注检索器的上下文化和与LLM的协同优化。
1221 1
|
2月前
|
弹性计算 API 持续交付
后端服务架构的微服务化转型
本文旨在探讨后端服务从单体架构向微服务架构转型的过程,分析微服务架构的优势和面临的挑战。文章首先介绍单体架构的局限性,然后详细阐述微服务架构的核心概念及其在现代软件开发中的应用。通过对比两种架构,指出微服务化转型的必要性和实施策略。最后,讨论了微服务架构实施过程中可能遇到的问题及解决方案。
|
3月前
|
Cloud Native Devops 云计算
云计算的未来:云原生架构与微服务的革命####
【10月更文挑战第21天】 随着企业数字化转型的加速,云原生技术正迅速成为IT行业的新宠。本文深入探讨了云原生架构的核心理念、关键技术如容器化和微服务的优势,以及如何通过这些技术实现高效、灵活且可扩展的现代应用开发。我们将揭示云原生如何重塑软件开发流程,提升业务敏捷性,并探索其对企业IT架构的深远影响。 ####
80 3
|
3月前
|
Cloud Native 安全 数据安全/隐私保护
云原生架构下的微服务治理与挑战####
随着云计算技术的飞速发展,云原生架构以其高效、灵活、可扩展的特性成为现代企业IT架构的首选。本文聚焦于云原生环境下的微服务治理问题,探讨其在促进业务敏捷性的同时所面临的挑战及应对策略。通过分析微服务拆分、服务间通信、故障隔离与恢复等关键环节,本文旨在为读者提供一个关于如何在云原生环境中有效实施微服务治理的全面视角,助力企业在数字化转型的道路上稳健前行。 ####
|
2月前
|
Java 开发者 微服务
从单体到微服务:如何借助 Spring Cloud 实现架构转型
**Spring Cloud** 是一套基于 Spring 框架的**微服务架构解决方案**,它提供了一系列的工具和组件,帮助开发者快速构建分布式系统,尤其是微服务架构。
289 69
从单体到微服务:如何借助 Spring Cloud 实现架构转型
|
6天前
|
传感器 监控 安全
智慧工地云平台的技术架构解析:微服务+Spring Cloud如何支撑海量数据?
慧工地解决方案依托AI、物联网和BIM技术,实现对施工现场的全方位、立体化管理。通过规范施工、减少安全隐患、节省人力、降低运营成本,提升工地管理的安全性、效率和精益度。该方案适用于大型建筑、基础设施、房地产开发等场景,具备微服务架构、大数据与AI分析、物联网设备联网、多端协同等创新点,推动建筑行业向数字化、智能化转型。未来将融合5G、区块链等技术,助力智慧城市建设。
|
2月前
|
设计模式 负载均衡 监控
探索微服务架构下的API网关设计
在微服务的大潮中,API网关如同一座桥梁,连接着服务的提供者与消费者。本文将深入探讨API网关的核心功能、设计原则及实现策略,旨在为读者揭示如何构建一个高效、可靠的API网关。通过分析API网关在微服务架构中的作用和挑战,我们将了解到,一个优秀的API网关不仅要处理服务路由、负载均衡、认证授权等基础问题,还需考虑如何提升系统的可扩展性、安全性和可维护性。文章最后将提供实用的代码示例,帮助读者更好地理解和应用API网关的设计概念。
104 8

热门文章

最新文章