MiniRAG:迷你 RAG 系统加成小型语言模型,爆发出与大型语言模型相当的性能

简介: MiniRAG 是香港大学推出的新型 RAG 系统,专为资源受限场景设计,支持高效知识检索与推理,适用于多种应用场景。

❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日分享大模型与 AI 领域的最新开源项目和应用,提供运行实例和实用教程,帮助你快速上手AI技术,欢迎关注我哦!

🥦 微信公众号|搜一搜:蚝油菜花 🥦


🚀 快速阅读

  1. 高效检索:基于异构图索引机制,快速从大量数据中检索相关知识。
  2. 轻量级设计:专为小型语言模型设计,降低计算和存储需求。
  3. 强大推理:支持复杂推理任务,适用于多种应用场景。

正文(附运行示例)

MiniRAG 是什么

MiniRAG

MiniRAG 是香港大学推出的一种新型检索增强型生成(RAG)系统,专为在资源受限的场景下高效部署小型语言模型(SLMs)而设计。它通过语义感知的异构图索引机制和轻量级拓扑增强检索方法,显著降低了计算和存储需求。

MiniRAG 在实验中展现出与大型语言模型(LLMs)相当的性能,同时仅需 25% 的存储空间。该系统还提供了全面的基准数据集,用于评估轻量级 RAG 系统在现实设备场景下的表现,推动资源受限环境下高效、私密的 RAG 系统的发展。

MiniRAG 的主要功能

  • 高效的知识检索:基于独特的异构图索引机制,快速准确地从大量数据中检索出与用户查询最相关的知识。
  • 轻量级的模型兼容性:专为小型语言模型(SLMs)设计,显著降低对计算资源和存储空间的需求。
  • 强大的推理能力:借助查询引导的推理路径发现机制,处理复杂的、多步骤的推理任务。
  • 适应性强:适用于即时通讯、个人内容管理、本地文档检索等多种应用场景。

MiniRAG 的技术原理

  • 语义感知的异构图索引机制:

    • 文本块节点(Vc):保留原始文本的上下文完整性,直接参与检索阶段。
    • 实体节点(Ve):从文本块中提取的关键语义元素,如事件、地点、时间引用和领域特定概念。
    • 实体-实体连接(Eα):捕捉命名实体之间的语义关系、层次结构和时空依赖关系。
    • 实体-文本块连接(Eβ):连接命名实体及其对应的上下文,保持上下文相关性和语义连贯性。
    • 边的语义描述:基于语言模型生成的描述,为连接的节点提供明确的关系上下文。
  • 轻量级拓扑增强检索方法:

    • 查询语义映射:用实体提取和轻量级句子嵌入模型,将用户输入的查询与图索引数据进行对齐。
    • 查询驱动的推理路径发现:基于智能查询引导机制,在异构图中构建推理路径。
    • 拓扑增强的图检索:结合基于嵌入的相似性搜索和图结构的拓扑信息,识别与查询相关的高质量实体-实体连接。
    • 查询相关文本块的检索:基于实体-文本块连接,收集与推理路径相关的文本块。
    • 融合增强生成:将检索到的关键关系和最优文本块与先前确定的答案节点进行整合,构建全面且结构化的输入表示。

如何运行 MiniRAG

安装

  • 从源码安装(推荐)
cd MiniRAG
pip install -e .
  • 从 PyPI 安装(代码基于 LightRAG,因此可以直接安装)
pip install lightrag-hku

快速开始

  • 所有复现代码可以在 ./reproduce 目录下找到。
  • 下载您需要的知识库数据集。
  • 将数据集放入 ./dataset 目录下。
  • Note:我们已经将 LiHua-World 数据集以 LiHuaWorld.zip 的形式放在了 ./dataset/LiHua-World/data/ 目录下。如果您想使用其他数据集,可以将其放在 ./dataset/xxx 目录下。

然后使用以下命令对数据集进行索引:

python ./reproduce/Step_0_index.py
python ./reproduce/Step_1_QA.py

或者,使用 ./main.py 中的代码初始化 MiniRAG。

资源


❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日分享大模型与 AI 领域的最新开源项目和应用,提供运行实例和实用教程,帮助你快速上手AI技术,欢迎关注我哦!

🥦 微信公众号|搜一搜:蚝油菜花 🥦

相关文章
|
8月前
|
人工智能 弹性计算 数据可视化
2026年阿里云新老用户部署 OpenClaw(Clawdbot) 流程步骤和使用指南汇总
OpenClaw作为阿里云生态下轻量化、高适配的AI自动化代理工具,2026年版本在部署便捷性、功能扩展性上实现全面升级,成为阿里云用户实现“云端AI自动化”的核心选择。无论是个人用户快速落地基础功能,还是企业用户定制化适配业务场景,掌握标准化的部署流程与高效的使用方法都是关键。本文将从部署前准备、阿里云一键部署全流程、核心功能使用、进阶配置、常见问题解决五大维度,为阿里云用户整理一份完整的OpenClaw部署与使用指南,包含实操代码命令与场景化使用技巧,覆盖从0到1的全生命周期管理。
1414 14
|
3月前
|
人工智能 缓存 弹性计算
基于 RAG 构建企业培训 AI 学习助手——从课件解析到多轮问答的工程实践
企业培训场景下,学员需在大量 PDF 课件、PPT、Word 制度文档中查找知识点,传统关键词搜索效果差。本文介绍企学宝如何基于 RAG(检索增强生成)架构,在阿里云上构建企业培训 AI 学习助手,覆盖课件解析、语义切片、向量检索、多轮对话管理及幻觉抑制等核心环节,并分享生产环境踩坑经验。
620 1
|
存储 人工智能 自然语言处理
LangChain RAG入门教程:构建基于私有文档的智能问答助手
本文介绍如何利用检索增强生成(RAG)技术与LangChain框架构建基于特定文档集合的AI问答系统。通过结合检索系统和生成机制,RAG能有效降低传统语言模型的知识局限与幻觉问题,提升回答准确性。文章详细展示了从环境配置、知识库构建到系统集成的全流程,并提供优化策略以改进检索与响应质量。此技术适用于专业领域信息检索与生成,为定制化AI应用奠定了基础。
4572 5
LangChain RAG入门教程:构建基于私有文档的智能问答助手
|
存储 搜索推荐 数据库
🚀 RAGFlow Docker 部署全流程教程
RAGFlow是开源的下一代RAG系统,融合向量数据库与大模型,支持全文检索、插件化引擎切换,适用于企业知识库、智能客服等场景。支持Docker一键部署,提供轻量与完整版本,助力高效搭建私有化AI问答平台。
9048 8
|
11月前
|
人工智能 API 开发者
企业级大模型市场,阿里通义份额第一
国际市场调研机构沙利文(Frost&Sullivan)发布了最新的《中国GenAI市场洞察:企业级⼤模型调⽤全景研究,2025》报告——2025年上半年,中国企业级市场大模型的日均总消耗量为10.2万亿Tokens,其中,阿里通义占比17.7%位列第一,成为目前中国企业选择最多的大模型。
|
自然语言处理 算法 数据挖掘
模块化RAG技术路线图:从基础Naive RAG 到Modular RAG全方位技术解读
【8月更文挑战第12天】模块化RAG技术路线图:从基础Naive RAG 到Modular RAG全方位技术解读
5035 9
模块化RAG技术路线图:从基础Naive RAG 到Modular RAG全方位技术解读
|
机器学习/深度学习 自然语言处理 算法
48_动态架构模型:NAS在LLM中的应用
大型语言模型(LLM)在自然语言处理领域的突破性进展,很大程度上归功于其庞大的参数量和复杂的网络架构。然而,随着模型规模的不断增长,计算资源消耗、推理延迟和部署成本等问题日益凸显。如何在保持模型性能的同时,优化模型架构以提高效率,成为2025年大模型研究的核心方向之一。神经架构搜索(Neural Architecture Search, NAS)作为一种自动化的网络设计方法,正在为这一挑战提供创新性解决方案。本文将深入探讨NAS技术如何应用于LLM的架构优化,特别是在层数与维度调整方面的最新进展,并通过代码实现展示简单的NAS实验。
585 0
项目中使用antd中的upload组件file对象到底是info.file还是info.file.originFileObj_坑
在Ant Design的Upload组件中,`onChange`事件处理函数接收一个对象参数,其中`file`字段在不同情况下可能是一个File对象或包含`originFileObj`属性的对象。为了兼容,可以使用`info.file.originFileObj ? info.file.originFileObj : info.file`来确保获取到原始的File对象。官方建议这种写法,并将在未来的大版本中统一返回包含`originFileObj`属性的对象。
1021 1
项目中使用antd中的upload组件file对象到底是info.file还是info.file.originFileObj_坑

热门文章

最新文章