Cognita:小白也能搭建 RAG 系统,提供交互界面的开源模块化 RAG 框架,支持多种文档检索技术

简介: Cognita 是一个面向生产环境的开源模块化 RAG 框架,支持本地部署、无代码 UI 和增量索引,帮助开发者轻松构建和扩展生产级应用。

❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!

🥦 微信公众号|搜一搜:蚝油菜花 🥦


🚀 快速阅读

  1. 模块化架构:Cognita 提供模块化的 RAG 组件,每个组件都通过 API 驱动,易于扩展和集成。
  2. 生产环境支持:支持本地快速测试和生产级部署,提供无代码 UI,非技术用户也能轻松使用。
  3. 增量索引:默认支持增量索引,减少文档更新时的计算负担,提升系统效率。

正文(附运行示例)

Cognita 是什么

公众号: 蚝油菜花 - cognita

Cognita 是一个开源的模块化 RAG(Retrieval Augmented Generation)框架,旨在帮助开发者构建模块化、易于扩展和部署的生产级应用程序。Cognita 基于 Langchain 和 LlamaIndex 技术,提供了代码组织结构,使得每个组件都能通过 API 驱动,易于管理和扩展。

Cognita 支持本地部署,提供生产就绪环境及无代码 UI 支持,默认支持增量索引功能。基于 Cognita,用户可以轻松地测试和部署 RAG 系统,支持非技术用户通过 UI 与系统交互。

Cognita 的主要功能

  • 模块化和API驱动的架构:Cognita 的每个组件都是模块化的,能够通过 API 进行交互,便于集成和扩展。
  • 本地和生产环境支持:支持在本地环境快速设置和测试,提供生产级别的部署选项。
  • 无代码UI:提供一个用户界面,支持非技术用户上传文档和执行问答,无需编写代码。
  • 增量索引:支持增量索引,有效地处理文档更新,减少计算负担。
  • 多文档检索器支持:支持多种文档检索技术,如相似性搜索、查询分解和文档重排。

Cognita 的技术原理

  • 数据索引:基于索引作业,定期扫描数据源中的文件,将其解析成小块,使用嵌入模型生成嵌入向量,存储在向量数据库中。
  • 查询服务:使用 API 服务器(如 FastAPI)处理查询,生成答案。涉及使用 AI 网关处理用户查询,与向量数据库交互检索相关信息,最终使用 LLM 生成答案。
  • LLM/嵌入模型部署:将 LLM 和嵌入模型作为单独的服务部署,基于 API 进行调用。
  • 向量数据库部署:支持在生产环境中部署向量数据库,支持大规模和可靠的数据存储和检索。
  • RAG组件:将 RAG 系统分解为多个组件,包括数据源、元数据存储、LLM 网关、向量数据库、索引作业和 API 服务器,每个组件都能通过 UI 或 API 进行配置和管理。

如何运行 Cognita

1. 使用 Docker Compose 运行 Cognita(推荐)

Cognita 及其所有服务都可以通过 Docker Compose 运行。这是推荐的本地运行方式。首先,安装 Docker 和 Docker Compose。

docker-compose --env-file compose.env up

2. 配置模型提供者

在启动服务之前,需要配置模型提供者以进行嵌入和生成答案。复制 models_config.sample.yaml 到 models_config.yaml,并根据需要修改配置。

cp models_config.sample.yaml models_config.yaml

3. 启动服务

启动服务后,可以通过以下 URL 访问各个服务:

  • Qdrant 服务器:http://localhost:6333
  • 后端服务器:http://localhost:8000
  • 前端界面:http://localhost:5001

资源


❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!

🥦 微信公众号|搜一搜:蚝油菜花 🥦

相关文章
|
存储 设计模式 算法
DDD之于业务支撑的意义
DDD之于业务支撑的意义
588 0
|
Java 数据库连接 mybatis
MybatisPlus分页查询
本文讲解MybatisPlus分页查询的方法。
6043 0
MybatisPlus分页查询
|
6月前
|
人工智能 Java API
别再自己写 AI Agent 了!Dify vs FastGPT vs RAGFlow 对比
本文对比Dify、FastGPT、RAGFlow三大开源AI Agent平台,从Java开发者视角解析其定位、RAG/Agent能力、部署难度、Spring集成度及二次开发成本。Dify成熟稳健,适合企业级应用;FastGPT轻量易用,适合快速原型;RAGFlow文档处理最强,专精复杂PDF/合同场景。助你高效选型,避免重复造轮子。
3437 3
|
6月前
|
存储 缓存 自然语言处理
从零搭建企业私有知识库:RAG + 大模型实战(附完整代码)
本文详解如何用RAG技术构建企业私有知识库:支持PDF/TXT/DOCX等文档上传、向量化存储与智能问答,让大模型精准理解业务数据,兼顾数据隐私、领域专业性与实时性,附完整代码与部署方案。
10824 1
|
人工智能 API 开发工具
AutoGen - 架构学习指南
AutoGen 是微软开源的 AI Agent 框架,支持多智能体协作与分布式部署。本指南从架构解析、技能清单到学习路径,带你由浅入深掌握其核心原理与实战应用,助力构建可扩展的智能系统。
3456 5
|
存储 人工智能 数据可视化
阿里云向量引擎快速搭建企业级RAG最佳实践
本文介绍了基于阿里云搭建RAG(检索增强生成)应用的技术分享。首先回顾了RAG技术背景及其面临的挑战,如大模型幻觉、知识局限和数据安全问题。接着详细讲解了阿里云提供的RAG技术架构,涵盖数据处理、模型服务和高性能检索引擎等多方面能力。最后,通过自研引擎与开源组件的结合,展示了如何快速构建RAG应用,并提供端到端的最佳实践方案,确保系统在企业级应用中的高效性和成本优化。
|
12月前
|
存储 缓存 安全
全网最全面介绍唯品会API接口指南
唯品会API助力开发者高效集成商品、订单、用户等功能。本指南详解注册、认证、调用步骤,提供Python示例与安全最佳实践,助你快速上手电商应用开发。(239字)
|
存储 人工智能 搜索推荐
RAG系统的7个检索指标:信息检索任务准确性评估指南
大型语言模型(LLMs)在生成式AI领域备受关注,但其知识局限性和幻觉问题仍具挑战。检索增强生成(RAG)通过引入外部知识和上下文,有效解决了这些问题,并成为2024年最具影响力的AI技术之一。RAG评估需超越简单的实现方式,建立有效的性能度量标准。本文重点讨论了七个核心检索指标,包括准确率、精确率、召回率、F1分数、平均倒数排名(MRR)、平均精确率均值(MAP)和归一化折损累积增益(nDCG),为评估和优化RAG系统提供了重要依据。这些指标不仅在RAG中发挥作用,还广泛应用于搜索引擎、电子商务、推荐系统等领域。
9293 2
RAG系统的7个检索指标:信息检索任务准确性评估指南

热门文章

最新文章