方案测评|巧用文档智能和RAG构建大语言模型知识库

本文涉及的产品
NLP自然语言处理_高级版,每接口累计50万次
NLP自然语言处理_基础版,每接口每天50万次
NLP 自学习平台,3个模型定制额度 1个月
简介: 本文介绍了一款基于文档智能和大语言模型(LLM)的文档解析及问答应用,旨在提升企业文档管理和信息检索效率。系统通过文档解析、知识库构建和问答服务三大模块,实现了从文档上传到智能问答的全流程自动化。

一、引言

在数字化转型的浪潮中,企业对于文档处理和信息检索的需求日益增长。传统的文档管理方式往往存在效率低下、信息检索困难等问题,无法满足现代企业对于快速响应和精准决策的需求。随着大语言模型(LLM)和文档智能技术的不断发展,这些挑战得到了新的解决方案。本文将测评一款基于文档智能的文档解析处理,并结合百炼平台构建的文档问答应用,旨在探索其在企业级文档类型知识库中的实际应用效果。

二、技术背景

1、大语言模型(LLM)

大语言模型(LLM)是自然语言处理(NLP)领域的一项核心技术,它通过深度学习技术,训练出能够理解、生成自然语言的大规模神经网络模型。LLM具备强大的语义理解和生成能力,能够处理复杂的语言结构和语境,为知识问答、内容生成等场景提供了强有力的支持。

2、文档智能

文档智能技术是指利用计算机视觉、自然语言处理等技术,对文档进行解析、提取、分类等处理,以实现文档信息的智能化管理。文档智能技术能够处理多种格式的文档,包括PDF、Word、Excel等,对于表格内容、公式文本、图片内容等复杂元素也能进行有效处理。

3、检索增强生成(RAG)

检索增强生成(RAG)是一种结合了信息检索和文本生成的模型,它能够在给定的上下文中,通过检索相关信息来生成更加准确、有逻辑的回复。RAG模型能够利用检索到的信息,为LLM提供丰富的上下文信息,从而提高问答的准确性和可信度。

三、方案架构

本次测评的系统架构主要包括如下:

  • 文档解析:通过调用文档智能提供的文档解析(大模型版),将文件处理为Json对象,包含多个版面块单元。

  • 构建知识库:文档内容切片向量化存储,将多个版面块过滤非正文内容,切分成多个切块,进行向量化服务,存入知识库中。

  • 创建问答服务:当接收到一个提问时,服务首先将问题转换为内容向量,然后在知识库中进行召回,找到相关信息。接着,结合召回的内容和问题,通过语言模型进行智能问答,提供准确的回答。
    image.png

四、部署过程

一键部署,基于阿里云资源编排服务ROS(Resource Orchestration Service)实现,ROS模板已定义好脚本,可自动化地完成云资源的创建和配置,提高资源的创建和部署效率。

1、ECS配置,选择ecs.g7.large,配置实例登录密码。
image.png

2、获取百炼API-KEY
image.png

3、配置百炼APP。
image.png

4、检查配置后单击创建。
image.png

5、创建进度查看。
image.png

6、创建完成。耗时6分钟。
image.png

四、方案验证

使用文档智能(Document Mind)提供的文档解析(大模型版)解析本地文档。并将解析结果接入百炼平台创建知识库。

1、单击资源栈的输出页签,再单击体验地址对应的URL进行访问。
image.png

2、系统登录:在登录页面输入之前配置的用户名和密码,然后进行登录和体验(如果遗忘用户名可在创建ROS资源栈中的参数AppUsername找到您的设置信息)。
image.png
image.png

3、文档上传:用户可以选择本地文档并设置知识库名称。点击上传后,系统将解析文档并构建相应的知识库,最终返回文档信息、文档摘要和文档结构。

支持PDF/Doc/Docx格式,单文档最大限制100MB或1000页

image.png

4、问答服务:点击页面上方问答服务,切换到问答服务界面,然后输入知识库名称并输入针对该知识库的提问,即可获得精准的回答。
image.png
image.png

五、清理资源

1、登录ROS控制台。在左侧导航栏,选择资源栈。在资源栈页面的顶部选择部署的资源栈所在地域,找到资源栈,然后在其右侧操作列,单击删除。
image.png
image.png
image.png

2、登录百炼控制台,在数据应用 > 知识索引页面,找到知识库并点击操作栏中的删除。
image.png

在数据管理页面,找到上传的文档并点击操作栏中的删除。
image.png

六、测评结果与反馈

1、阅读本解决方案后,对解决方案的实践原理理解程度如何?是否觉得描述清晰?

  • 本方案中使用的IDP解析与传统的电子解析文本或者OCR解析文本没有对比,无法直观理解IDP解析的优势。
  • 本方案在验证过程中没有展示出RAG的实现原理,比如分片,数据索引的创建。

2、在部署体验过程中是否得到足够的引导以及文档帮助?在方案部署中遇到过哪些报错或异常?

  • 在上传文档时,总是报错上传失败,无法解析出来。重试了四次都是如此。

image.png

该文档为PDF格式,3.7M,53页。满足要求。
image.png
image.png

在百炼查看,其实都上传成功,并解析完成。
image.png
image.png
image.png
image.png

遇到上述问题,该如何处理。

  • 有些回答不完整。
    image.png

  • 希望可以对上传文件的要求做一些更具体的推荐,比如内容格式、是否文档里可以有大量图片等等。

  • 报错的信息是否能提供中文,最好再有相关的指导排障连接。

3、在部署过程中能否体验到通过文档智能和检索增强生成结合起来构建的LLM知识库的优势?

  • 方案里描述可以解析包括企业日常办公中常见的Office文档(Word/Excel/PPT )、PDF、Html、图片等在内的主流文件类型。但实践只支持PDF/Doc/Docx。是说图片在文档中可以处理,单独的图片无法解析是吗?

image.png
image.png

image.png

4、部署实践后,是否能清晰理解解决方案适用的业务场景?是否符合实际生产环境的需求?

针对实际的生产场景的建议与问题如下:

  • 单次只能上传解析一个文档,是否能支持同时解析多个文档。
  • 若企业内有多个知识库,是否在问答服务时可以下拉选择已有知识库,而非自己手动输入。
  • 自己构建的知识库,在问答时是否能增加联想功能。
  • 当企业知识库进行更新时,该如何进行处理。是需要重新导入文档再解析一遍吗?
  • 知识库的召回率与正确率该如何评估?
  • 在上传完文档解析时,没有解析进度,若文件比较大或者结构复杂,不太清楚能多久解析完成,只能干等待。
    image.png
相关文章
|
5天前
|
存储 人工智能 自然语言处理
RAG:增强大模型知识库的新范式
RAG:增强大模型知识库的新范式
246 99
|
5月前
|
人工智能 自然语言处理 知识图谱
Yuxi-Know:开源智能问答系统,基于大模型RAG与知识图谱技术快速构建知识库
Yuxi-Know是一个结合大模型RAG知识库与知识图谱技术的智能问答平台,支持多格式文档处理和复杂知识关系查询,具备多模型适配和智能体拓展能力。
1173 55
Yuxi-Know:开源智能问答系统,基于大模型RAG与知识图谱技术快速构建知识库
|
22天前
|
存储 人工智能 运维
AI 网关代理 RAG 检索:Dify 轻松对接外部知识库的新实践
Higress AI 网关通过提供关键桥梁作用,支持 Dify 应用便捷对接业界成熟的 RAG 引擎。通过 AI 网关将 Dify 的高效编排能力与专业 RAG 引擎的检索效能结合,企业可在保留现有 Dify 应用资产的同时,有效规避其内置 RAG 的局限,显著提升知识驱动型 AI 应用的生产环境表现。
529 60
|
18天前
|
存储 数据采集 人工智能
切块、清洗、烹饪:RAG知识库构建的三步曲
大语言模型明明已经喂了大量文档,为什么还是答非所问?就像米其林厨师需要精心处理食材,RAG系统也需要巧妙处理文档。从文本分块、清洗到结构化索引,这些不起眼的处理步骤决定了AI回答质量的上限。掌握这些技巧,让你的RAG系统从「路边摊」蜕变为「米其林餐厅」。
|
30天前
|
人工智能 自然语言处理 Java
从青铜到王者,DeepSeek+Spring AI 搭建 RAG 知识库
本文介绍了基于RAG(检索增强生成)技术构建知识库的原理与实现方法。RAG通过结合检索与生成模型,提升大语言模型在问答任务中的准确性与相关性,有效缓解“幻觉”问题。文章还详细讲解了如何利用DeepSeek与SpringAI搭建高效RAG系统,并提供了完整的Java代码示例,帮助开发者快速实现文档处理、向量存储与智能问答功能。适用于智能客服、内容生成、辅助决策等多个场景。
400 2
|
5月前
|
存储 人工智能 自然语言处理
RAG 实战|用 StarRocks + DeepSeek 构建智能问答与企业知识库
本文由镜舟科技解决方案架构师石强与StarRocks TSC Member赵恒联合撰写,围绕RAG(检索增强生成)技术展开,结合DeepSeek和StarRocks构建智能问答系统。RAG通过外部知识检索与AI生成相结合,解决大模型知识静态、易编造信息的问题。文章详细介绍了系统组成、操作流程及优化方法,包括DeepSeek部署、StarRocks向量索引配置、知识存储与提取等环节,并通过代码示例演示了从文本向量化到生成回答的完整过程。最后,加入RAG机制后,系统性能显著提升,支持企业级知识库与智能客服场景。文中还提供了Web可视化界面实现方案,助力开发者快速上手。
|
28天前
|
存储 自然语言处理 前端开发
百亿级知识库解决方案:从零带你构建高并发RAG架构(附实践代码)
本文详解构建高效RAG系统的关键技术,涵盖基础架构、高级查询转换、智能路由、索引优化、噪声控制与端到端评估,助你打造稳定、精准的检索增强生成系统。
242 1
|
1月前
|
人工智能 监控 算法
构建时序感知的智能RAG系统:让AI自动处理动态数据并实时更新知识库
本文系统构建了一个基于时序管理的智能体架构,旨在应对动态知识库(如财务报告、技术文档)在问答任务中的演进与不确定性。通过六层设计(语义分块、原子事实提取、实体解析、时序失效处理、知识图构建、优化知识库),实现了从原始文档到结构化、时间感知知识库的转化。该架构支持RAG和多智能体系统,提升了推理逻辑性与准确性,并通过LangGraph实现自动化工作流,强化了对持续更新信息的处理能力。
208 4
|
1月前
|
存储 人工智能 文字识别
从零开始打造AI测试平台:文档解析与知识库构建详解
AI时代构建高效测试平台面临新挑战。本文聚焦AI问答系统知识库建设,重点解析文档解析关键环节,为测试工程师提供实用技术指导和测试方法论