方案测评|巧用文档智能和RAG构建大语言模型知识库

本文涉及的产品
NLP自然语言处理_基础版,每接口每天50万次
NLP自然语言处理_高级版,每接口累计50万次
NLP 自学习平台,3个模型定制额度 1个月
简介: 本文介绍了一款基于文档智能和大语言模型(LLM)的文档解析及问答应用,旨在提升企业文档管理和信息检索效率。系统通过文档解析、知识库构建和问答服务三大模块,实现了从文档上传到智能问答的全流程自动化。

一、引言

在数字化转型的浪潮中,企业对于文档处理和信息检索的需求日益增长。传统的文档管理方式往往存在效率低下、信息检索困难等问题,无法满足现代企业对于快速响应和精准决策的需求。随着大语言模型(LLM)和文档智能技术的不断发展,这些挑战得到了新的解决方案。本文将测评一款基于文档智能的文档解析处理,并结合百炼平台构建的文档问答应用,旨在探索其在企业级文档类型知识库中的实际应用效果。

二、技术背景

1、大语言模型(LLM)

大语言模型(LLM)是自然语言处理(NLP)领域的一项核心技术,它通过深度学习技术,训练出能够理解、生成自然语言的大规模神经网络模型。LLM具备强大的语义理解和生成能力,能够处理复杂的语言结构和语境,为知识问答、内容生成等场景提供了强有力的支持。

2、文档智能

文档智能技术是指利用计算机视觉、自然语言处理等技术,对文档进行解析、提取、分类等处理,以实现文档信息的智能化管理。文档智能技术能够处理多种格式的文档,包括PDF、Word、Excel等,对于表格内容、公式文本、图片内容等复杂元素也能进行有效处理。

3、检索增强生成(RAG)

检索增强生成(RAG)是一种结合了信息检索和文本生成的模型,它能够在给定的上下文中,通过检索相关信息来生成更加准确、有逻辑的回复。RAG模型能够利用检索到的信息,为LLM提供丰富的上下文信息,从而提高问答的准确性和可信度。

三、方案架构

本次测评的系统架构主要包括如下:

  • 文档解析:通过调用文档智能提供的文档解析(大模型版),将文件处理为Json对象,包含多个版面块单元。

  • 构建知识库:文档内容切片向量化存储,将多个版面块过滤非正文内容,切分成多个切块,进行向量化服务,存入知识库中。

  • 创建问答服务:当接收到一个提问时,服务首先将问题转换为内容向量,然后在知识库中进行召回,找到相关信息。接着,结合召回的内容和问题,通过语言模型进行智能问答,提供准确的回答。
    image.png

四、部署过程

一键部署,基于阿里云资源编排服务ROS(Resource Orchestration Service)实现,ROS模板已定义好脚本,可自动化地完成云资源的创建和配置,提高资源的创建和部署效率。

1、ECS配置,选择ecs.g7.large,配置实例登录密码。
image.png

2、获取百炼API-KEY
image.png

3、配置百炼APP。
image.png

4、检查配置后单击创建。
image.png

5、创建进度查看。
image.png

6、创建完成。耗时6分钟。
image.png

四、方案验证

使用文档智能(Document Mind)提供的文档解析(大模型版)解析本地文档。并将解析结果接入百炼平台创建知识库。

1、单击资源栈的输出页签,再单击体验地址对应的URL进行访问。
image.png

2、系统登录:在登录页面输入之前配置的用户名和密码,然后进行登录和体验(如果遗忘用户名可在创建ROS资源栈中的参数AppUsername找到您的设置信息)。
image.png
image.png

3、文档上传:用户可以选择本地文档并设置知识库名称。点击上传后,系统将解析文档并构建相应的知识库,最终返回文档信息、文档摘要和文档结构。

支持PDF/Doc/Docx格式,单文档最大限制100MB或1000页

image.png

4、问答服务:点击页面上方问答服务,切换到问答服务界面,然后输入知识库名称并输入针对该知识库的提问,即可获得精准的回答。
image.png
image.png

五、清理资源

1、登录ROS控制台。在左侧导航栏,选择资源栈。在资源栈页面的顶部选择部署的资源栈所在地域,找到资源栈,然后在其右侧操作列,单击删除。
image.png
image.png
image.png

2、登录百炼控制台,在数据应用 > 知识索引页面,找到知识库并点击操作栏中的删除。
image.png

在数据管理页面,找到上传的文档并点击操作栏中的删除。
image.png

六、测评结果与反馈

1、阅读本解决方案后,对解决方案的实践原理理解程度如何?是否觉得描述清晰?

  • 本方案中使用的IDP解析与传统的电子解析文本或者OCR解析文本没有对比,无法直观理解IDP解析的优势。
  • 本方案在验证过程中没有展示出RAG的实现原理,比如分片,数据索引的创建。

2、在部署体验过程中是否得到足够的引导以及文档帮助?在方案部署中遇到过哪些报错或异常?

  • 在上传文档时,总是报错上传失败,无法解析出来。重试了四次都是如此。

image.png

该文档为PDF格式,3.7M,53页。满足要求。
image.png
image.png

在百炼查看,其实都上传成功,并解析完成。
image.png
image.png
image.png
image.png

遇到上述问题,该如何处理。

  • 有些回答不完整。
    image.png

  • 希望可以对上传文件的要求做一些更具体的推荐,比如内容格式、是否文档里可以有大量图片等等。

  • 报错的信息是否能提供中文,最好再有相关的指导排障连接。

3、在部署过程中能否体验到通过文档智能和检索增强生成结合起来构建的LLM知识库的优势?

  • 方案里描述可以解析包括企业日常办公中常见的Office文档(Word/Excel/PPT )、PDF、Html、图片等在内的主流文件类型。但实践只支持PDF/Doc/Docx。是说图片在文档中可以处理,单独的图片无法解析是吗?

image.png
image.png

image.png

4、部署实践后,是否能清晰理解解决方案适用的业务场景?是否符合实际生产环境的需求?

针对实际的生产场景的建议与问题如下:

  • 单次只能上传解析一个文档,是否能支持同时解析多个文档。
  • 若企业内有多个知识库,是否在问答服务时可以下拉选择已有知识库,而非自己手动输入。
  • 自己构建的知识库,在问答时是否能增加联想功能。
  • 当企业知识库进行更新时,该如何进行处理。是需要重新导入文档再解析一遍吗?
  • 知识库的召回率与正确率该如何评估?
  • 在上传完文档解析时,没有解析进度,若文件比较大或者结构复杂,不太清楚能多久解析完成,只能干等待。
    image.png
相关文章
|
3月前
|
人工智能 自然语言处理 知识图谱
Yuxi-Know:开源智能问答系统,基于大模型RAG与知识图谱技术快速构建知识库
Yuxi-Know是一个结合大模型RAG知识库与知识图谱技术的智能问答平台,支持多格式文档处理和复杂知识关系查询,具备多模型适配和智能体拓展能力。
437 0
Yuxi-Know:开源智能问答系统,基于大模型RAG与知识图谱技术快速构建知识库
|
3月前
|
存储 人工智能 自然语言处理
RAG 实战|用 StarRocks + DeepSeek 构建智能问答与企业知识库
本文由镜舟科技解决方案架构师石强与StarRocks TSC Member赵恒联合撰写,围绕RAG(检索增强生成)技术展开,结合DeepSeek和StarRocks构建智能问答系统。RAG通过外部知识检索与AI生成相结合,解决大模型知识静态、易编造信息的问题。文章详细介绍了系统组成、操作流程及优化方法,包括DeepSeek部署、StarRocks向量索引配置、知识存储与提取等环节,并通过代码示例演示了从文本向量化到生成回答的完整过程。最后,加入RAG机制后,系统性能显著提升,支持企业级知识库与智能客服场景。文中还提供了Web可视化界面实现方案,助力开发者快速上手。
|
14天前
|
数据采集 存储 人工智能
智能体(AI Agent)开发实战之【LangChain】(二)结合大模型基于RAG实现本地知识库问答
智能体(AI Agent)开发实战之【LangChain】(二)结合大模型基于RAG实现本地知识库问答
|
2月前
|
人工智能 自然语言处理 数据库
RAG 是什么?一文带你看懂 AI 的“外挂知识库”
RAG(检索增强生成)是一种结合信息检索与文本生成的技术,通过“先查资料后回答”机制解决传统模型知识更新滞后及幻觉问题。其核心流程包括:1) 检索:从外部知识库中查找相关文本片段;2) 生成:将检索结果与用户查询输入给大语言模型生成回答。RAG利用Embedding模型将文本转为向量,通过语义匹配实现高效检索,提供更准确、实时的回答。
649 19
RAG 是什么?一文带你看懂 AI 的“外挂知识库”
|
20天前
|
人工智能 自然语言处理 JavaScript
【开源项目】MaxKB4J基于java开发的工作流和 RAG智能体的知识库问答系统
MaxKB4J是一款基于Java开发的开源LLM工作流应用与RAG知识库问答系统,结合MaxKB和FastGPT优势,支持智能客服、企业知识库等场景。它开箱即用,可直接上传/爬取文档,支持多种大模型(如Qwen、通义千问等),具备灵活的工作流编排能力,并无缝嵌入第三方系统。技术栈包括Vue.js、Springboot3、PostgreSQL等,提供稳定高效的智能问答解决方案。访问地址:`http://localhost:8080/ui/login`,项目详情见[Gitee](https://gitee.com/taisan/MaxKB4j)。
|
4月前
|
人工智能 自然语言处理 前端开发
【AI落地应用实战】大模型加速器2.0:基于 ChatDoc + TextIn ParseX+ACGE的RAG知识库问答系统
本文探讨了私有知识库问答系统的难点及解决方案,重点分析了企业知识管理中的痛点,如信息孤岛、知识传承依赖个人经验等问题。同时,介绍了IntFinQ这款知识管理工具的核心特点和实践体验,包括智能问答、深度概括与多维数据分析等功能。文章还详细描述了IntFinQ的本地化部署过程,展示了其从文档解析到知识应用的完整技术闭环,特别是自研TextIn ParseX引擎和ACGE模型的优势。最后总结了该工具对企业和开发者的价值,强调其在提升知识管理效率方面的潜力。
|
7月前
|
人工智能 安全 数据安全/隐私保护
文档智能 & RAG让AI大模型更懂业务测评
文档智能 & RAG让AI大模型更懂业务
231 74
|
6月前
|
人工智能 Serverless
两步构建 AI 总结助手,实现智能文档摘要
本方案将运用函数计算 FC,构建一套高可用性的 Web 服务,以满足用户多样化的需求。当用户发起请求时,系统内部会自动将包含文本和提示词的信息传递给百炼模型服务,百炼平台将根据后台配置调用相应的大模型服务,对文本数据进行智能识别与解析,最终将总结结果返回给用户。
393 22
|
7月前
|
人工智能
解决方案 | 文档智能 & RAG让AI大模型更懂业务获奖名单公布!
解决方案 | 文档智能 & RAG让AI大模型更懂业务获奖名单公布!
133 3
|
4月前
|
SQL 存储 关系型数据库
【YashanDB知识库】共享从 MySQL异常处理CONTINUE HANDLER的改写方法
【YashanDB知识库】共享从 MySQL异常处理CONTINUE HANDLER的改写方法

热门文章

最新文章