方案测评|巧用文档智能和RAG构建大语言模型知识库

本文涉及的产品
全局流量管理 GTM,标准版 1个月
NLP 自学习平台,3个模型定制额度 1个月
NLP自然语言处理_高级版,每接口累计50万次
简介: 本文介绍了一款基于文档智能和大语言模型(LLM)的文档解析及问答应用,旨在提升企业文档管理和信息检索效率。系统通过文档解析、知识库构建和问答服务三大模块,实现了从文档上传到智能问答的全流程自动化。

一、引言

在数字化转型的浪潮中,企业对于文档处理和信息检索的需求日益增长。传统的文档管理方式往往存在效率低下、信息检索困难等问题,无法满足现代企业对于快速响应和精准决策的需求。随着大语言模型(LLM)和文档智能技术的不断发展,这些挑战得到了新的解决方案。本文将测评一款基于文档智能的文档解析处理,并结合百炼平台构建的文档问答应用,旨在探索其在企业级文档类型知识库中的实际应用效果。

二、技术背景

1、大语言模型(LLM)

大语言模型(LLM)是自然语言处理(NLP)领域的一项核心技术,它通过深度学习技术,训练出能够理解、生成自然语言的大规模神经网络模型。LLM具备强大的语义理解和生成能力,能够处理复杂的语言结构和语境,为知识问答、内容生成等场景提供了强有力的支持。

2、文档智能

文档智能技术是指利用计算机视觉、自然语言处理等技术,对文档进行解析、提取、分类等处理,以实现文档信息的智能化管理。文档智能技术能够处理多种格式的文档,包括PDF、Word、Excel等,对于表格内容、公式文本、图片内容等复杂元素也能进行有效处理。

3、检索增强生成(RAG)

检索增强生成(RAG)是一种结合了信息检索和文本生成的模型,它能够在给定的上下文中,通过检索相关信息来生成更加准确、有逻辑的回复。RAG模型能够利用检索到的信息,为LLM提供丰富的上下文信息,从而提高问答的准确性和可信度。

三、方案架构

本次测评的系统架构主要包括如下:

  • 文档解析:通过调用文档智能提供的文档解析(大模型版),将文件处理为Json对象,包含多个版面块单元。

  • 构建知识库:文档内容切片向量化存储,将多个版面块过滤非正文内容,切分成多个切块,进行向量化服务,存入知识库中。

  • 创建问答服务:当接收到一个提问时,服务首先将问题转换为内容向量,然后在知识库中进行召回,找到相关信息。接着,结合召回的内容和问题,通过语言模型进行智能问答,提供准确的回答。
    image.png

四、部署过程

一键部署,基于阿里云资源编排服务ROS(Resource Orchestration Service)实现,ROS模板已定义好脚本,可自动化地完成云资源的创建和配置,提高资源的创建和部署效率。

1、ECS配置,选择ecs.g7.large,配置实例登录密码。
image.png

2、获取百炼API-KEY
image.png

3、配置百炼APP。
image.png

4、检查配置后单击创建。
image.png

5、创建进度查看。
image.png

6、创建完成。耗时6分钟。
image.png

四、方案验证

使用文档智能(Document Mind)提供的文档解析(大模型版)解析本地文档。并将解析结果接入百炼平台创建知识库。

1、单击资源栈的输出页签,再单击体验地址对应的URL进行访问。
image.png

2、系统登录:在登录页面输入之前配置的用户名和密码,然后进行登录和体验(如果遗忘用户名可在创建ROS资源栈中的参数AppUsername找到您的设置信息)。
image.png
image.png

3、文档上传:用户可以选择本地文档并设置知识库名称。点击上传后,系统将解析文档并构建相应的知识库,最终返回文档信息、文档摘要和文档结构。

支持PDF/Doc/Docx格式,单文档最大限制100MB或1000页

image.png

4、问答服务:点击页面上方问答服务,切换到问答服务界面,然后输入知识库名称并输入针对该知识库的提问,即可获得精准的回答。
image.png
image.png

五、清理资源

1、登录ROS控制台。在左侧导航栏,选择资源栈。在资源栈页面的顶部选择部署的资源栈所在地域,找到资源栈,然后在其右侧操作列,单击删除。
image.png
image.png
image.png

2、登录百炼控制台,在数据应用 > 知识索引页面,找到知识库并点击操作栏中的删除。
image.png

在数据管理页面,找到上传的文档并点击操作栏中的删除。
image.png

六、测评结果与反馈

1、阅读本解决方案后,对解决方案的实践原理理解程度如何?是否觉得描述清晰?

  • 本方案中使用的IDP解析与传统的电子解析文本或者OCR解析文本没有对比,无法直观理解IDP解析的优势。
  • 本方案在验证过程中没有展示出RAG的实现原理,比如分片,数据索引的创建。

2、在部署体验过程中是否得到足够的引导以及文档帮助?在方案部署中遇到过哪些报错或异常?

  • 在上传文档时,总是报错上传失败,无法解析出来。重试了四次都是如此。

image.png

该文档为PDF格式,3.7M,53页。满足要求。
image.png
image.png

在百炼查看,其实都上传成功,并解析完成。
image.png
image.png
image.png
image.png

遇到上述问题,该如何处理。

  • 有些回答不完整。
    image.png

  • 希望可以对上传文件的要求做一些更具体的推荐,比如内容格式、是否文档里可以有大量图片等等。

  • 报错的信息是否能提供中文,最好再有相关的指导排障连接。

3、在部署过程中能否体验到通过文档智能和检索增强生成结合起来构建的LLM知识库的优势?

  • 方案里描述可以解析包括企业日常办公中常见的Office文档(Word/Excel/PPT )、PDF、Html、图片等在内的主流文件类型。但实践只支持PDF/Doc/Docx。是说图片在文档中可以处理,单独的图片无法解析是吗?

image.png
image.png

image.png

4、部署实践后,是否能清晰理解解决方案适用的业务场景?是否符合实际生产环境的需求?

针对实际的生产场景的建议与问题如下:

  • 单次只能上传解析一个文档,是否能支持同时解析多个文档。
  • 若企业内有多个知识库,是否在问答服务时可以下拉选择已有知识库,而非自己手动输入。
  • 自己构建的知识库,在问答时是否能增加联想功能。
  • 当企业知识库进行更新时,该如何进行处理。是需要重新导入文档再解析一遍吗?
  • 知识库的召回率与正确率该如何评估?
  • 在上传完文档解析时,没有解析进度,若文件比较大或者结构复杂,不太清楚能多久解析完成,只能干等待。
    image.png
相关文章
|
1月前
|
人工智能 自然语言处理 机器人
文档智能与RAG技术如何提升AI大模型的业务理解能力
随着人工智能的发展,AI大模型在自然语言处理中的应用日益广泛。文档智能和检索增强生成(RAG)技术的兴起,为模型更好地理解和适应特定业务场景提供了新方案。文档智能通过自动化提取和分析非结构化文档中的信息,提高工作效率和准确性。RAG结合检索机制和生成模型,利用外部知识库提高生成内容的相关性和准确性。两者的结合进一步增强了AI大模型的业务理解能力,助力企业数字化转型。
99 3
|
8天前
|
人工智能 安全 数据安全/隐私保护
文档智能 & RAG让AI大模型更懂业务测评
文档智能 & RAG让AI大模型更懂业务
124 73
|
15天前
|
人工智能
解决方案 | 文档智能 & RAG让AI大模型更懂业务获奖名单公布!
解决方案 | 文档智能 & RAG让AI大模型更懂业务获奖名单公布!
|
27天前
|
存储 数据可视化
如何高效构建团队知识库?试试看板工具
团队知识管理是提升工作效率的关键。知识管理专家Tiago Forte提出的“第二大脑”概念,强调通过收集、整理、提炼和表达四步法,将零散信息转化为系统知识。教你如何用看板工具构建团队知识库。
40 0
如何高效构建团队知识库?试试看板工具
|
3月前
|
人工智能 JSON 数据格式
RAG+Agent人工智能平台:RAGflow实现GraphRA知识库问答,打造极致多模态问答与AI编排流体验
【9月更文挑战第6天】RAG+Agent人工智能平台:RAGflow实现GraphRA知识库问答,打造极致多模态问答与AI编排流体验
RAG+Agent人工智能平台:RAGflow实现GraphRA知识库问答,打造极致多模态问答与AI编排流体验
|
4月前
|
开发框架 自然语言处理 API
基于RAG搭建企业级知识库在线问答
本文介绍如何使用搜索开发工作台快速搭建基于RAG开发链路的知识库问答应用。
8350 17
|
4月前
|
机器学习/深度学习 存储 自然语言处理
基于知识库快速搭建智能客服问答 Bot
在数字化转型的大潮中,智能客服系统成为提升企业客户体验与运营效率的关键工具。Botnow平台集成智能体创作与分发功能,提供一站式智能客服问答Bot搭建服务。本文详细介绍了如何利用Botnow的知识库功能及RAG(Retrieve-Augmented Generation)方案快速构建智能客服问答Bot。通过Botnow平台,用户可以轻松创建知识库、配置智能体,并关联知识库以实现智能回答。该方案广泛适用于对话沟通、行业知识库建设、企业内部信息检索及内容创作等多个场景。Botnow平台以其可视化编排、低技术门槛等特点,助力企业轻松实现智能客服系统的搭建与优化,成为数字化转型的重要推手。
232 1
|
4月前
|
机器学习/深度学习 人工智能 自然语言处理
手把手带你5分钟搭建企业级AI问答知识库
【8月更文挑战第3天】手把手带你5分钟搭建企业级AI问答知识库
404 4
|
4月前
|
机器学习/深度学习 人工智能 分布式计算
5分钟搭建企业级AI问答知识库
【8月更文挑战第14天】5分钟搭建企业级AI问答知识库
|
5月前
|
自然语言处理 前端开发 Go
5 大场景上手通义灵码企业知识库问答
通义灵码在企业版里还引入了一个超酷的新技能:RAG(Retrieval-Augmented Generation)检索增强生成的能力,本文就跟大家分享下企业知识库能帮开发者做些什么。
1375 13

热门文章

最新文章