一、引言
在数字化转型的浪潮中,企业对于文档处理和信息检索的需求日益增长。传统的文档管理方式往往存在效率低下、信息检索困难等问题,无法满足现代企业对于快速响应和精准决策的需求。随着大语言模型(LLM)和文档智能技术的不断发展,这些挑战得到了新的解决方案。本文将测评一款基于文档智能的文档解析处理,并结合百炼平台构建的文档问答应用,旨在探索其在企业级文档类型知识库中的实际应用效果。
二、技术背景
1、大语言模型(LLM)
大语言模型(LLM)是自然语言处理(NLP)领域的一项核心技术,它通过深度学习技术,训练出能够理解、生成自然语言的大规模神经网络模型。LLM具备强大的语义理解和生成能力,能够处理复杂的语言结构和语境,为知识问答、内容生成等场景提供了强有力的支持。
2、文档智能
文档智能技术是指利用计算机视觉、自然语言处理等技术,对文档进行解析、提取、分类等处理,以实现文档信息的智能化管理。文档智能技术能够处理多种格式的文档,包括PDF、Word、Excel等,对于表格内容、公式文本、图片内容等复杂元素也能进行有效处理。
3、检索增强生成(RAG)
检索增强生成(RAG)是一种结合了信息检索和文本生成的模型,它能够在给定的上下文中,通过检索相关信息来生成更加准确、有逻辑的回复。RAG模型能够利用检索到的信息,为LLM提供丰富的上下文信息,从而提高问答的准确性和可信度。
三、方案架构
本次测评的系统架构主要包括如下:
文档解析:通过调用文档智能提供的文档解析(大模型版),将文件处理为Json对象,包含多个版面块单元。
构建知识库:文档内容切片向量化存储,将多个版面块过滤非正文内容,切分成多个切块,进行向量化服务,存入知识库中。
创建问答服务:当接收到一个提问时,服务首先将问题转换为内容向量,然后在知识库中进行召回,找到相关信息。接着,结合召回的内容和问题,通过语言模型进行智能问答,提供准确的回答。
四、部署过程
一键部署,基于阿里云资源编排服务ROS(Resource Orchestration Service)实现,ROS模板已定义好脚本,可自动化地完成云资源的创建和配置,提高资源的创建和部署效率。
1、ECS配置,选择ecs.g7.large,配置实例登录密码。
2、获取百炼API-KEY。
3、配置百炼APP。
4、检查配置后单击创建。
5、创建进度查看。
6、创建完成。耗时6分钟。
四、方案验证
使用文档智能(Document Mind)提供的文档解析(大模型版)解析本地文档。并将解析结果接入百炼平台创建知识库。
1、单击资源栈的输出页签,再单击体验地址对应的URL进行访问。
2、系统登录:在登录页面输入之前配置的用户名和密码,然后进行登录和体验(如果遗忘用户名可在创建ROS资源栈中的参数AppUsername找到您的设置信息)。
3、文档上传:用户可以选择本地文档并设置知识库名称。点击上传后,系统将解析文档并构建相应的知识库,最终返回文档信息、文档摘要和文档结构。
支持PDF/Doc/Docx格式,单文档最大限制100MB或1000页
4、问答服务:点击页面上方问答服务,切换到问答服务界面,然后输入知识库名称并输入针对该知识库的提问,即可获得精准的回答。
五、清理资源
1、登录ROS控制台。在左侧导航栏,选择资源栈。在资源栈页面的顶部选择部署的资源栈所在地域,找到资源栈,然后在其右侧操作列,单击删除。
2、登录百炼控制台,在数据应用 > 知识索引页面,找到知识库并点击操作栏中的删除。
在数据管理页面,找到上传的文档并点击操作栏中的删除。
六、测评结果与反馈
1、阅读本解决方案后,对解决方案的实践原理理解程度如何?是否觉得描述清晰?
- 本方案中使用的IDP解析与传统的电子解析文本或者OCR解析文本没有对比,无法直观理解IDP解析的优势。
- 本方案在验证过程中没有展示出RAG的实现原理,比如分片,数据索引的创建。
2、在部署体验过程中是否得到足够的引导以及文档帮助?在方案部署中遇到过哪些报错或异常?
- 在上传文档时,总是报错上传失败,无法解析出来。重试了四次都是如此。
该文档为PDF格式,3.7M,53页。满足要求。
在百炼查看,其实都上传成功,并解析完成。
遇到上述问题,该如何处理。
有些回答不完整。
希望可以对上传文件的要求做一些更具体的推荐,比如内容格式、是否文档里可以有大量图片等等。
报错的信息是否能提供中文,最好再有相关的指导排障连接。
3、在部署过程中能否体验到通过文档智能和检索增强生成结合起来构建的LLM知识库的优势?
- 方案里描述可以解析包括企业日常办公中常见的Office文档(Word/Excel/PPT )、PDF、Html、图片等在内的主流文件类型。但实践只支持PDF/Doc/Docx。是说图片在文档中可以处理,单独的图片无法解析是吗?
4、部署实践后,是否能清晰理解解决方案适用的业务场景?是否符合实际生产环境的需求?
针对实际的生产场景的建议与问题如下:
- 单次只能上传解析一个文档,是否能支持同时解析多个文档。
- 若企业内有多个知识库,是否在问答服务时可以下拉选择已有知识库,而非自己手动输入。
- 自己构建的知识库,在问答时是否能增加联想功能。
- 当企业知识库进行更新时,该如何进行处理。是需要重新导入文档再解析一遍吗?
- 知识库的召回率与正确率该如何评估?
- 在上传完文档解析时,没有解析进度,若文件比较大或者结构复杂,不太清楚能多久解析完成,只能干等待。