《文档智能 & RAG让AI大模型更懂业务》解决方案评测

简介: 一文带你了解《文档智能 & RAG让AI大模型更懂业务》解决方案的优与劣

这是解决方案评测的第十一篇,也是开发者新版评测的第十一篇。希望大家可以踊跃参加,把你最真实的体验感受和建议分享出来。可点击下方链接前往评测活动首页:

解决方案评测|文档智能 & RAG让AI大模型更懂业务

解决方案评测|AI 大模型助力客户对话分析

解决方案评测|触手可及,函数计算玩转 AI 大模型

解决方案评测|云消息队列RabbitMQ实践

解决方案评测|基于hologres搭建轻量OLAP分析平台

解决方案评测|10 分钟构建 AI 客服并应用到网站、钉钉或微信中

解决方案评测|函数计算驱动多媒体文件处理

解决方案评测|Serverless高可用架构

解决方案评测|容器化管理云上应用

解决方案评测|通义万相AI绘画创作

解决方案评测|高效构建企业门户网站

每一期的解决方案评测我都有参与,以下是我往期的评测文章,欢迎各位前来打卡点评。

《AI 大模型助力客户对话分析》解决方案评测

《触手可及,函数计算玩转 AI 大模型》解决方案评测

云消息队列RabbitMQ实践解决方案评测

基于hologres搭建轻量OLAP分析平台解决方案评测

《10 分钟构建 AI 客服并应用到网站、钉钉或微信中》解决方案体验评测

函数计算驱动多媒体文件处理解决方案体验评测

Serverless高可用架构体验评测

容器化管理云上应用体验评测

通义万相AI绘画创作体验评测

基于云效流水线高效构建企业门户网站体验评测

方案速览

按照传统惯例,这里还是先呈上方案的整个页面截图,供不愿意点击链接查看的伙伴们查阅。

image.png

这一次,方案整体中添加了原理阐述模块,非常值得点赞,一路走来,每次反馈都能得到官网团队的很好回应,期待越来越好。

在优势阐述上,还是一如既往概要性进行了说明,我还是老样子,对优势进行了加工,使其更容易理解。

  1. 精准识别与解析能力
    • 文档智能(Document Mind)能够精准识别并解析包括企业日常办公中常见的 Office 文档(Word/Excel/PPT )、PDF、Html、图片等在内的主流文件类型。
    • 它返回文档的样式、版面信息和层级树结构,为RAG输入高精准度、高连贯语义的切块(Chunk),从而保障了整个RAG方案的基础效果。
  2. 提升解析效果与性能
    • 相较于传统单页以电子解析文本或者 OCR 解析文本的方式,文档智能针对不同的文档类型,实现了电子解析+ OCR/NLP 的细粒度混合版融合方案。
    • 通过电子解析与 OCR/NLP 的互相优缺点弥补,提升了解析的效果和性能。
  3. 保证语义不丢失
    • 基于最新自研的技术 GeoLayoutLM 来研发层级树模型,可以面向各种长度和类型的文档,高效地提取其内部版面的层级关系。
    • 经过文档解析切分的文档内容保证了语义的不丢失,可直接输入至 RAG 的下游链路。
  4. 输出LLM友好的Markdown信息
    • 相比于传统文本内容解析,文档智能提供含层级的段落信息、表格及表格单元信息、图片信息,并包含丰富的标题、段落、页码、注解等版面类型信息。
    • 这些信息为LLM提供了更丰富的上下文,有助于提升问答的准确性和相关性。
  5. 高效处理与部署
    • 文档智能与RAG的结合方案能够实现高效的文档处理与问答系统部署。
    • 部署时长短(如30分钟),且预估费用相对较低(如5元,假设资源运行时间不超过60分钟),使得该方案在成本效益上具有明显优势。

在部署模块中,这次也有变化,就是不再使用之前的部署文档模式,直接使用了新版云起实验室的模式,这点变化还是非常值得肯定的。

image.png

部署体验

在正式开始部署前,还是从部署架构先开始,一来了解其涉及产品或服务,二来了解其运行原理。架构图如下:

img

通过文档智能(Document Mind)将非结构化文档内容解析为结构化数据,并提取出文档层级树、样式信息以及版面信息。这些信息被进一步处理成文档切片,生成切块(Chunk)数据,并存储于知识库中。当接收到提问时,系统会将问题转换为内容向量,在知识库中召回相关信息,并结合问题和召回内容,通过语言模型进行智能问答。

从架构图上可以非常直观了解到其涉及的产品,如下:

  • 百炼平台:提供通义千问LLM模型的调用以及知识索引功能。
  • 文档智能:多模态文档识别与理解引擎,为用户提供通用文档智能、行业文档智能和文档自学习能力,可满足各种场景下的智能文档处理需求。
  • 云服务器 ECS:用于部署应用程序,还是其相关的服务,如VPC和交换机。

部署方式提供一键部署和手动部署两种,这里为了方便,我直接采用一键部署来阐述。

首先就是进入百炼控制台,获取一个API-KEY。如下:

image.png

接下来,通过ROS一键部署链接来自动化地完成资源的创建和配置。单击一键部署,在顶部导航栏选择地域,并输入百炼API-KEY和空间ID。如下:

image.png

在ECS实例配置这块,部署文档没有配置举例或建议,这里我使用最新推荐配置,并设置ECS的登录密码。如下:

image.png

确认如上配置后,点击下一步,检查并确认,在确认页面确认配置信息,点击创建即可。(这里唯一要注意的是账号余额要大于等于100元,因为涉及ECS服务器最低保障额度)

image.png

部署过程需要耐心等待片刻,如下:

image.png

待部署状态变成创建成功后,在资源栈的输出页签可以看到URL访问链接。如下:

image.png

image.png

点击该URL即可进行应用体验了,这里我们使用文档匹配的文档进行体验,上传该文档并点击上传文件进行解析。如下:

image.png

解析完成后,呈现效果如下:

image.png

这个时候,就可以切换到问答服务进行体验了,如下:

image.png

到这,一个完整的[基于文档智能和百炼平台的RAG应用]的部署体验就告一段落了。如果你有其他需求,可继续查阅部署文档接下来的内容。还有移动端体验应用的体验,感兴趣的伙伴可自行体验,这里就不再赘述。

体验总结

方案

1、在原理的阐述上存在细节的不足,如描述文档智能如何解析文档时,提到了“GeoLayoutLM”技术,但未对其具体作用和工作原理进行说明。建议增加对该技术的详细介绍,以便读者更好地理解其如何保证语义不丢失。

2、方案中优惠购买处,只提供了企业版的ECS试用,并没有针对大众个人用户提供,这个实际上是不妥的,因为多数参与体验的用户还是个人的。

image.png

3、此外,就是老问题,应用场景的内容太空洞了,应该增加超链接,链接到对应的案例文章或者案例说明等。

image.png

部署

1、部署文档整体写的还是非常详细的,对于新手来说,完全按照文档来操作是可以部署成功的。这里我要说明的一点就是,涉及的技术细节如果把握不好,也是非常容易导致部署失败的,这在一定程度上说,对于完全新手来说,还是存在一定的技术壁垒的。这就要求在部署过程中,若能提供更多的实时帮助或在线支持,将大大提升部署效率和用户体验。

2、在ROS一键部署中有关ECS实例的选择并没有任何文字说明,只能依靠用户去任意选择,虽然这个不影响最终的部署效果,但缺少建议配置,容易让新手用户选择上出现问题。

image.png

3、服务体验上,官网提供的文档,虽然内容很少,但在上传解析过程中耗时较久,一共耗费5分钟,如果是内容大的文档,这里岂不是耗时更长,着实影响体验,建议优化或者注明理论耗时。

image.png

4、当完成解析后,切换到问答服务进行问答体验,知识库的名称竟然要手动输入,不支持下拉选择,这点着实不方便,也容易出错,尤其是当用户不晓得前面输入的名称是啥时,这个就无法完成体验了,建议优化。

此外,提交内容也不支持Enter回车键,只能点击发送按钮。还有一点就是,输入的问题,当点击发送按钮后,文本框内容不见了。

image.png

5、还有一点就是,在完成了文档解析,切换到问答服务后,再次回到文档解析页面,竟然之前解析的信息全没有了,这个让用户很诧异,建议不刷新页面,保存页面数据。(这点不影响后面问答服务的继续体验)

image.png

目录
相关文章
|
2天前
|
人工智能 自动驾驶 大数据
预告 | 阿里云邀您参加2024中国生成式AI大会上海站,马上报名
大会以“智能跃进 创造无限”为主题,设置主会场峰会、分会场研讨会及展览区,聚焦大模型、AI Infra等热点议题。阿里云智算集群产品解决方案负责人丛培岩将出席并发表《高性能智算集群设计思考与实践》主题演讲。观众报名现已开放。
|
19天前
|
存储 人工智能 弹性计算
阿里云弹性计算_加速计算专场精华概览 | 2024云栖大会回顾
2024年9月19-21日,2024云栖大会在杭州云栖小镇举行,阿里云智能集团资深技术专家、异构计算产品技术负责人王超等多位产品、技术专家,共同带来了题为《AI Infra的前沿技术与应用实践》的专场session。本次专场重点介绍了阿里云AI Infra 产品架构与技术能力,及用户如何使用阿里云灵骏产品进行AI大模型开发、训练和应用。围绕当下大模型训练和推理的技术难点,专家们分享了如何在阿里云上实现稳定、高效、经济的大模型训练,并通过多个客户案例展示了云上大模型训练的显著优势。
|
22天前
|
存储 人工智能 调度
阿里云吴结生:高性能计算持续创新,响应数据+AI时代的多元化负载需求
在数字化转型的大潮中,每家公司都在积极探索如何利用数据驱动业务增长,而AI技术的快速发展更是加速了这一进程。
|
14天前
|
并行计算 前端开发 物联网
全网首发!真·从0到1!万字长文带你入门Qwen2.5-Coder——介绍、体验、本地部署及简单微调
2024年11月12日,阿里云通义大模型团队正式开源通义千问代码模型全系列,包括6款Qwen2.5-Coder模型,每个规模包含Base和Instruct两个版本。其中32B尺寸的旗舰代码模型在多项基准评测中取得开源最佳成绩,成为全球最强开源代码模型,多项关键能力超越GPT-4o。Qwen2.5-Coder具备强大、多样和实用等优点,通过持续训练,结合源代码、文本代码混合数据及合成数据,显著提升了代码生成、推理和修复等核心任务的性能。此外,该模型还支持多种编程语言,并在人类偏好对齐方面表现出色。本文为周周的奇妙编程原创,阿里云社区首发,未经同意不得转载。
|
8天前
|
人工智能 自然语言处理 前端开发
100个降噪蓝牙耳机免费领,用通义灵码从 0 开始打造一个完整APP
打开手机,录制下你完成的代码效果,发布到你的社交媒体,前 100 个@玺哥超Carry、@通义灵码的粉丝,可以免费获得一个降噪蓝牙耳机。
3847 13
|
14天前
|
人工智能 自然语言处理 前端开发
用通义灵码,从 0 开始打造一个完整APP,无需编程经验就可以完成
通义灵码携手科技博主@玺哥超carry 打造全网第一个完整的、面向普通人的自然语言编程教程。完全使用 AI,再配合简单易懂的方法,只要你会打字,就能真正做出一个完整的应用。本教程完全免费,而且为大家准备了 100 个降噪蓝牙耳机,送给前 100 个完成的粉丝。获奖的方式非常简单,只要你跟着教程完成第一课的内容就能获得。
6363 10
|
26天前
|
缓存 监控 Linux
Python 实时获取Linux服务器信息
Python 实时获取Linux服务器信息
|
12天前
|
人工智能 自然语言处理 前端开发
什么?!通义千问也可以在线开发应用了?!
阿里巴巴推出的通义千问,是一个超大规模语言模型,旨在高效处理信息和生成创意内容。它不仅能在创意文案、办公助理、学习助手等领域提供丰富交互体验,还支持定制化解决方案。近日,通义千问推出代码模式,基于Qwen2.5-Coder模型,用户即使不懂编程也能用自然语言生成应用,如个人简历、2048小游戏等。该模式通过预置模板和灵活的自定义选项,极大简化了应用开发过程,助力用户快速实现创意。
|
1天前
|
机器学习/深度学习 人工智能 安全
通义千问开源的QwQ模型,一个会思考的AI,百炼邀您第一时间体验
Qwen团队推出新成员QwQ-32B-Preview,专注于增强AI推理能力。通过深入探索和试验,该模型在数学和编程领域展现了卓越的理解力,但仍在学习和完善中。目前,QwQ-32B-Preview已上线阿里云百炼平台,提供免费体验。
|
8天前
|
人工智能 C++ iOS开发
ollama + qwen2.5-coder + VS Code + Continue 实现本地AI 辅助写代码
本文介绍在Apple M4 MacOS环境下搭建Ollama和qwen2.5-coder模型的过程。首先通过官网或Brew安装Ollama,然后下载qwen2.5-coder模型,可通过终端命令`ollama run qwen2.5-coder`启动模型进行测试。最后,在VS Code中安装Continue插件,并配置qwen2.5-coder模型用于代码开发辅助。
635 4

热门文章

最新文章

下一篇
无影云桌面