《文档智能 & RAG让AI大模型更懂业务》解决方案评测

本文涉及的产品
多模态交互后付费免费试用,全链路、全Agent
简介: 一文带你了解《文档智能 & RAG让AI大模型更懂业务》解决方案的优与劣

这是解决方案评测的第十一篇,也是开发者新版评测的第十一篇。希望大家可以踊跃参加,把你最真实的体验感受和建议分享出来。可点击下方链接前往评测活动首页:

解决方案评测|文档智能 & RAG让AI大模型更懂业务

解决方案评测|AI 大模型助力客户对话分析

解决方案评测|触手可及,函数计算玩转 AI 大模型

解决方案评测|云消息队列RabbitMQ实践

解决方案评测|基于hologres搭建轻量OLAP分析平台

解决方案评测|10 分钟构建 AI 客服并应用到网站、钉钉或微信中

解决方案评测|函数计算驱动多媒体文件处理

解决方案评测|Serverless高可用架构

解决方案评测|容器化管理云上应用

解决方案评测|通义万相AI绘画创作

解决方案评测|高效构建企业门户网站

每一期的解决方案评测我都有参与,以下是我往期的评测文章,欢迎各位前来打卡点评。

《AI 大模型助力客户对话分析》解决方案评测

《触手可及,函数计算玩转 AI 大模型》解决方案评测

云消息队列RabbitMQ实践解决方案评测

基于hologres搭建轻量OLAP分析平台解决方案评测

《10 分钟构建 AI 客服并应用到网站、钉钉或微信中》解决方案体验评测

函数计算驱动多媒体文件处理解决方案体验评测

Serverless高可用架构体验评测

容器化管理云上应用体验评测

通义万相AI绘画创作体验评测

基于云效流水线高效构建企业门户网站体验评测

方案速览

按照传统惯例,这里还是先呈上方案的整个页面截图,供不愿意点击链接查看的伙伴们查阅。

image.png

这一次,方案整体中添加了原理阐述模块,非常值得点赞,一路走来,每次反馈都能得到官网团队的很好回应,期待越来越好。

在优势阐述上,还是一如既往概要性进行了说明,我还是老样子,对优势进行了加工,使其更容易理解。

  1. 精准识别与解析能力
    • 文档智能(Document Mind)能够精准识别并解析包括企业日常办公中常见的 Office 文档(Word/Excel/PPT )、PDF、Html、图片等在内的主流文件类型。
    • 它返回文档的样式、版面信息和层级树结构,为RAG输入高精准度、高连贯语义的切块(Chunk),从而保障了整个RAG方案的基础效果。
  2. 提升解析效果与性能
    • 相较于传统单页以电子解析文本或者 OCR 解析文本的方式,文档智能针对不同的文档类型,实现了电子解析+ OCR/NLP 的细粒度混合版融合方案。
    • 通过电子解析与 OCR/NLP 的互相优缺点弥补,提升了解析的效果和性能。
  3. 保证语义不丢失
    • 基于最新自研的技术 GeoLayoutLM 来研发层级树模型,可以面向各种长度和类型的文档,高效地提取其内部版面的层级关系。
    • 经过文档解析切分的文档内容保证了语义的不丢失,可直接输入至 RAG 的下游链路。
  4. 输出LLM友好的Markdown信息
    • 相比于传统文本内容解析,文档智能提供含层级的段落信息、表格及表格单元信息、图片信息,并包含丰富的标题、段落、页码、注解等版面类型信息。
    • 这些信息为LLM提供了更丰富的上下文,有助于提升问答的准确性和相关性。
  5. 高效处理与部署
    • 文档智能与RAG的结合方案能够实现高效的文档处理与问答系统部署。
    • 部署时长短(如30分钟),且预估费用相对较低(如5元,假设资源运行时间不超过60分钟),使得该方案在成本效益上具有明显优势。

在部署模块中,这次也有变化,就是不再使用之前的部署文档模式,直接使用了新版云起实验室的模式,这点变化还是非常值得肯定的。

image.png

部署体验

在正式开始部署前,还是从部署架构先开始,一来了解其涉及产品或服务,二来了解其运行原理。架构图如下:

img

通过文档智能(Document Mind)将非结构化文档内容解析为结构化数据,并提取出文档层级树、样式信息以及版面信息。这些信息被进一步处理成文档切片,生成切块(Chunk)数据,并存储于知识库中。当接收到提问时,系统会将问题转换为内容向量,在知识库中召回相关信息,并结合问题和召回内容,通过语言模型进行智能问答。

从架构图上可以非常直观了解到其涉及的产品,如下:

  • 百炼平台:提供通义千问LLM模型的调用以及知识索引功能。
  • 文档智能:多模态文档识别与理解引擎,为用户提供通用文档智能、行业文档智能和文档自学习能力,可满足各种场景下的智能文档处理需求。
  • 云服务器 ECS:用于部署应用程序,还是其相关的服务,如VPC和交换机。

部署方式提供一键部署和手动部署两种,这里为了方便,我直接采用一键部署来阐述。

首先就是进入百炼控制台,获取一个API-KEY。如下:

image.png

接下来,通过ROS一键部署链接来自动化地完成资源的创建和配置。单击一键部署,在顶部导航栏选择地域,并输入百炼API-KEY和空间ID。如下:

image.png

在ECS实例配置这块,部署文档没有配置举例或建议,这里我使用最新推荐配置,并设置ECS的登录密码。如下:

image.png

确认如上配置后,点击下一步,检查并确认,在确认页面确认配置信息,点击创建即可。(这里唯一要注意的是账号余额要大于等于100元,因为涉及ECS服务器最低保障额度)

image.png

部署过程需要耐心等待片刻,如下:

image.png

待部署状态变成创建成功后,在资源栈的输出页签可以看到URL访问链接。如下:

image.png

image.png

点击该URL即可进行应用体验了,这里我们使用文档匹配的文档进行体验,上传该文档并点击上传文件进行解析。如下:

image.png

解析完成后,呈现效果如下:

image.png

这个时候,就可以切换到问答服务进行体验了,如下:

image.png

到这,一个完整的[基于文档智能和百炼平台的RAG应用]的部署体验就告一段落了。如果你有其他需求,可继续查阅部署文档接下来的内容。还有移动端体验应用的体验,感兴趣的伙伴可自行体验,这里就不再赘述。

体验总结

方案

1、在原理的阐述上存在细节的不足,如描述文档智能如何解析文档时,提到了“GeoLayoutLM”技术,但未对其具体作用和工作原理进行说明。建议增加对该技术的详细介绍,以便读者更好地理解其如何保证语义不丢失。

2、方案中优惠购买处,只提供了企业版的ECS试用,并没有针对大众个人用户提供,这个实际上是不妥的,因为多数参与体验的用户还是个人的。

image.png

3、此外,就是老问题,应用场景的内容太空洞了,应该增加超链接,链接到对应的案例文章或者案例说明等。

image.png

部署

1、部署文档整体写的还是非常详细的,对于新手来说,完全按照文档来操作是可以部署成功的。这里我要说明的一点就是,涉及的技术细节如果把握不好,也是非常容易导致部署失败的,这在一定程度上说,对于完全新手来说,还是存在一定的技术壁垒的。这就要求在部署过程中,若能提供更多的实时帮助或在线支持,将大大提升部署效率和用户体验。

2、在ROS一键部署中有关ECS实例的选择并没有任何文字说明,只能依靠用户去任意选择,虽然这个不影响最终的部署效果,但缺少建议配置,容易让新手用户选择上出现问题。

image.png

3、服务体验上,官网提供的文档,虽然内容很少,但在上传解析过程中耗时较久,一共耗费5分钟,如果是内容大的文档,这里岂不是耗时更长,着实影响体验,建议优化或者注明理论耗时。

image.png

4、当完成解析后,切换到问答服务进行问答体验,知识库的名称竟然要手动输入,不支持下拉选择,这点着实不方便,也容易出错,尤其是当用户不晓得前面输入的名称是啥时,这个就无法完成体验了,建议优化。

此外,提交内容也不支持Enter回车键,只能点击发送按钮。还有一点就是,输入的问题,当点击发送按钮后,文本框内容不见了。

image.png

5、还有一点就是,在完成了文档解析,切换到问答服务后,再次回到文档解析页面,竟然之前解析的信息全没有了,这个让用户很诧异,建议不刷新页面,保存页面数据。(这点不影响后面问答服务的继续体验)

image.png

目录
相关文章
|
8天前
|
人工智能 监控 搜索推荐
给RAG打分:小白也能懂的AI系统评测全攻略
RAG系统评估听起来高深,其实跟我们生活中的'尝鲜评测'没啥两样!本文用轻松幽默的方式,带你从检索质量、生成质量到用户体验,全方位掌握如何科学评测RAG系统,避免踩坑,让你的AI应用又快又准。#RAG技术 #AI评估 #信息检索 #大模型 #数据科学
|
1月前
|
人工智能 安全 数据中心
|
1月前
|
人工智能 文字识别 安全
大模型能力评测方式很多?
AI评测非单一分数比拼,而是多维度、多方法的系统工程。其核心框架可拆解为基础维度、主流基准与关键方法,共同构成模型能力的“CT扫描”系统。
182 0
|
1月前
|
存储 人工智能 算法
AI测试平台实战:深入解析自动化评分和多模型对比评测
在AI技术迅猛发展的今天,测试工程师面临着如何高效评估大模型性能的全新挑战。本文将深入探讨AI测试平台中自动化评分与多模型对比评测的关键技术与实践方法,为测试工程师提供可落地的解决方案。
|
2月前
|
人工智能 自然语言处理 运维
阿里云 X 瓴羊:AI Stack一体机上新解决方案,重构企业问数与客服交互
简介:瓴羊基于阿里云AI Stack推出智能问数与智能客服一体机,以“低成本、零门槛”实现数据分析与客服效率的显著提升,助力企业智能化升级。
245 0
|
2天前
|
人工智能 机器人 Serverless
安诺机器人 X 阿里云函数计算 AI 咖啡印花解决方案
当云计算遇见具身智能,AI咖啡开启零售新体验。用户通过手机生成个性化图像,云端AI快速渲染,机器人精准复刻于咖啡奶泡之上,90秒内完成一杯可饮用的艺术品。该方案融合阿里云FunctionAI生图能力与安诺机器人高精度执行系统,实现AIGC创意到实体呈现的闭环,为线下零售提供低成本、高互动、易部署的智能化升级路径,已在商场、机场、展馆等场景落地应用。
安诺机器人 X 阿里云函数计算 AI 咖啡印花解决方案
|
8天前
|
人工智能 数据可视化 前端开发
AI Ping:精准可靠的大模型服务性能评测平台
AI Ping是清华系团队推出的“大模型服务评测平台”,被誉为“AI界的大众点评”。汇聚230+模型服务,7×24小时监测性能数据,以吞吐量、延迟等硬指标助力开发者科学选型。界面简洁,数据可视化强,支持多模型对比,横向对标国内外主流平台,为AI应用落地提供权威参考。
120 3
|
1月前
|
存储 人工智能 编解码
阿里云GPU云服务器深度评测:算力怪兽如何重塑AI与图形处理的未来?
在AI与高性能计算需求激增的今天,传统CPU已难满足“暴力计算”需求。阿里云GPU云服务器依托NVIDIA顶级显卡算力,结合专为GPU优化的神行工具包(DeepGPU),为深度学习、科学计算、图形渲染等领域提供高效、弹性的算力支持。本文全面解析其产品优势、工具链及六大真实应用场景,助你掌握AI时代的算力利器。
阿里云GPU云服务器深度评测:算力怪兽如何重塑AI与图形处理的未来?
|
17天前
|
机器学习/深度学习 人工智能 边缘计算
AI 奶茶店吸管监测识别解决方案技术开发说明
本方案针对奶茶店打包环节中吸管与奶茶数量不匹配问题,采用AI视觉识别技术,实现自动化精准监测。
43 0
|
7天前
|
人工智能 监控 算法
AI解决方案的决策工具
企业正借助AI实现精细化“微观决策”,需在自动化与人工干预间找到平衡。本文提出HITL、HITLFE、HOTL、HOOTL四种管理模型,指导如何设计人机协同机制,确保决策高效、可控,并随业务动态演进。