《多模态数据信息提取》解决方案评测体验

简介: 《多模态数据信息提取》解决方案,主要是通过先进的人工智能技术,能够识别和解析各种格式的文件,包括文本、图像、音频和视频,从而提取出有价值的信息,大幅提升数据处理效率。

《多模态数据信息提取》解决方案,主要是通过先进的人工智能技术,能够识别和解析各种格式的文件,包括文本、图像、音频和视频,从而提取出有价值的信息,大幅提升数据处理效率。
并且开箱即用,通过百炼的多模态大模型推理服务,能够识别和解析文本、图像、音视频等不同模态的数据,根据用户需求进行结构化信息挖掘、提取、分析和摘要等,并支持批处理模式下的离线作业,提高大规模数据处理效率,降低 50% 的业务落地成本。
该解决方案主要是围绕下面五个场景,我也一一体验了变,下面我就那一个案例来举例部署流程。
001.png

一.部署【文档文件信息提取】:

在文档信息提取的流程中,我们使用计算资源(本方案以函数计算 FC 为例)构建的 Web 服务来接收用户的请求,在函数计算内部将文档和提示词发送至百炼模型服务,由其调用qwen-long文本模型处理后,最终将结果返回给用户。这里首先我们来看下方案的架构:
001.png
本方案的技术架构包括以下基础设施和云服务:
1个函数计算 FC 函数:用于调用百炼模型服务 API,进行文档信息提取。
百炼模型服务:调用 API 使用文本模型进行信息提取。

1.部署资源:

1.首先我们先要获取百炼模型服务的API KEY,获取API Key:在控制台的右上角选择API-KEY,然后创建API Key,用于通过API调用大模型。
001.png

(创建好后,直接复制下来备用)
image.png

2.请点击前往部署打开我们提供的函数计算应用模板,参考下表进行参数配置,然后单击创建并部署默认环境(下面图是默认环境,上面的“前往部署”我加了超链接,可以直接跳转部署函数FC模版哟)
image.png
3.部署的时候,填写前面复制下来的百炼API KEY,然后点击“创建并部署默认环境”按钮。
image.png

4.当部署成功后,我们就能看到页面上跳出【访问域名】了。(这里说实话一键部署是真的很方便,当然手动部署也不难)
image.png

5.点击“访问域名”,我们就可以跳转到本次部署的“文档文件信息提取”页面了。如下图所示:
001.png

6.下面我们用官方示例先进行体验:
首先,我选择了“手机卖卖合同”案例,提示词选择:手机信息(如下图)

001.png

点击提取后,AI就进行了相关数据的提取,这里速度还是比较快的。提取出来的信息如下所示(型号、容量、品牌、颜色等信息也都到位了):

image.png

二.体验评测【文档文件信息提取】:

当然为了评测体验文档文件信息提取的能力,不能只用官方案例来跑的,所以我特地拿了一份大文件“信息系统项目管理师教程-第四版.pdf”,文档大小501 MB (525,808,729 字节),来看下该功能体验效果。
image.png
但是问题出来了:
当我上传这份大文件后,发现按钮置灰了,没法点击,所以我刷新了下重新上传尝试:
001.png
我发现第二次上传也是如此,我又进行了第三变。在上传的过程中我仔细观察了下,我觉得问题应该是:由于文件过大导致上传失败,从而出现异常,因为我看到文件每次都是上传到6%的时候就显示出“已上传”的图标,但是我个人觉得应该没有真的上传完成,

这里我提下建议:

1.上传文件可以限制先文件大小(页面上可以提示出来);
2.不管上传成功还是失败,这里增加个提示,比如:上传成功或者文件过大上传失败;(这里缺少了交互)
001.png

于是乎,这里要发挥我锲而不舍的精神了,我换成了一份300M的文件,发行不行,再换一份200M的文件也还是不行,100M的文件也还不行,33M的文件也还不行,经过我的努力最后我成功上传了3份(每份10-30M)的文件,按钮终于是点亮了。
image.png
这里我有个问题,我觉得他这里应该是针对【单份文件】上传有大小限制,而且我觉得限制应该是不大于30M,在我测试的时候,我发现大于30M的文件上传后按钮就置灰了,而总文件大小应该没有限制,或者限制的阈值我不知道。这个问题交给官方大大解释了。

下面我进行了搜索,我这里使用了关键词【质量控制】来做索引,我发AI搜索的速度和文件大小是有关系的,文件越大,搜索出结果越慢(不过当然也是如此,这里我一份文件5M,一份是25M,两份文件相差速度有点久的。)
image.png

下面我们来对AI整理出来的结果来一一查看:

1.第一份文件:038-高项-第19章-24章.pdf
从他提取出来的内容看,其实和【质量控制】关系不是很大,不知道为嘛会提取出这么多信息:
001.png

2.第二份文件:037-高项-第18章绩效域-03-24年5月课程-一本通V1.2(24年4月5日直播)打印版-可搜索.pdf
第二份文件提取出来的内容其实还是挺满意的,如下图:
001.png

3.第三份文件:_035-高项-第18章绩效域-01-24年5月课程-一本通V1.2(24年4月1日直播)-打印版-可搜索pdf
第三份文件提取出来的内容最多,但是重点内容其实也不是我想要的。如下图:
image.png

当然这里测试我要说明下,这里我测试有点刁钻了,关于【质量控制】内容重点是在文档2内出现,文档1、3的确是没有的,所以不怪他整理出来的内容是我截图所示的,当然我也可以进一步的用更优质的提示词来做提示,可能效果更好。百炼提供了 Prompt 一键优化工具。该工具能针对输入的提示(Prompt)进行自动扩写和细节添加,大家也可以尝试下(当然我比较懒,我想让AI整理资料,就更不想还要自己动手整理提示词了,哈哈,说着说着,这不有又一个优化需求出来了吗?可以增加一个提示词优化功能)

三.写在最后的总结:

先来说下优化建议:
1.上传文件可以限制文件大小(页面上可以提示出来);
2.不管上传成功还是失败,这里增加个提示,比如:上传成功或者文件过大上传失败;(这里缺少了交互)
3.增加“提示词”优化功能,可以一键优化;
4.多文档提取信息的时候,右侧的提取结果可以按文档信息以树结构的形式进行收缩和展开,这样方便阅读,而不是一直往下滑动;
5.增加多维度的信息提取功能,我可以一次性搜索出想要的信息,然后按照“选择/切换”的方式来查看;

总的来说整体功能和效果已经是很不错了,另外四项功能我也都评测了一遍,一键部署是真的超级方便,功能上在未来我相信会越来越完美的!

目录
相关文章
|
8天前
|
调度 云计算 芯片
云超算技术跃进,阿里云牵头制定我国首个云超算国家标准
近日,由阿里云联合中国电子技术标准化研究院主导制定的首个云超算国家标准已完成报批,不久后将正式批准发布。标准规定了云超算服务涉及的云计算基础资源、资源管理、运行和调度等方面的技术要求,为云超算服务产品的设计、实现、应用和选型提供指导,为云超算在HPC应用和用户的大范围采用奠定了基础。
179591 21
|
15天前
|
存储 运维 安全
云上金融量化策略回测方案与最佳实践
2024年11月29日,阿里云在上海举办金融量化策略回测Workshop,汇聚多位行业专家,围绕量化投资的最佳实践、数据隐私安全、量化策略回测方案等议题进行深入探讨。活动特别设计了动手实践环节,帮助参会者亲身体验阿里云产品功能,涵盖EHPC量化回测和Argo Workflows量化回测两大主题,旨在提升量化投研效率与安全性。
云上金融量化策略回测方案与最佳实践
|
17天前
|
人工智能 自然语言处理 前端开发
从0开始打造一款APP:前端+搭建本机服务,定制暖冬卫衣先到先得
通义灵码携手科技博主@玺哥超carry 打造全网第一个完整的、面向普通人的自然语言编程教程。完全使用 AI,再配合简单易懂的方法,只要你会打字,就能真正做出一个完整的应用。
9439 24
|
21天前
|
Cloud Native Apache 流计算
资料合集|Flink Forward Asia 2024 上海站
Apache Flink 年度技术盛会聚焦“回顾过去,展望未来”,涵盖流式湖仓、流批一体、Data+AI 等八大核心议题,近百家厂商参与,深入探讨前沿技术发展。小松鼠为大家整理了 FFA 2024 演讲 PPT ,可在线阅读和下载。
5105 15
资料合集|Flink Forward Asia 2024 上海站
|
21天前
|
自然语言处理 数据可视化 API
Qwen系列模型+GraphRAG/LightRAG/Kotaemon从0开始构建中医方剂大模型知识图谱问答
本文详细记录了作者在短时间内尝试构建中医药知识图谱的过程,涵盖了GraphRAG、LightRAG和Kotaemon三种图RAG架构的对比与应用。通过实际操作,作者不仅展示了如何利用这些工具构建知识图谱,还指出了每种工具的优势和局限性。尽管初步构建的知识图谱在数据处理、实体识别和关系抽取等方面存在不足,但为后续的优化和改进提供了宝贵的经验和方向。此外,文章强调了知识图谱构建不仅仅是技术问题,还需要深入整合领域知识和满足用户需求,体现了跨学科合作的重要性。
|
5天前
|
JSON 分布式计算 数据处理
加速数据处理与AI开发的利器:阿里云MaxFrame实验评测
随着数据量的爆炸式增长,传统数据分析方法逐渐显现出局限性。Python作为数据科学领域的主流语言,因其简洁易用和丰富的库支持备受青睐。阿里云推出的MaxFrame是一个专为Python开发者设计的分布式计算框架,旨在充分利用MaxCompute的强大能力,提供高效、灵活且易于使用的工具,应对大规模数据处理需求。MaxFrame不仅继承了Pandas等流行数据处理库的友好接口,还通过集成先进的分布式计算技术,显著提升了数据处理的速度和效率。
|
29天前
|
人工智能 自动驾驶 大数据
预告 | 阿里云邀您参加2024中国生成式AI大会上海站,马上报名
大会以“智能跃进 创造无限”为主题,设置主会场峰会、分会场研讨会及展览区,聚焦大模型、AI Infra等热点议题。阿里云智算集群产品解决方案负责人丛培岩将出席并发表《高性能智算集群设计思考与实践》主题演讲。观众报名现已开放。
|
16天前
|
消息中间件 人工智能 运维
12月更文特别场——寻找用云高手,分享云&AI实践
我们寻找你,用云高手,欢迎分享你的真知灼见!
1247 74