阿里云百炼之RAG算法能力分享会来喽|速来围观~

简介: 阿里云百炼是基于通义大模型、行业大模型以及三方大模型的一站式大模型开发平台。提供完整的模型训练工具和全链路开发套件,预置丰富的应用插件,提供便捷的集成方式,结合企业专属数据和API,帮企业高效完成大模型应用构建。RAG检索增强应用是在通义千问-Max大模型基础之上,专项增强「基于知识检索的大模型生成能力」,支持基于结构化/非结构化内容的文字生成场景。

2024年1月,在知乎课堂直播间中,阿里云-飞天实验室-算法专家余海洋分享了大模型服务平台中RAG算法能力建设分享。在直播中分别从五个方面介绍了RAG检索能力:

  1. 易用:结合企业知识库快速创建大模型应用
  2. RAG-预置开箱即用大模型应用
  3. 企业知识搜索增强
  4. 文档问答算法流程
  5. 文档解析技术
  6. 难点

下面我们通过观看下方视频进一步探索RAG检索增强问答的奥秘吧👇~

常见问题

小编汇总了直播间中提到的问题及回答,请查看下方内容了解哦👇

1、对于我自己定义的插件或函数,assistant-api是如何理解插件或函数的参数,并使用他们的?

答:自定义API插件是可以理解的,会遵循协议,传给大模型,让大模型进行理解。对于函数而言,大模型会学习传入的参数信息,会返回完整的结果。


2、agent和assistant-api的最大区别是什么?

答:调整插件模型、基于上下文的理解,用户可以自己去开发,而assistant-api是可以提供各种类,方便调优。


3、直播中讲解的版本,预计什么时间发布上线?

答:当前版本已经上线,可以登陆阿里云百炼管理后台进行体验。


4、RAG模型版本的更新迭代时间大概是多久?

答:本身基础能力比较强,对于检索能力也是持续迭代,迭代时间比较快,没有固定周期。


5、阿里云百炼是通义千问plus版?

答:阿里云云百炼是一个提供模型的平台,包含通义千问系列的模型。


6、构建好这个模型服务之后,可以生成Api供自己的业务代码调用吗?

答:可以的,阿里云百炼提供API服务,详情:https://help.aliyun.com/document_detail/2712191.html.


7、后面还会支持更多模型吗?

答:会的,后面可支持的版本会多样化。


8、应用广场后面会上架哪些应用,三方应用可以上架么?有什么要求吗?

答:可以的,具体上架要求需要跟我方商务同学进一步沟通。


9、插件中心会提供保密吗?

答:支持数据、API参数传输加密,其他的诉求可以沟通。


10、RAG在哪些领域都得到了应用,展开说说?

答:RAG模型凭借其强大的检索与生成能力,在问答系统、对话系统、文本摘要、知识图谱构建与推理、教育与培训、客户服务、新闻与内容创作以及智能搜索与推荐等多个领域均展现出广泛的应用潜力和价值。


RAG检索增强操作指南

通过视频学习了模型调优的概念、使用说明与相关实践案例的指引。那让我们登录阿里云百炼控制台,小试牛刀一下!

一般来讲,体验RAG检索增强应用有三个主要过程,包括:

  • 数据准备:提前准备让RAG检索的文档内容;
  • 创建RAG检索增强应用:需要手动创建RAG检索增强应用,开启检索范围;
  • 应用测试:最后需要验证模型检索的程度情况。

第一步:上传企业数据文档

企业知识库目前支持OSS和向量数据库存储,其中需要先进行账号授权,详细授权操作步骤请参考文档:https://help.aliyun.com/document_detail/2586437.html进行配置。此处不再重复。

路径:首次上传文件,点击上传企业知识按钮,进入上传文件页面。

选择需要模型学习的文件,上传后点击确认导入等待上传状态。

说明

  • 若文件上传的格式为pdf、doc、docx时,每次最多只能上传20个文件且单个文件小于100M,文档页数低于100页。
  • 若上传的格式为Excel时,每次最多只能上传20个文件,且单个文件小于100M,文档内容小于1000行数据。
  • 具体导入说明可以在上传页面中查看详情。


老用户必看,新用户可忽略

阿里云百炼提供两个默认ES向量数据库,按照知识库名称分类对比能力:

  • 默认知识库:近期新上线的能力,检索效果相对较好,但上传的文件没有预览功能;
  • 默认:最先支持的能力,检索效果一般,但上传的文件有预览功能;(2024年3月15日以后开通的阿里云百炼用户则没有该选项)

您可以按照对比按需选择。

状态目前包括:导入中、导入完成、导入失败;当状态为导入完成时即可用于模型测试验证

当上传的文档为Excel时,需要先下载预置的文件模板,按照模板的提示填充内容后再上传文件。

知识标签

可以通过设置标签的方式将上传的文档进行分类,最多支持设置50个标签。在文档问答检索中,也可以通过标签的方式进行检索。

点击新增标签,输入标签名称点击确定。

点击已经上传文档的编辑按钮,选择标签后点击保存,文档标签设置完成。

可以通过设置标签类型,实现指定大模型的检索知识范围

批量管理

支持批量管理标签和批量删除文档功能。

第二步:创建RAG检索增强应用

路径:应用广场--点击RAG检索增强应用模板下方的创建应用按钮--输入应用名称后,点击确定。

image.png

选择模型,配置检索知识范围后,点击创建完成。

image.png

此时创建完成的应用,可以在我的应用中查看。

image.png

第三步:测试

应用体验中心测试

一共有两种方式完成测试体验,分别包括:

路径1:点击我的应用--新建应用下方的测试按钮,可以进入测试窗;

image.png

路径2:点击应用体验中心--选择新建的RAG检索增强应用进行测试。

image.png

测试示例:

prompt:民法典第一条内容

模型回复:第一条  【立法目的】为了保护民事主体的合法权益,调整民事关系,维护社会和经济秩序,适应中国特色社会主义发展要求,弘扬社会主义核心价值观,根据宪法,制定本法。


tips可以指定模型返回答案的来源信息。

image.png

答案来源于我上传的文档内容:

image.png


API接口测试

路径:点击我的应用--RAG检索增强应用下方的调用按钮,根据API接口文档进行体验:https://help.aliyun.com/document_detail/2712180.html

image.png


以上就是RAG检索增强应用的完整体验流程啦,您是否也一起跟着练习了呢?在练习过程中是否有需要反馈我们进行优化或者改善的呢?快在下方留言区中告诉我吧~


今天的分享内容就到此结束啦,是不是又get了新技能!下期想了解什么内容也可以在评论区进行互动哦,有机会获

得精美礼品哦~就酱啾咪(* ̄︶ ̄)


相关文章
|
13天前
|
算法 物联网 数据库
阿里云 OpenSearch RAG 应用实践
本文介绍了阿里云OpenSearch在过去一年中在RAG方面的应用和探索。
396 2
阿里云 OpenSearch RAG 应用实践
|
3天前
|
人工智能 搜索推荐 测试技术
|
26天前
|
安全 API 语音技术
阿里云百炼大模型服务平台是什么
阿里云百炼大模型服务平台是一个为企业提供一站式专属大模型生产与应用的平台,支持多样化模型和自定义编排。平台提供即插即用的智能工具箱,包括API接口、模型微调及部署功能,同时具备流程编排以适应复杂业务场景。此外,平台内置多种工具和插件,支持Python等,允许企业集成自定义API。平台优势在于快速构建业务应用、多行业大模型,以及保障模型效果的三大核心竞争力。它还提供丰富的模型服务,如通义千问模型用于文字创作、翻译等,通义万相模型用于图像生成,以及语音合成和识别模型等。企业可通过标准API和SDK进行集成,确保高效安全。
|
1月前
|
弹性计算 API Python
阿里云百炼应用之流程编排
阿里云通义百炼平台流程编排使用教程。
|
1月前
|
存储 SQL Apache
阿里云数据库内核 Apache Doris 基于 Workload Group 的负载隔离能力解读
阿里云数据库内核 Apache Doris 基于 Workload Group 的负载隔离能力解读
阿里云数据库内核 Apache Doris 基于 Workload Group 的负载隔离能力解读
|
1月前
|
存储 人工智能 自然语言处理
基于阿里云向量检索 Milvus 版与 PAI 搭建高效的检索增强生成(RAG)系统
阿里云向量检索 Milvus 版现已无缝集成于阿里云 PAI 平台,一站式赋能用户构建高性能的检索增强生成(RAG)系统。您可以利用 Milvus 作为向量数据的实时存储与检索核心,高效结合 PAI 和 LangChain 技术栈,实现从理论到实践的快速转化,搭建起功能强大的 RAG 解决方案。
基于阿里云向量检索 Milvus 版与 PAI 搭建高效的检索增强生成(RAG)系统
|
1月前
|
机器学习/深度学习 人工智能 安全
AI战略丨阿里云百炼再升级:模型、工具、AI能力,快速接入、应有尽有
阿里云百炼持续加码模型服务,基于丰富的底层计算能力与通义系列模型的最佳实践,构建训练评测、标注、部署全生命周期模型工具,帮助企业、开发者在云上一站式调用、优化大模型,成为大模型时代的商业化基础设施。
|
19天前
|
存储 固态存储 安全
阿里云4核CPU云服务器价格参考,最新收费标准和活动价格
阿里云4核CPU云服务器多少钱?阿里云服务器核数是指虚拟出来的CPU处理器的核心数量,准确来讲应该是vCPU。CPU核心数的大小代表了云服务器的运算能力,CPU越高,云服务器的性能越好。阿里云服务器1核CPU就是一个超线程,2核CPU2个超线程,4核CPU4个超线程,这样云服务器可以同时处理多个任务,计算性能更强。如果网站流程较小,少量图片展示的企业网站,建议选择2核及以上CPU;如果网站流量较大,动态页面比较多,有视频等,建议选择4核、8核以上CPU。
阿里云4核CPU云服务器价格参考,最新收费标准和活动价格
|
1天前
|
弹性计算 固态存储 JavaScript
阿里云4核8g服务器多少钱?云服务器u1实例700元1年
阿里云4核8G ECS u1实例,支持约30个并发用户,适合日均1万IP访问。当前优惠价为700元/年。配置包括Intel Xeon处理器,4核8GB内存,1.5Gbps带宽,最高25万连接数,云盘IOPS达2万。公网带宽和应用效率影响并发数,3M带宽理论可支撑12个用户同时访问。系统盘为20-40GB ESSD Entry。

热门文章

最新文章