AppFlow:为您的任意模型赋能——RAG

本文涉及的产品
轻量应用服务器 2vCPU 4GiB,适用于搭建Web应用/小程序
轻量应用服务器 2vCPU 1GiB,适用于搭建电商独立站
无影云电脑个人版,1个月黄金款+200核时
简介: 随着大语言模型参数规模的增加,微调成本高昂,知识检索增强方式逐渐成为主流。通过预置知识库,在模型推理前检索相关知识作为上下文,提升领域知识准确性和专业性。AppFlow现支持百炼知识库,无需额外开发,只需简单配置即可为任意模型提供RAG能力,适用于多种触发器,如钉钉机器人等。通过选择模型、配置RAG组件,并将结果发送回钉钉,轻松实现专业知识增强的回答。


随着大语言模型的参数规模越来越大,微调模型的代价越来越大,于是知识检索增强的方式成为越来越主流的选择。通过提前准备好的知识库,在模型进行推理之前进行知识检索作为上下文一同交给大模型进行推理,从而提升大模型对领域知识的掌握程度,提升回答的专业性和准确性。

AppFlow现在可以通过百炼知识库,为您的任意模型提供RAG能力,仅需多一个节点的配置,无需任何开发即可拥有RAG能力。

前提条件

开通百炼服务并创建好知识库。具体可参考知识库_大模型服务平台百炼(Model Studio)-阿里云帮助中心

选择触发器

登陆AppFlow控制台创建连接流页面,填写您的流名称。

“选择触发事件”,找到并点击选择“钉钉机器人”,触发事件选择“收到文本消息时”,点击“保存,进入下一步”

image.gif 编辑

本文以钉钉为例,但AppFlow提供的上下文功能不局限于钉钉,您的触发器可以是任意的。

配置RAG知识检索增强组件

image.gif

配置鉴权凭证

按照提示选择您的鉴权凭证,该凭证会自动为您创建一个拥有百炼调用权限的RAM角色。

具体分为两种情况:

  • 如果您想在已有的角色上添加权限,“选择已有角色”,系统会自动判断当前角色的权限策略是否符合要求,若符合,点击创建即可;

否则点击下一步,创建策略并添加。


任意输入策略名称,点击创建策略并点击授权即可。



  • 如果您想创建一个新角色,选择“创建新角色”


任意输入策略名称,点击创建策略并点击授权即可。


image.gif

在百炼中为RAM角色授权

点击链接,使用主账号或有相应权限的子账号登陆百炼主账号管理页面,点击右上角“新增用户”,类型选择“RAM角色”,选择您在AppFlow中创建凭证时选择或创建的那个RAM角色,点击“保存,继续配置”。

image.gif 编辑

点击增加权限按钮,选择知识库所对应的业务范围,并选择“访客”角色即可。

image.gif 编辑

在AppFlow填写执行动作入参配置

在钉钉场景下,用来检索知识的提问插入“请求体——会话消息——消息内容”。

WorkspaceID可以在百炼大模型平台获取,参考https://help.aliyun.com/zh/model-studio/developer-reference/obtain-api-key-app-id-and-workspace-id#732535cfc959h

IndexId 下拉选择即可。

检索知识条数表示需要检索并携带的知识条数,一般填写3-5轮即可。越高的知识条数可能会导致更多的Token消耗。

选择模型

选择你想要调用的模型,可以是我们提供的各种模型也可以是你自己部署的任意模型。

这里以通义千问为例:

角色下拉选择user

问题描述选择插入“2. 响应体——重写Query”,此处AppFlow会帮您重写好RAG的prompt,直接引用即可。

image.gif 编辑

此处,无论您使用的是什么模型,只要将模型的输入换成步骤二中的重写Query,即可实现RAG能力。

发送模型回答到钉钉

此处以AI卡片消息为例,您也可以选择其他消息形式。

image.gif 编辑

模版ID:填写钉钉卡片平台创建的模版ID,若您还没有模版,可以参考计算巢AppFlow实现模型对话流式输出-阿里云开发者社区 创建卡片部分进行创建

机器人Code:“1. 请求体——机器人代码”

字段key:固定填写 content。如果对您的AI卡片做了定制,可以按照您定制的变量值填写。

群聊ID:“1. 请求体——会话ID”

最后完成并保存流程。

发布并调用连接流

在连接流页面发布您的连接流,按照计算巢AppFlow实现模型对话流式输出-阿里云开发者社区的步骤,添加机器人即可调用使用。

相关文章
|
安全 机器人 API
简单几步,钉钉机器人秒变通义千问对话机器人
通过阿里云计算巢AppFlow平台,无需编码,只需简单几步,即可将钉钉机器人转化为通义千问对话机器人。首先在灵积模型服务平台获取API Key,然后在AppFlow中配置连接器,授权并保存Webhook Url。在钉钉中创建自定义机器人,选择Outgoing功能,填写签名和Webhook地址。最后,@机器人即可开始对话。此外,还提供了通过钉钉开放平台创建机器人的步骤。AppFlow简化了集成过程,加速了企业自动化服务流程。
822 0
|
10月前
|
机器人 API 数据安全/隐私保护
AppFlow:支持飞书机器人调用百炼应用
本文介绍了如何创建并配置飞书应用及机器人,包括登录飞书开发者后台创建应用、添加应用能力和API权限,以及通过AppFlow连接流集成阿里云百炼服务,最后详细说明了如何将机器人添加到飞书群组中实现互动。
998 5
|
17天前
|
域名解析 人工智能 机器人
AppFlow:企业微信支持流式群聊机器人
企业微信近日更新,新增群聊机器人功能,支持与自定义大模型对话。通过@机器人,可实现流式输出,提升交互效率。只需简单配置,即可将AI能力集成至群聊,完成即时消息解析与业务联动。
257 1
AppFlow:企业微信支持流式群聊机器人
|
12月前
|
人工智能 机器人 开发者
AppFlow:为您的任意模型赋能——上下文连续会话能力
通过AppFlow,无需任何开发工作,即可使大型语言模型具备上下文连续对话的能力。本文以钉钉会话机器人为例,详细介绍如何配置这一功能:首先选择触发器,如钉钉机器人收到文本消息;接着配置上下文组件,组合当前和历史会话;然后选择模型,例如通义千问,并配置相应参数;更新上下文,设置对话内容和会话ID;最后将模型回答发送至钉钉。整个过程简单快捷,适用于多种触发器和模型。
518 1
AppFlow:为您的任意模型赋能——上下文连续会话能力
|
安全 机器人 API
AppFlow实现大模型对话自由
AppFlow是阿里云团队推出的应用与数据集成平台,它无需编程即可配置对话流程,支持接入包括通义千问、文心一言等在内的多个主流大模型。用户可以通过AppFlow与钉钉、飞书、企业微信等IM软件中的大模型进行对话。配置过程包括创建连接流,选择触发事件(如钉钉机器人接收到文本消息),配置执行动作(如使用通义千问模型提问),以及设置回调地址等步骤。此外,还提供了在钉钉创建机器人的指南,通过Outgoing功能或钉钉开放平台实现与大模型的交互。如有问题,用户可以加入官方支持钉钉群进行咨询和交流。
55261 9
|
11月前
|
人工智能 算法 数据安全/隐私保护
基于文档智能和百炼平台的RAG应用-部署实践有感
本文对《文档智能 & RAG让AI大模型更懂业务》解决方案进行了详细测评,涵盖实践原理理解、部署体验、LLM知识库优势及改进空间、适用业务场景等方面。测评指出,该方案在提升AI大模型对特定业务领域的理解和应用能力方面表现突出,但需在技术细节描述、知识库维护、多语言支持、性能优化及数据安全等方面进一步完善。
467 1
|
7月前
|
弹性计算 JavaScript 前端开发
一键安装!阿里云新功能部署Nodejs环境到ECS竟然如此简单!
一键安装!阿里云新功能部署Nodejs环境到ECS竟然如此简单!
一键安装!阿里云新功能部署Nodejs环境到ECS竟然如此简单!
|
8月前
|
弹性计算 应用服务中间件 API
AppFlow:无代码部署Dify并集成到企业微信
本文介绍如何通过计算巢AppFlow完成Dify的无代码部署,并将Dify应用集成到企业微信中使用。具体步骤包括:创建企业微信应用,获取AgentID和Secret;使用计算巢AppFlow模板创建连接流,配置Dify和企业微信的鉴权凭证;配置企业微信API接收消息和可信IP;最后测试应用确保正常运行。文中还提供了常见问题的解决方案,如域名主体校验未通过和配置企业可信IP报错等。
2093 11
AppFlow:无代码部署Dify并集成到企业微信
|
人工智能 机器人 数据安全/隐私保护
计算巢AppFlow实现模型对话流式输出
使用AppFlow现在可以实现大模型对话在钉钉群聊中的流式输出效果,无需编程,只需简单几步配置。首先在钉钉开放平台创建应用,获取Client ID和Client Secret。接着在钉钉卡片平台创建AI卡片实例,关联之前创建的应用。然后在AppFlow中选择模板创建连接流,配置钉钉卡片模版ID和WebhookUrl,发布连接流。最后在钉钉应用中设置机器人,选择HTTP模式并填入WebhookUrl,发布应用。完成这些步骤后,即可在钉钉群中与通义千问、通义百炼模型进行流式对话。如有问题,可加入官方支持钉钉群咨询。
370 13
|
10月前
|
人工智能 JSON 自然语言处理
AppFlow全面支持Qwen2.5开源版无代码调用
Qwen2.5是阿里云推出的大型语言模型,无需编码即可快速体验。该模型基于最新大规模数据集训练,支持超29种语言,显著提升了知识量、编码及数学能力,特别是在指令遵循、长文本生成、结构化数据理解和生成等方面。通过AppFlow,Qwen2.5可轻松集成至钉钉机器人等应用,实现智能化交互。
348 4