AppFlow:为您的任意模型赋能——上下文连续会话能力

本文涉及的产品
无影云电脑个人版,1个月黄金款+200核时
资源编排,不限时长
无影云电脑企业版,4核8GB 120小时 1个月
简介: 通过AppFlow,无需任何开发工作,即可使大型语言模型具备上下文连续对话的能力。本文以钉钉会话机器人为例,详细介绍如何配置这一功能:首先选择触发器,如钉钉机器人收到文本消息;接着配置上下文组件,组合当前和历史会话;然后选择模型,例如通义千问,并配置相应参数;更新上下文,设置对话内容和会话ID;最后将模型回答发送至钉钉。整个过程简单快捷,适用于多种触发器和模型。

大语言模型发展至今,模型的上下文对话能力已经是一个大语言模型的基础能力之一。绝大部分模型实现上下文连续会话的原理都是将历史会话与当前会话一起输入给模型,从而使模型拥有短期的记忆实现上下文的连续会话。

但是,这个简单的功能往往也需要对你部署的模型接口进行一些开发工作才可以实现。

现在通过AppFlow,不需要任何开发,您的任意模型即可拥有上下文的连续会话能力。

下面以钉钉会话机器人为例,来看看如何配置吧~

创建连接流

选择触发器

登陆AppFlow控制台创建连接流页面,填写您的流名称。

“选择触发事件”,找到并点击选择“钉钉机器人”,触发事件选择“收到文本消息时”,点击“保存,进入下一步”

image.gif 编辑

本文以钉钉为例,但AppFlow提供的上下文功能不局限于钉钉,您的触发器可以是任意的。

配置上下文组件


image.gif

选择上下文会话组件,执行动作选择“组合当前会话与历史上下文”。此处AppFlow将会把您的当前会话与历史会话组合在一起。


在钉钉场景下,会话内容插入“请求体——会话消息——消息内容”。

会话ID可以选择“请求体——会话ID”,您也可以填写任意值,这里是为了区分不同会话。

清除历史会话关键词:当您的输入会话内容与关键词一致时,AppFlow会清除历史上下文。

选择模型

选择你想要调用的模型,可以是我们提供的各种模型也可以是你自己部署的任意模型。

这里以通义千问为例:

角色选择变量“2. —— 响应体——上下文消息(包含当前会话)——role”,并将messages[0]手动改写为messages[i],表示循环应用上下文中的每一个role

问题描述选择插入““2. —— 响应体——上下文消息(包含当前会话)——content”,并将messages[0]手动改写为messages[i],表示循环应用上下文中的每一个content”

image.gif

此处,只要您的模型输入满足如下格式,都可以类似配置达到上下文会话目的

{
  "messages":[
    "role":xxxx,
    "content":xxxx
  ]
}

image.gif

更新上下文

步骤四选择“上下文连续会话组件”,执行动作选择“更新历史上下文”

image.gif 编辑

输入的对话内容表示您本轮对话的输入,钉钉场景下选择“请求体——会话消息——消息内容”。

输出的对话内容表示您的模型输出内容,选择您的模型输出字段即可。此处通义千问的输出为“3. 响应体 —— 模型输出 —— 返回内容”。

会话ID选择第二步中同样的内容。

会话轮数表示每次对话携带的历史上下文轮数。

发送模型回答到钉钉

此处以AI卡片消息为例,您也可以选择其他消息形式。

image.gif 编辑

模版ID:填写钉钉卡片平台创建的模版ID,若您还没有模版,可以参考计算巢AppFlow实现模型对话流式输出-阿里云开发者社区 创建卡片部分进行创建

机器人Code:“1. 请求体——机器人代码”

字段key:固定填写 content。如果对您的AI卡片做了定制,可以按照您定制的变量值填写。

群聊ID:“1. 请求体——会话ID”

最后完成并保存流程。

发布并调用连接流

在连接流页面发布您的连接流,按照计算巢AppFlow实现模型对话流式输出-阿里云开发者社区的步骤,添加机器人即可调用使用。

相关文章
|
2月前
|
人工智能 机器人 开发者
AppFlow:为您的任意模型赋能——RAG
随着大语言模型参数规模的增加,微调成本高昂,知识检索增强方式逐渐成为主流。通过预置知识库,在模型推理前检索相关知识作为上下文,提升领域知识准确性和专业性。AppFlow现支持百炼知识库,无需额外开发,只需简单配置即可为任意模型提供RAG能力,适用于多种触发器,如钉钉机器人等。通过选择模型、配置RAG组件,并将结果发送回钉钉,轻松实现专业知识增强的回答。
AppFlow:为您的任意模型赋能——RAG
文本,好看的设计------我独自升级,六芒星技能表,可以用来判断是否在能力值之内的事情,使用六芒星可以显示能力之内,能力之外的事情,用以判断
文本,好看的设计------我独自升级,六芒星技能表,可以用来判断是否在能力值之内的事情,使用六芒星可以显示能力之内,能力之外的事情,用以判断
文本,好看的设计------我独自升级,六芒星技能表,可以用来判断是否在能力值之内的事情,使用六芒星可以显示能力之内,能力之外的事情,用以判断
|
5月前
|
监控 算法 API
视觉智能开放平台操作报错合集之视频分割服务调用过程中遇到调用报错的问题,该怎么处理
在使用视觉智能开放平台时,可能会遇到各种错误和问题。虽然具体的错误代码和消息会因平台而异,但以下是一些常见错误类型及其可能的原因和解决策略的概述,包括但不限于:1. 认证错误、2. 请求参数错误、3. 资源超限、4. 图像质量问题、5. 服务不可用、6. 模型不支持的场景、7. 网络连接问题,这有助于快速定位和解决问题。
|
6月前
|
机器学习/深度学习 缓存 文字识别
印刷文字识别产品使用合集之标注阶段设定了两个独立的字段,但在返回的信息中却合并成了一个字段如何解决
印刷文字识别(Optical Character Recognition, OCR)技术能够将图片、扫描文档或 PDF 中的印刷文字转化为可编辑和可搜索的数据。这项技术广泛应用于多个领域,以提高工作效率、促进信息数字化。以下是一些印刷文字识别产品使用的典型场景合集。
|
6月前
|
机器学习/深度学习 人工智能 运维
人工智能平台PAI 操作报错合集之请问Alink的算法中的序列异常检测组件,是对数据进行分组后分别在每个组中执行异常检测,而不是将数据看作时序数据进行异常检测吧
阿里云人工智能平台PAI (Platform for Artificial Intelligence) 是阿里云推出的一套全面、易用的机器学习和深度学习平台,旨在帮助企业、开发者和数据科学家快速构建、训练、部署和管理人工智能模型。在使用阿里云人工智能平台PAI进行操作时,可能会遇到各种类型的错误。以下列举了一些常见的报错情况及其可能的原因和解决方法。
|
6月前
|
编解码 安全 对象存储
智能媒体管理文档转换的上限参数
【2月更文挑战第15天】 智能媒体管理文档转换的上限参数
64 8
|
6月前
|
机器学习/深度学习 Python
网络训练需要的混合类型数据的组织方式
网络训练需要的混合类型数据的组织方式
|
机器学习/深度学习 自然语言处理 BI
FourIE:基于图卷积网络的跨任务实例表征交互和标签依赖的联合信息抽取模型
现有的信息抽取(IE)工作主要是分别解决四个主要任务(实体提及识别、关系抽取、事件触发词检测和论元抽取),无法从任务之间的相互依赖中获益。
115 2
|
机器人 API 区块链
Pionex派网量化网格交易机器人开发策略部署[源码执行规则示例]
Pionex派网量化网格交易机器人开发策略部署[源码执行规则示例]
|
人工智能 数据可视化 人机交互
基于跨模态元迁移,美图&大连理工的参考视频目标分割方法只需单阶段
基于跨模态元迁移,美图&大连理工的参考视频目标分割方法只需单阶段