AppFlow:为您的任意模型赋能——上下文连续会话能力

本文涉及的产品
轻量应用服务器 4vCPU 16GiB,适用于搭建游戏自建服
轻量应用服务器 2vCPU 1GiB,适用于搭建电商独立站
无影云电脑企业版,4核8GB 120小时 1个月
简介: 通过AppFlow,无需任何开发工作,即可使大型语言模型具备上下文连续对话的能力。本文以钉钉会话机器人为例,详细介绍如何配置这一功能:首先选择触发器,如钉钉机器人收到文本消息;接着配置上下文组件,组合当前和历史会话;然后选择模型,例如通义千问,并配置相应参数;更新上下文,设置对话内容和会话ID;最后将模型回答发送至钉钉。整个过程简单快捷,适用于多种触发器和模型。

大语言模型发展至今,模型的上下文对话能力已经是一个大语言模型的基础能力之一。绝大部分模型实现上下文连续会话的原理都是将历史会话与当前会话一起输入给模型,从而使模型拥有短期的记忆实现上下文的连续会话。

但是,这个简单的功能往往也需要对你部署的模型接口进行一些开发工作才可以实现。

现在通过AppFlow,不需要任何开发,您的任意模型即可拥有上下文的连续会话能力。

下面以钉钉会话机器人为例,来看看如何配置吧~

创建连接流

选择触发器

登陆AppFlow控制台创建连接流页面,填写您的流名称。

“选择触发事件”,找到并点击选择“钉钉机器人”,触发事件选择“收到文本消息时”,点击“保存,进入下一步”

image.gif 编辑

本文以钉钉为例,但AppFlow提供的上下文功能不局限于钉钉,您的触发器可以是任意的。

配置上下文组件


image.gif

选择上下文会话组件,执行动作选择“组合当前会话与历史上下文”。此处AppFlow将会把您的当前会话与历史会话组合在一起。


在钉钉场景下,会话内容插入“请求体——会话消息——消息内容”。

会话ID可以选择“请求体——会话ID”,您也可以填写任意值,这里是为了区分不同会话。

清除历史会话关键词:当您的输入会话内容与关键词一致时,AppFlow会清除历史上下文。

选择模型

选择你想要调用的模型,可以是我们提供的各种模型也可以是你自己部署的任意模型。

这里以通义千问为例:

角色选择变量“2. —— 响应体——上下文消息(包含当前会话)——role”,并将messages[0]手动改写为messages[i],表示循环应用上下文中的每一个role

问题描述选择插入““2. —— 响应体——上下文消息(包含当前会话)——content”,并将messages[0]手动改写为messages[i],表示循环应用上下文中的每一个content”

image.gif

此处,只要您的模型输入满足如下格式,都可以类似配置达到上下文会话目的

{
  "messages":[
    "role":xxxx,
    "content":xxxx
  ]
}

image.gif

更新上下文

步骤四选择“上下文连续会话组件”,执行动作选择“更新历史上下文”

image.gif 编辑

输入的对话内容表示您本轮对话的输入,钉钉场景下选择“请求体——会话消息——消息内容”。

输出的对话内容表示您的模型输出内容,选择您的模型输出字段即可。此处通义千问的输出为“3. 响应体 —— 模型输出 —— 返回内容”。

会话ID选择第二步中同样的内容。

会话轮数表示每次对话携带的历史上下文轮数。

发送模型回答到钉钉

此处以AI卡片消息为例,您也可以选择其他消息形式。

image.gif 编辑

模版ID:填写钉钉卡片平台创建的模版ID,若您还没有模版,可以参考计算巢AppFlow实现模型对话流式输出-阿里云开发者社区 创建卡片部分进行创建

机器人Code:“1. 请求体——机器人代码”

字段key:固定填写 content。如果对您的AI卡片做了定制,可以按照您定制的变量值填写。

群聊ID:“1. 请求体——会话ID”

最后完成并保存流程。

发布并调用连接流

在连接流页面发布您的连接流,按照计算巢AppFlow实现模型对话流式输出-阿里云开发者社区的步骤,添加机器人即可调用使用。

相关文章
|
4月前
|
API 语音技术 开发者
基于开源技术的数字人实时对话:形象可自定义,支持语音输入,对话首包延迟可低至3s
魔搭社区最近上线了基于开源技术的数字人实时对话demo,无需预训练即可使用自定义的数字人形象进行实时对话,支持语音输入和实时对话。
文本,好看的设计------我独自升级,六芒星技能表,可以用来判断是否在能力值之内的事情,使用六芒星可以显示能力之内,能力之外的事情,用以判断
文本,好看的设计------我独自升级,六芒星技能表,可以用来判断是否在能力值之内的事情,使用六芒星可以显示能力之内,能力之外的事情,用以判断
文本,好看的设计------我独自升级,六芒星技能表,可以用来判断是否在能力值之内的事情,使用六芒星可以显示能力之内,能力之外的事情,用以判断
|
10月前
|
机器学习/深度学习 缓存 文字识别
印刷文字识别产品使用合集之标注阶段设定了两个独立的字段,但在返回的信息中却合并成了一个字段如何解决
印刷文字识别(Optical Character Recognition, OCR)技术能够将图片、扫描文档或 PDF 中的印刷文字转化为可编辑和可搜索的数据。这项技术广泛应用于多个领域,以提高工作效率、促进信息数字化。以下是一些印刷文字识别产品使用的典型场景合集。
|
10月前
|
API Python
可以将文本按照每一批5000个字符进行分割,然后依次调用批量翻译接口进行翻译
可以将文本按照每一批5000个字符进行分割,然后依次调用批量翻译接口进行翻译
54 1
|
10月前
|
机器学习/深度学习 Python
网络训练需要的混合类型数据的组织方式
网络训练需要的混合类型数据的组织方式
|
人工智能 自然语言处理 文字识别
理解指向,说出坐标,Shikra开启多模态大模型参考对话新维度
理解指向,说出坐标,Shikra开启多模态大模型参考对话新维度
229 0
|
存储 机器学习/深度学习 自然语言处理
GPT-4的32k输入框还是不够用?Unlimiformer把上下文长度拉到无限长
GPT-4的32k输入框还是不够用?Unlimiformer把上下文长度拉到无限长
182 0
|
自然语言处理 监控 机器人
能看图、会聊天,还会跨模态推理和定位,能落地复杂场景的DetGPT来了
能看图、会聊天,还会跨模态推理和定位,能落地复杂场景的DetGPT来了
201 0
|
存储 机器学习/深度学习 IDE
参数量仅0.5B,谷歌代码补全新方法将内部生产效率提升6%
参数量仅0.5B,谷歌代码补全新方法将内部生产效率提升6%
136 0
|
机器学习/深度学习 数据采集 人工智能
中科大提出统一输入过滤框架InFi:首次理论分析可过滤性,支持全数据模态
中科大提出统一输入过滤框架InFi:首次理论分析可过滤性,支持全数据模态
260 0