AppFlow:为您的任意模型赋能——上下文连续会话能力

本文涉及的产品
无影云电脑企业版,4核8GB 120小时 1个月
无影云电脑企业版,4核8GB 120小时 1个月
资源编排,不限时长
简介: 通过AppFlow,无需任何开发工作,即可使大型语言模型具备上下文连续对话的能力。本文以钉钉会话机器人为例,详细介绍如何配置这一功能:首先选择触发器,如钉钉机器人收到文本消息;接着配置上下文组件,组合当前和历史会话;然后选择模型,例如通义千问,并配置相应参数;更新上下文,设置对话内容和会话ID;最后将模型回答发送至钉钉。整个过程简单快捷,适用于多种触发器和模型。

大语言模型发展至今,模型的上下文对话能力已经是一个大语言模型的基础能力之一。绝大部分模型实现上下文连续会话的原理都是将历史会话与当前会话一起输入给模型,从而使模型拥有短期的记忆实现上下文的连续会话。

但是,这个简单的功能往往也需要对你部署的模型接口进行一些开发工作才可以实现。

现在通过AppFlow,不需要任何开发,您的任意模型即可拥有上下文的连续会话能力。

下面以钉钉会话机器人为例,来看看如何配置吧~

创建连接流

选择触发器

登陆AppFlow控制台创建连接流页面,填写您的流名称。

“选择触发事件”,找到并点击选择“钉钉机器人”,触发事件选择“收到文本消息时”,点击“保存,进入下一步”

image.gif 编辑

本文以钉钉为例,但AppFlow提供的上下文功能不局限于钉钉,您的触发器可以是任意的。

配置上下文组件

image.gif 编辑

image.gif 编辑

选择上下文会话组件,执行动作选择“组合当前会话与历史上下文”。此处AppFlow将会把您的当前会话与历史会话组合在一起。

image.gif 编辑

在钉钉场景下,会话内容插入“请求体——会话消息——消息内容”。

会话ID可以选择“请求体——会话ID”,您也可以填写任意值,这里是为了区分不同会话。

清除历史会话关键词:当您的输入会话内容与关键词一致时,AppFlow会清除历史上下文。

选择模型

选择你想要调用的模型,可以是我们提供的各种模型也可以是你自己部署的任意模型。

这里以通义千问为例:

角色选择变量“2. —— 响应体——上下文消息(包含当前会话)——role”,并将messages[0]手动改写为messages[i],表示循环应用上下文中的每一个role

问题描述选择插入““2. —— 响应体——上下文消息(包含当前会话)——content”,并将messages[0]手动改写为messages[i],表示循环应用上下文中的每一个content”

image.gif 编辑

此处,只要您的模型输入满足如下格式,都可以类似配置达到上下文会话目的

{
  "messages":[
    "role":xxxx,
    "content":xxxx
  ]
}

image.gif

更新上下文

步骤四选择“上下文连续会话组件”,执行动作选择“更新历史上下文”

image.gif 编辑

输入的对话内容表示您本轮对话的输入,钉钉场景下选择“请求体——会话消息——消息内容”。

输出的对话内容表示您的模型输出内容,选择您的模型输出字段即可。此处通义千问的输出为“3. 响应体 —— 模型输出 —— 返回内容”。

会话ID选择第二步中同样的内容。

会话轮数表示每次对话携带的历史上下文轮数。

发送模型回答到钉钉

此处以AI卡片消息为例,您也可以选择其他消息形式。

image.gif 编辑

模版ID:填写钉钉卡片平台创建的模版ID,若您还没有模版,可以参考计算巢AppFlow实现模型对话流式输出-阿里云开发者社区 创建卡片部分进行创建

机器人Code:“1. 请求体——机器人代码”

字段key:固定填写 content。如果对您的AI卡片做了定制,可以按照您定制的变量值填写。

群聊ID:“1. 请求体——会话ID”

最后完成并保存流程。

发布并调用连接流

在连接流页面发布您的连接流,按照计算巢AppFlow实现模型对话流式输出-阿里云开发者社区的步骤,添加机器人即可调用使用。

相关文章
|
1天前
|
人工智能 机器人 开发者
AppFlow:为您的任意模型赋能——RAG
随着大语言模型参数规模的增加,微调成本高昂,知识检索增强方式逐渐成为主流。通过预置知识库,在模型推理前检索相关知识作为上下文,提升领域知识准确性和专业性。AppFlow现支持百炼知识库,无需额外开发,只需简单配置即可为任意模型提供RAG能力,适用于多种触发器,如钉钉机器人等。通过选择模型、配置RAG组件,并将结果发送回钉钉,轻松实现专业知识增强的回答。
|
1月前
|
索引
Sora视频重建与创新路线问题之TECO代码中条件部分和主体部分的编码如何处理
Sora视频重建与创新路线问题之TECO代码中条件部分和主体部分的编码如何处理
|
1月前
|
机器学习/深度学习 算法 PyTorch
深度强化学习在自动扩展云资源中的应用
【8月更文第19天】随着云计算的普及,企业越来越依赖于云服务来处理大量数据和运行复杂的应用程序。为了应对不断变化的工作负载,云提供商通常会采用自动扩展机制来动态调整资源分配。然而,这种自动扩展需要考虑成本和性能之间的平衡。传统的基于规则或阈值的自动扩展策略往往难以适应高度动态的工作负载变化。而深度强化学习(DRL)提供了一种灵活且强大的方法来优化资源分配策略,以达到最佳的成本效益比。
19 0
文本,好看的设计------我独自升级,六芒星技能表,可以用来判断是否在能力值之内的事情,使用六芒星可以显示能力之内,能力之外的事情,用以判断
文本,好看的设计------我独自升级,六芒星技能表,可以用来判断是否在能力值之内的事情,使用六芒星可以显示能力之内,能力之外的事情,用以判断
文本,好看的设计------我独自升级,六芒星技能表,可以用来判断是否在能力值之内的事情,使用六芒星可以显示能力之内,能力之外的事情,用以判断
|
3月前
|
机器学习/深度学习 人工智能 前端开发
人工智能平台PAI产品使用合集之创建了实时特征视图,里面的数据是通过什么传入的
阿里云人工智能平台PAI是一个功能强大、易于使用的AI开发平台,旨在降低AI开发门槛,加速创新,助力企业和开发者高效构建、部署和管理人工智能应用。其中包含了一系列相互协同的产品与服务,共同构成一个完整的人工智能开发与应用生态系统。以下是对PAI产品使用合集的概述,涵盖数据处理、模型开发、训练加速、模型部署及管理等多个环节。
|
2月前
|
容器
通用研发提效问题之区分女娲上下文中的共享字典和隔离字典,如何解决
通用研发提效问题之区分女娲上下文中的共享字典和隔离字典,如何解决
|
3月前
|
监控 算法 API
视觉智能开放平台操作报错合集之视频分割服务调用过程中遇到调用报错的问题,该怎么处理
在使用视觉智能开放平台时,可能会遇到各种错误和问题。虽然具体的错误代码和消息会因平台而异,但以下是一些常见错误类型及其可能的原因和解决策略的概述,包括但不限于:1. 认证错误、2. 请求参数错误、3. 资源超限、4. 图像质量问题、5. 服务不可用、6. 模型不支持的场景、7. 网络连接问题,这有助于快速定位和解决问题。
|
4月前
|
机器学习/深度学习 缓存 文字识别
印刷文字识别产品使用合集之标注阶段设定了两个独立的字段,但在返回的信息中却合并成了一个字段如何解决
印刷文字识别(Optical Character Recognition, OCR)技术能够将图片、扫描文档或 PDF 中的印刷文字转化为可编辑和可搜索的数据。这项技术广泛应用于多个领域,以提高工作效率、促进信息数字化。以下是一些印刷文字识别产品使用的典型场景合集。
|
4月前
|
机器学习/深度学习 数据处理 API
视觉智能平台常见问题之通用图像打标位置报警告如何解决
视觉智能平台是利用机器学习和图像处理技术,提供图像识别、视频分析等智能视觉服务的平台;本合集针对该平台在使用中遇到的常见问题进行了收集和解答,以帮助开发者和企业用户在整合和部署视觉智能解决方案时,能够更快地定位问题并找到有效的解决策略。
视觉智能平台常见问题之通用图像打标位置报警告如何解决
|
4月前
|
编解码 安全 对象存储
智能媒体管理文档转换的上限参数
【2月更文挑战第15天】 智能媒体管理文档转换的上限参数
59 8