轻松集成私有化部署Dify文本生成型应用

简介: Dify 是一款开源的大语言模型应用开发平台,融合了后端即服务(Backend as Service)和 LLMOps 的理念,使开发者能快速搭建生产级生成式 AI 应用。通过阿里云计算巢,用户可以一键部署 Dify 社区版,享受独享的计算和网络资源,并无代码完成钉钉、企业微信等平台的应用集成。本文将详细介绍如何部署 Dify 并将其集成到钉钉群聊机器人和企业微信中,帮助您轻松实现 AI 应用的定义与数据运营,提升工作效率。

随着如今大语言模型的发展,大家对Agent和工作流编排的需求越来越旺盛。Dify 作为一款开源的大语言模型(LLM) 应用开发平台逐渐为大家熟知。它融合了后端即服务(Backend as Service)和 LLMOps的理念,使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员,也能参与到 AI 应用的定义和数据运营过程中。

阿里云计算巢提供了Dify社区版的一键部署功能,您可以轻松通过计算巢部署Dify社区版,仅需较低的资源部署费用即可拥有独享的计算和网络资源,并且不再有商业版的各类额度限制。

同时,计算巢AppFlow还为您提供成熟的应用集成方案,通过AppFlow配置,您可以将您的Dify应用集成到钉钉群聊机器人、企业微信机器人或者是公众号等各类平台。接下来本文将为您展示如何无代码完成上述部署和集成步骤。

私有化部署Dify社区版

  1. 访问计算巢服务部署页面,根据您的需要选择单机版或高可用版本,完成资源配置和可用区配置

  1. 确认您的订单并点击立即创建。

  1. 等待部署完成后,点击Dify链接访问Dify页面。设置您的管理员账户密码即可登陆。

创建Dify应用

  1. 配置您的模型。点击右上角头像,选择设置,点击模型供应商。

  1. 点击创建空白应用,本文选取文本生成应用进行说明。

  1. 编辑您的前缀提示词。您也可以根据您的需要添加更多的变量。

  1. 点击右上角发布案例,更新或发布您的应用。

  1. 点击左侧“访问API”菜单栏,点击右上角API密钥,在弹出框点击创建密钥。获取并保存您的API密钥。

创建AppFlow连接流集成

集成到钉钉机器人

创建钉钉应用

  1. 在应用开发的左侧导航栏中,点击钉钉应用,在钉钉应用页面右上角点击创建应用

  1. 创建应用面板,填写应用名称应用描述,上传应用图标,完成后点击保存

查看应用 Client ID 和 Client Secret

在左侧菜单选择凭证与基础信息,复制 Client ID 和 Client Secret,用于下一步创建连接流。

创建消息卡片

钉钉机器人通过卡片消息支持流式返回结果,您需要创建卡片模板供消息发送使用。

  1. 访问卡片平台,点击新建模板

  1. 在创建模板输入框,填入模板信息。

  1. 在模拟编辑页面,保存发布模板。然后点击返回模板列表页面。

  1. 复制模板ID,用于创建钉钉连接流使用。

授予应用发送卡片消息权限

创建卡片后,您需要给应用授予发送卡片消息的权限。

  1. 访问钉钉应用列表。找到刚刚创建的应用,点击应用名称进入详情页面。
  2. 在左侧菜单选择开发配置 > 权限管理,在左侧搜索框分别输入Card.Streaming.WriteCard.Instance.Write,并在操作列点击申请权限

创建AppFlow连接流

  1. 使用AppFlow模版创建连接流
  2. 点击Dify节点,根据您的实际部署形式选择单机版或高可用执行动作,此处默认单机版。点击保存,进入下一步。

  1. 选择链接凭证,点击添加新凭证。自定义填写您的凭证名称。下拉选择您刚刚部署的计算巢Dify实例,同时填写在Dify获取的API密钥,点击确定即可。

  1. 选中您创建的连接凭证,点击保存,进入下一步。
  2. 填写您在Dify中定义的变量。如果您除了query还定义了其他变量,点击“+”可继续添加。

  1. 点击完成,开始编辑钉钉节点。
  2. 选择凭证或新建。填写您之前保存的Client ID和Client Secret。

  1. 点击保存,进入下一步。填写您的钉钉卡片模版ID即可。点击完成并保存流程。
  2. 在连接流列表点击发布,发布成功后点击查看webhookUrl。

配置钉钉机器人

  1. 访问钉钉应用列表。找到刚刚创建的应用,点击应用名称进入详情页面。
  2. 添加应用能力页面,找到机器人卡片,点击添加

  1. 在机器人配置页面,打开机器人配置开关,您可以参考下图完成配置。消息接收模式请选择HTTP模式消息接收地址为刚刚的 WebhookUrl。然后点击发布

发布应用版本

应用创建完成后,如果需要将应用供企业内其他用户使用,需要发布一个版本。

  1. 点击应用开发,在钉钉应用页面,点击目标应用。
  2. 在目标应用开发导航栏,点击版本管理与发布,在版本管理与发布页面,点击创建新版本。进入版本详情页面,输入应用版本号版本描述信息,选择合适的应用可见范围,完成后点击保存。并在弹窗中点击直接发布
  3. 完成后,即可在钉钉中与Dify应用进行对话了

集成到企业微信

创建企业微信应用

  1. 访问企业微信开发者中心,扫码登录,点击立即创建。根据指引选择以企业身份创建企业内部应用
  2. 在顶部导航栏中,选择应用管理,在应用页面下半部分点击创建应用
  3. 创建应用页面,填写应用名称应用介绍,上传应用 logo,选择可见范围,完成后点击创建应用

  1. 在应用详情页面,复制 AgentID和 Secret,用于下一步创建连接流。

  1. 在顶部导航栏中,选择我的企业,在企业信息页面,复制企业 ID,用于下一步创建连接流。

创建AppFlow连接流

  1. 使用AppFlow模版创建连接流。
  2. 点击企业微信节点,下拉选择连接凭证列表或点击添加新凭证。
  3. 创建凭证对话框中,设置一个自定义凭证名称,填入之前获取的企业微信的企业ID、应用 AgentId 和 Secret。保存AppFlow生成的 Token 和 EncodingAESKey到本地、保存IP白名单到本地。点击完成
  4. 点击Dify节点,根据您的实际部署形式选择单机版或高可用执行动作,此处默认单机版。点击保存,进入下一步。

  1. 选择链接凭证,点击添加新凭证。自定义填写您的凭证名称。下拉选择您刚刚部署的计算巢Dify实例,同时填写在Dify获取的API密钥,点击确定即可。

  1. 选中您创建的连接凭证,点击保存,进入下一步。
  2. 填写您在Dify中定义的变量。如果您除了query还定义了其他变量,点击“+”可继续添加。

  1. 点击完成,点击第三个企业微信节点,选择同样的连接凭证。点击保存即可。
  2. 在连接流列表点击发布,发布成功后点击查看webhookUrl。

配置企业微信应用

配置API接收消息

  1. 访问企业微信应用列表。找到刚刚创建的应用,点击应用名称进入详情页面。
  2. 在应用详情页面,找到接收消息卡片,点击设置API接收

  1. API接收消息页面,您可以参考下图完成配置,然后点击保存
  • URL填入上一步复制的 WebhookUrl

如果之前未保存WebhookUrl,可访问AppFlow连接流页面,在操作列点击webhookUrl进行查看。

  • Token EncodingAESKey 填入上一步复制的值。

如果之前未保存,可访问AppFlow连接凭证页面,在公共连接器 > 企业微信中,找到刚刚配置的凭证,点击操作列的编辑从凭证中获取。

域名主体校验未通过如何解决?

当您在企业微信后台配置 API 接收消息时,报错提示“域名主体校验未通过,需配置备案主体与当前企业主体相同或有关联关系的域名”。这通常是由于企业微信的相关限制所引起的。为解决此问题,您需要配置一个企业自有域名。

  • 如果您的域名已在阿里云备案,您可以参考如下步骤创建一个二级域名作为企业自有域名。
  1. 访问AppFlow域名管理页面,单击添加域名按钮,进入添加域名页面,填入可用的二级域名,如airobot.example.com

  1. 参考CNAME 记录,将该二级域名解析到上一步的记录值
  2. 解析配置完成后,返回创建域名页面,点击提交
  3. 使用该二级域名替换API接收消息URL(即已经填写的WebhookUrl)中的主机名。
  • 如果您的域名没有在阿里云备案,您可以参考如下步骤,将API接收消息中的URL配置为您的企业自有域名,并在企业自有域名对外提供服务的Nginx上配置转发规则,将请求转发到连接流的WebhookUrl。
  1. AppFlow连接凭证页面编辑企业微信的连接凭证。

  1. 点击下一步,勾选内网代理

  1. 首次勾选内网代理时,会弹出AppFlow服务关联角色授权创建页面,请您确认并授权。

  • 如果您没有在阿里云备案的可信主体域名,同时也没有Nginx代理,可以通过点击部署Nginx代理实例一键自动为您部署并配置Nginx代理。按控制台提示直接确认订单或更改您期望的配置下单,等待部署完成即可。部署过程通常耗时1-3分钟,请刷新列表并耐心等待。
  • 部署完成后,点击下拉框选择计算巢实例,用计算巢实例Host替换API接收消息的URL(即已经填写的WebhookUrl)中的主机名,复制IP白名单并添加到企业可信IP中,点击保存,完成配置。

配置企业可信IP

  1. 在应用详情页面,在页面下方开发者接口找到企业可信IP卡片,点击配置

  1. 在企业可信IP对话框,粘贴复制的 IP 地址,然后点击确定

“以下IP属于第三方”报错如何解决?

  1. 修改 AppFlow 中配置的企业微信的连接凭证,
  2. 修改内容:在内网代理配置页面选择使用可信主体域名 > ECS实例使用自有Nginx代理 > ECS实例,选择对应地域和实例, 点击保存。

  1. 将代理机器的 IP 添加到企业微信可信 IP。访问企业微信应用列表,进入应用详情页面,在页面下方开发者接口找到企业可信IP卡片,点击配置

如果您有自己的非阿里云的机器,您可以将自有机器托管到阿里云,并使用托管机器进行请求转发,解决可信 IP 的问题:

  1. 在您的非阿里云服务器中找一台可以访问公网的机器,按照文档安装云助手 。
  2. 修改 AppFlow 中配置的企业微信的连接凭证,
  3. 修改内容:在内网代理配置页面选择使用可信主体域名 > ECS实例使用自有Nginx代理 > ECS实例,选择对应托管地域和托管实例, 点击保存

4. 将代理机器的 IP 添加到企业微信可信 IP。访问企业微信应用列表,进入应用详情页面,在页面下方开发者接口找到企业可信IP卡片,点击配置

测试应用

你可以在企业微信中搜索应用并发送消息,查看效果。

  1. 在企业微信顶部搜索框搜索应用名称,点击应用进入聊天。

相关实践学习
2048小游戏
基于计算巢&ECS云服务器快速部署,带您畅玩2048小游戏。
相关文章
|
12天前
|
前端开发 安全 开发工具
【11】flutter进行了聊天页面的开发-增加了即时通讯聊天的整体页面和组件-切换-朋友-陌生人-vip开通详细页面-即时通讯sdk准备-直播sdk准备-即时通讯有无UI集成的区别介绍-开发完整的社交APP-前端客户端开发+数据联调|以优雅草商业项目为例做开发-flutter开发-全流程-商业应用级实战开发-优雅草Alex
【11】flutter进行了聊天页面的开发-增加了即时通讯聊天的整体页面和组件-切换-朋友-陌生人-vip开通详细页面-即时通讯sdk准备-直播sdk准备-即时通讯有无UI集成的区别介绍-开发完整的社交APP-前端客户端开发+数据联调|以优雅草商业项目为例做开发-flutter开发-全流程-商业应用级实战开发-优雅草Alex
143 90
【11】flutter进行了聊天页面的开发-增加了即时通讯聊天的整体页面和组件-切换-朋友-陌生人-vip开通详细页面-即时通讯sdk准备-直播sdk准备-即时通讯有无UI集成的区别介绍-开发完整的社交APP-前端客户端开发+数据联调|以优雅草商业项目为例做开发-flutter开发-全流程-商业应用级实战开发-优雅草Alex
|
3月前
|
机器学习/深度学习 Python
堆叠集成策略的原理、实现方法及Python应用。堆叠通过多层模型组合,先用不同基础模型生成预测,再用元学习器整合这些预测,提升模型性能
本文深入探讨了堆叠集成策略的原理、实现方法及Python应用。堆叠通过多层模型组合,先用不同基础模型生成预测,再用元学习器整合这些预测,提升模型性能。文章详细介绍了堆叠的实现步骤,包括数据准备、基础模型训练、新训练集构建及元学习器训练,并讨论了其优缺点。
167 3
|
7天前
|
存储 人工智能 NoSQL
Airweave:快速集成应用数据打造AI知识库的开源平台,支持多源整合和自动同步数据
Airweave 是一个开源工具,能够将应用程序的数据同步到图数据库和向量数据库中,实现智能代理检索。它支持无代码集成、多租户支持和自动同步等功能。
72 14
|
1月前
|
人工智能 数据可视化 开发者
FlowiseAI:34K Star!集成多种模型和100+组件的 LLM 应用低代码开发平台,拖拽组件轻松构建程序
FlowiseAI 是一款开源的低代码工具,通过拖拽可视化组件,用户可以快速构建自定义的 LLM 应用程序,支持多模型集成和记忆功能。
118 14
FlowiseAI:34K Star!集成多种模型和100+组件的 LLM 应用低代码开发平台,拖拽组件轻松构建程序
|
4月前
|
前端开发 JavaScript UED
探索Python Django中的WebSocket集成:为前后端分离应用添加实时通信功能
通过在Django项目中集成Channels和WebSocket,我们能够为前后端分离的应用添加实时通信功能,实现诸如在线聊天、实时数据更新等交互式场景。这不仅增强了应用的功能性,也提升了用户体验。随着实时Web应用的日益普及,掌握Django Channels和WebSocket的集成将为开发者开启新的可能性,推动Web应用的发展迈向更高层次的实时性和交互性。
128 1
|
4月前
|
Java Maven Docker
gitlab-ci 集成 k3s 部署spring boot 应用
gitlab-ci 集成 k3s 部署spring boot 应用
|
3月前
|
jenkins 测试技术 持续交付
探索自动化测试在持续集成中的应用与挑战
本文深入探讨了自动化测试在现代软件开发流程,特别是持续集成(CI)环境中的关键作用。通过分析自动化测试的优势、实施策略以及面临的主要挑战,旨在为开发团队提供实用的指导和建议。文章不仅概述了自动化测试的基本原理和最佳实践,还详细讨论了如何克服实施过程中遇到的技术难题和管理障碍,以实现更高效、更可靠的软件交付。
|
3月前
|
消息中间件 Java Kafka
Spring Boot 与 Apache Kafka 集成详解:构建高效消息驱动应用
Spring Boot 与 Apache Kafka 集成详解:构建高效消息驱动应用
87 1
|
3月前
|
存储 Prometheus 运维
在云原生环境中,阿里云ARMS与Prometheus的集成提供了强大的应用实时监控解决方案
在云原生环境中,阿里云ARMS与Prometheus的集成提供了强大的应用实时监控解决方案。该集成结合了ARMS的基础设施监控能力和Prometheus的灵活配置及社区支持,实现了全面、精准的系统状态、性能和错误监控,提升了应用的稳定性和管理效率。通过统一的数据视图和高级查询功能,帮助企业有效应对云原生挑战,促进业务的持续发展。
98 3