Dify实践|Dify on DMS+对象存储OSS,实现多副本部署方案

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
简介: 本文介绍了在DMS上部署Dify的详细步骤,用户可选择一键购买资源或基于现有资源部署Dify,需配置RDS PostgreSQL、Redis、AnalyticDB for PostgreSQL等实例,并设置存储路径和资源规格。文中还提供了具体配置参数说明及操作截图,帮助用户顺利完成部署。

Dify on DMS支持通过对象存储OSS的数据共享能力,实现多副本部署方案。您可以为Dify配置双副本规格,当一个副本发生故障时,另一个副本可以继续为Dify提供服务。多副本部署方案可以提高Dify服务的高可用性、性能和容错能力。本文为您介绍如何一键购买资源并部署Dify和基于现有资源部署Dify。

一、费用说明

若您需要新购RDS PostgreSQLRedisAnalyticDB for PostgreSQLOSS实例,则会收取费用。

二、注意事项

  • Dify工作空间与四个实例资源需要在同一地域。
  • 在部署Dify时,Dify的存储配置需要选择OSS、且副本数需要为双副本

325 1.png

三、准备工作

  1. OSS管理控制台创建一个与Dify工作空间所属地域一致的Bucket。

说明:如果您已创建符合要求的Bucket,请直接将OSS录入至DMS。


  1. 将OSS录入至DMS
  1. 登录数据管理DMS 5.0
  2. 单击控制台左上角的 图标,选择全部功能 > 数据资产 > 实例管理

说明:若您使用的是非极简模式的控制台,在顶部菜单栏中,选择数据资产 > 实例管理

  1. 在实例管理页面单击新增,配置相关信息。

说明:访问方式需要选择安全托管-手动



获取AccessKey的更多信息,请参见查看RAM用户的AccessKey信息

  1. 配置完成后,单击提交即可。

四、操作步骤

说明:如果您没有可用的RDS PostgreSQLRedisAnalyticDB for PostgreSQL数据库实例,建议您选择一键购买资源并部署Dify的方式。

(一)一键购买资源并部署Dify

1. 选择实例的付费类型和地域

进入购买数据库资源页面,选择实例的付费类型地域

说明:DMS Dify所使用的资源所在地域只能在同一地域。


2. 权限检测

说明:

  • 如果您登录DMS的阿里云账号已有相关权限(界面提示“已授权”),则请跳过该步骤。
  • 目前DMS仅支持检测当前阿里云账号是否具有DMS相关权限,不支持检测账号是否有一键购买资源的SLR授权。


若DMS权限检测到您当前账号缺少某些权限,请复制链接并联系阿里云账号(主账号)为您添加权限。如果您登录的账号已是阿里云账号(主账号),请单击打开链接,自行进行授权。


账号缺少权限示例:


3. 配置Dify工作空间

新建工作空间

  1. 输入空间名称。
    DMS默认填入的空间名称为dify_default。

重要:新创建的工作空间名称不能与已有空间名称重复,否则会导致创建失败。


  1. 配置工作空间、实例资源的网络和可用区。


使用已有工作空间

选择已有工作空间并配置可用区及交换机。


4. 配置部署范围

选择Dify的部署范围,您可以根据需求选择仅DifyDify+DeepSeek


5.配置Dify空间的存储及资源规格

存储配置选择OSS

选择已录入DMS的OSS实例,副本数选择双副本。Path为数据存储路径,路径以斜杠/开头。例如/dify。更多信息,请参见访问路径



6. 配置RDS PostgreSQL数据库

  • 如果您需要重新创建RDS PostgreSQL数据库,请选择新建云数据库,其他信息请根据实际需求选择。

  • 如果您已将RDS PostgreSQL录入至DMS中,并为其开启安全托管-手动录入账密,则请选择导入RDS PostgreSQL实,再选择数据库即可


7. 配置Redis数据库

  • 如果您需要重新创建Redis数据库,请选择新建Redis实例即可。

说明:目前一键购买Dify资源仅支持配置Redis 5.0标准版架构的实例。



  • 如果您已将Redis录入至DMS中,并为其开启安全托管-手动录入账密,则请选择导入Redis实例,再选择数据库即可


8. 配置AnalyticDB for PostgreSQL数据库和DeepSeek

配置AnalyticDB for PostgreSQL

  • 如果您需要重新创建AnalyticDB for PostgreSQL数据库,请选择新建AnalyticDB实例

说明:目前一键购买Dify资源仅支持配置AnalyticDB for PostgreSQL 6.0标准版、高性能(基础版)实例。



  • 如果您已将AnalyticDB for PostgreSQL录入至DMS中,并为其开启安全托管-手动录入账密,则请选择导入AnalyticDB实例,再选择数据库即可


配置DeepSeek

说明:部署范围选择Dify+DeepSeek时,页面才会显示DeepSeek配置区域。

在DeepSeek配置区域,根据需求选择DeepSeek模型版本以及用于部署DeepSeek的AnalyticDB for PostgreSQL实例的节点规格


不同模型的显存要求和节点规格建议如下。

DeepSeek模型

类型

显存要求(GB)

AnalyticDB for PostgreSQL推荐规格

7B

全精度

9.4

ADB.AIStandard.1

14B

全精度

18

ADB.AIStandard.2

32B

全精度

40

ADB.AIMedium.2

70B

全精度

90

ADB.AILarge.2

9. 创建数据库账号

在基础配置区域,为所有数据库创建相同的数据库账号,并选择用于控制Dify服务的网络安全组。

说明:不支持选择托管模式的安全组。



10. 购买实例并进行Dify部署

选择购买时长,再单击立即购买。后续操作请根据页面提示进行即可。


(二)基于现有资源部署Dify

1. 将RDS PostgreSQLRedisAnalyticDB for PostgreSQL实例录入DMS

本文以录入RDS PostgreSQL实例举例。

  1. 登录数据管理DMS 5.0
  2. 单击控制台左上角的 图标,选择全部功能 > 数据资产 > 实例管理

说明:若您使用的是非极简模式的控制台,在顶部菜单栏中,选择数据资产 > 实例管理

  1. 在实例管理页面单击新增,配置相关信息。

说明:访问方式需要选择安全托管-手动


  1. 配置完成后,单击提交即可。


2. 创建并进入工作空间

  1. 登录数据管理DMS 5.0
  2. 进入工作空间页面。
    DMS提供了两种进入工作空间的路径,您可以根据需求进行选择。

说明:目前Dify功能处于邀测中,您需要申请使用名额才可看到操作入口。请通过钉钉(添加钉钉群:96015019923)联系DMS技术支持,并提供您的阿里云账号UID和DMS租户ID。

路径一

单击控制台左上角的 图标,选择全部功能 > Data+AI > Dify

说明:若您使用的是非极简模式的控制台,请在顶部菜单栏中,选择Data+AI > Dify


路径二

单击页面左侧的数智工厂 图标,再单击工作空间

说明:若您使用的是非极简模式的控制台,请在顶部菜单栏中,选择数智工厂 > 工作空间




3.单击新建工作空间,配置工作空间信息。

说明:负责人为后续Dify空间的管理员,可以修改其他成员的角色类型。


4.单击确认

5.单击空间名称,进入工作空间。

3. 创建Dify资源

  1. 在左侧导航栏选择 > Dify
  2. Dify页签下,单击创建配置并配置如下参数。

说明:若配置参数时还未录入实例至DMS,您可单击配置项右上角的“创建XXX实例”进入DMS实例管理功能,在实例管理中将已创建的实例录入至DMS。更多信息,请参见云数据库录入

配置项

是否必填

说明

RDS PG实例

选择已录入至DMS的RDS PostgreSQL实例。

Redis实例

选择已录入至DMS的Redis实例。

向量引擎类型

当前仅支持选择ADB PG

ADB向量引擎实例

选择已录入至DMS的AnalyticDB for PostgreSQL实例。

说明:暂不支持配置向量的空间名称,默认使用空间名称Dify。

OSS Bucket

选择与工作空间所在地域相同的OSS Bucket。录入OSS的操作,请参见云数据库录入

说明:如果您是基于现有资源创建Dify(非一键购买资源并创建Dify),则必须指定存储数据的OSS Bucket。

OSS路径

填入Dify存储数据的路径。请在OSS中预先指定的路径下创建用于存储数据的目录。

说明:如果选择了OSS Bucket,则必须配置数据存储路径。

Dify资源规格

Dify的资源大小,规格越大,Dify的稳定性和可靠性越高。

支持选择4CU、8CU、12CU、16CU。

副本数

副本数选择2。

副本的主要作用是提升系统高可用性、性能和容错能力。

VPC ID

无需选择,默认与创建工作空间时填写的VP相同。

说明:如果您创建的Dify有访问公网的需求,建议您为VPC开启公网。更多信息,请参见连接公网

交换机

选择与Dify在同一VPC下的交换机。

仅支持选择的交换机地域及可用区:

  • 华东1(杭州):可用区H、可用区J。
  • 华北2(北京):可用区F、可用区G、可用区H、可用区K。
  • 华东2(上海):可用区B、可用区E、可用区F、可用区G。
  • 华南1(深圳):可用区A、可用区B、可用区C、可用区D、可用区E、可用区F。
  • 华北3(张家口):可用区A、可用区B。
  • 新加坡:可用区A、可用区B、可用区C。

安全组

选择控制Dify服务的网络安全组。

3.单击确定,即可自动开始部署资源。
当资源管理页面的Dify状态为运行中时,表示已完成部署。


五、其他操作

  • 查看Dify所需资源的部署进展
    购买操作完成后,您可在资源管理页面查看资源的部署进展。

说明:当Dify实例状态为运行中时,表示部署成功。



  • 进入Dify空间
    当Dify所需资源部署成功后,在工作空间的左侧导航栏中,单击 ,即可进入Dify空间
  • 进入模型部署功能页面并查看DeepSeek模型部署状态
    在模型列表中,单击模型名称,进入详情页查看模型的基本信息、资源信息、网络信息等。

说明:当模型状态为 时,表示部署成功。



相关实践学习
借助OSS搭建在线教育视频课程分享网站
本教程介绍如何基于云服务器ECS和对象存储OSS,搭建一个在线教育视频课程分享网站。
相关文章
|
1月前
|
人工智能 安全 NoSQL
Dify+DeepSeek+夸克 On DMS 实现联网版DeepSeek服务
阿里云DMS推出一站式AI应用部署解决方案——Dify+DeepSeek on DMS,限量50个名额,先到先得。
Dify+DeepSeek+夸克 On DMS 实现联网版DeepSeek服务
|
4月前
|
弹性计算 人工智能 数据管理
AI场景下的对象存储OSS数据管理实践
本文介绍了ECS和OSS的操作流程,分为两大部分。第一部分详细讲解了ECS的登录、密码重置、安全组设置及OSSUTIL工具的安装与配置,通过实验创建并管理存储桶,上传下载文件,确保资源及时释放。第二部分则聚焦于OSSFS工具的应用,演示如何将对象存储挂载为磁盘,进行大文件加载与模型训练,强调环境搭建(如Conda环境)及依赖安装步骤,确保实验结束后正确清理AccessKey和相关资源。整个过程注重操作细节与安全性,帮助用户高效利用云资源完成实验任务。
717 161
|
2月前
|
消息中间件 监控 数据挖掘
【有奖实践】轻量消息队列(原 MNS)订阅 OSS 事件实时处理文件变动
当你需要对对象存储 OSS(Object Storage Service)中的文件变动进行实时处理、同步、监听、业务触发、日志记录等操作时,你可以通过设置 OSS 的事件通知规则,自定义关注的文件,并将 OSS 事件推送到轻量消息队列(原 MNS)的队列或主题中,开发者的服务即可及时收到相关通知,并通过消费消息进行后续的业务处理。
|
2月前
|
人工智能 自然语言处理 数据处理
当技术邂逅心动|情人节特供福利:免费部署Dify+DeepSeek on DMS
阿里云DMS携手Dify+DeepSeek推出限时免费试用活动,助企业高效接入AI能力。通过DMS平台,用户可轻松部署Dify应用,并与DeepSeek、通义大模型等无缝融合,实现低门槛、开箱即用的AI体验。活动仅限50个名额,先到先得,赶快行动!
|
2月前
|
消息中间件 对象存储
轻量消息队列(原 MNS)订阅 OSS 事件实践
使用轻量消息队列订阅OSS事件,实时处理文件变动,赢取ins风U型枕(限量500个)。访问活动页面,完成实操并上传截图即可参与领奖。活动时间:即日起至2025年2月28日16:00。奖品数量有限,先到先得,快来报名吧!
|
2月前
|
数据库管理
Dify On DMS 产品能力与案例介绍
Dify On DMS 产品能力与案例介绍
|
4月前
|
存储 人工智能 开发工具
AI场景下的对象存储OSS数据管理实践
本文介绍了对象存储(OSS)在AI业务中的应用与实践。内容涵盖四个方面:1) 对象存储作为AI数据基石,因其低成本和高弹性成为云上数据存储首选;2) AI场景下的对象存储实践方案,包括数据获取、预处理、训练及推理阶段的具体使用方法;3) 国内主要区域的默认吞吐量提升至100Gbps,优化了大数据量下的带宽需求;4) 常用工具介绍,如OSSutil、ossfs、Python SDK等,帮助用户高效管理数据。重点讲解了OSS在AI训练和推理中的性能优化措施,以及不同工具的特点和应用场景。
483 10
|
5月前
|
弹性计算 数据管理 应用服务中间件
活动实践 | 借助OSS搭建在线教育视频课程分享网站
本教程指导用户在阿里云ECS实例上搭建在线教育网站,包括重置ECS密码、配置安全组、安装Nginx、创建网站页面、上传数据至OSS、开通OSS传输加速、配置生命周期策略及清理资源等步骤,实现高效、低成本的数据管理和网站运营。
活动实践 | 借助OSS搭建在线教育视频课程分享网站
|
3月前
|
存储 人工智能 数据管理
云端问道17期方案教学-AI场景下的对象存储OSS数据管理实践
本文介绍了AI场景下的对象存储OSS数据管理实践,由阿里云技术专家明锦分享。主要内容分为两部分:1) AI场景下对象存储实践方案,包括对象存储的应用、优势及在模型推理中的优化;2) OSS常用工具介绍,如OSSFS、Python SDK、Go SDK等,并详细说明了这些工具的特点和使用场景。文中还探讨了不同模式下的性能优化,以及即将推出的OS Connector for AI/ML工具,旨在提升数据下载速度和IO性能。
|
7月前
|
缓存 负载均衡 数据管理
深入探索微服务架构的核心要素与实践策略在当今软件开发领域,微服务架构以其独特的优势和灵活性,已成为众多企业和开发者的首选。本文将深入探讨微服务架构的核心要素,包括服务拆分、通信机制、数据管理等,并结合实际案例分析其在不同场景下的应用策略,旨在为读者提供一套全面、深入的微服务架构实践指南。**
**微服务架构作为软件开发领域的热门话题,正引领着一场技术革新。本文从微服务架构的核心要素出发,详细阐述了服务拆分的原则与方法、通信机制的选择与优化、数据管理的策略与挑战等内容。同时,结合具体案例,分析了微服务架构在不同场景下的应用策略,为读者提供了实用的指导和建议。