DMS+ADB-PG支持一键部署QwQ-32B推理模型

本文涉及的产品
RDS PostgreSQL Serverless,0.5-4RCU 50GB 3个月
推荐场景:
对影评进行热评分析
阿里云百炼推荐规格 ADB PostgreSQL,4核16GB 100GB 1个月
数据管理 DMS,安全协同 3个实例 3个月
推荐场景:
学生管理系统数据库
简介: 3月6日,阿里云发布并开源全新推理模型通义千问QwQ-32B。现已支持在DMS+ADB上私域部署并与Dify打通使用。

3月6日,阿里云发布并开源全新的推理模型通义千问QwQ-32B。通过大规模强化学习,千问QwQ-32B在数学、代码及通用能力上实现质的飞跃,整体性能比肩DeepSeek-R1。在保持强劲性能的同时,千问QwQ-32B还大幅降低了部署使用成本,在消费级显卡上也能实现本地部署。此次,阿里云采用宽松的Apache2.0协议,将千问QwQ-32B模型向全球开源,所有人都可免费下载及商用。


现已支持在DMS+ADB上私域部署并与Dify打通使用, 低至2万+/月即可获得独占满血版服务,开通参考下述指南


一、开通AI实例的ADB节点


选择 ADB.AIMedium.2 以及以上的规格,如Large.2,XLarge.2等进行开通。如已有ADB实例请忽略;



快捷链接https://yaochi.console.aliyun.com/NewPurchase?newProductCodes=adbMysql,adbPg


二、DMS上部署模型,并与Dify打通


前置条件:已开通Dify On DMS服务,如需开通请点此申请PS:若不部署Dify,单独创建工作空间也可完成模型部署和使用。


1.进入Dify所在工作空间,点击模型部署:


用户登陆地址:https://dms.aliyun.com/



2.选择QwQ-32B镜像,配置相关参数,进行部署即可。



3.部署完成后,获取模型URL:


4.在Dify模型供应商进行配置:



5.配置完成后即可使用:



如有疑问,请钉钉扫码入群交流

3.7二维码.png

参考资料

1.Data+AI 数据管理服务 DMS

2.云原生数据仓库 AnalyticDB PostgreSQL 版

3.数据管理 DMS支持托管 Dify 免费邀测

相关实践学习
MySQL基础-学生管理系统数据库设计
本场景介绍如何使用DMS工具连接RDS,并使用DMS图形化工具创建数据库表。
相关文章
|
人工智能 Linux API
LangChain开发环境准备-AI大模型私有部署的技术指南
今天开始小智将开启系列AI应用开发课程,主要基于LangChain框架基于实战项目手把手教大家如何将AI这一新时代的基础设施应用到自己开发应用中来。欢迎大家持续关注
890 0
|
1月前
|
人工智能 自然语言处理 数据处理
当技术邂逅心动|情人节特供福利:免费部署Dify+DeepSeek on DMS
阿里云DMS携手Dify+DeepSeek推出限时免费试用活动,助企业高效接入AI能力。通过DMS平台,用户可轻松部署Dify应用,并与DeepSeek、通义大模型等无缝融合,实现低门槛、开箱即用的AI体验。活动仅限50个名额,先到先得,赶快行动!
|
7月前
|
监控 数据安全/隐私保护 异构计算
借助PAI-EAS一键部署ChatGLM,并应用LangChain集成外部数据
【8月更文挑战第8天】借助PAI-EAS一键部署ChatGLM,并应用LangChain集成外部数据
168 1
|
7月前
|
机器学习/深度学习 前端开发 数据挖掘
基于Python Django的房价数据分析平台,包括大屏和后台数据管理,有线性、向量机、梯度提升树、bp神经网络等模型
本文介绍了一个基于Python Django框架开发的房价数据分析平台,该平台集成了多种机器学习模型,包括线性回归、SVM、GBDT和BP神经网络,用于房价预测和市场分析,同时提供了前端大屏展示和后台数据管理功能。
172 9
|
7月前
|
人工智能 异构计算
基于PAI-EAS一键部署ChatGLM及LangChain应用
【8月更文挑战第7天】基于PAI-EAS一键部署ChatGLM及LangChain应用
|
10月前
|
存储 关系型数据库 MySQL
数据管理的艺术:PolarDB开源版详评与实战部署策略(一)
PolarDB-X是阿里巴巴自研的高性能云原生分布式数据库,基于共享存储的Shared-nothing架构,支持MySQL生态,具备金融级高可用、分布式水平扩展、HTAP混合负载等能力。它通过CN(计算节点)和DN(存储节点)实现计算与存储分离,保证数据强一致性,并支持全局二级索引和多主多写。PolarDB-X开源版提供更高程度的定制化和控制权,适合追求技术自主性和成本优化的开发者。部署方式包括RPM包、PXD工具和Kubernetes,其中PXD工具提供了一键部署的便利性。
235703 22
|
10月前
|
存储 关系型数据库 分布式数据库
数据管理的艺术:PolarDB开源版详评与实战部署策略(二)
PolarDB-PG是阿里云的一款云原生关系型数据库,100%兼容PostgreSQL,支持Oracle语法,采用Shared-Storage存储计算分离架构,提供极致弹性、毫秒级延迟的HTAP能力。具备高可用、高可靠和弹性扩展特性,支持单机、存储计算分离和X-Paxos三节点等多种部署形态。通过Docker可快速部署实例,包括单节点、一主一备和HTAP(一主两备)实例。此外,文章还介绍了在ECS上使用ESSD云盘搭建PolarDB-PG的详细步骤,适合开发和测试环境。
224082 22
|
9月前
|
JavaScript Java 测试技术
基于SpringBoot+Vue+uniapp的个人健康数据管理系统的详细设计和实现(源码+lw+部署文档+讲解等)
基于SpringBoot+Vue+uniapp的个人健康数据管理系统的详细设计和实现(源码+lw+部署文档+讲解等)
121 0
|
10月前
|
人工智能 API 网络架构
【AI大模型应用开发】【LangChain系列】7. LangServe:轻松将你的LangChain程序部署成服务
【AI大模型应用开发】【LangChain系列】7. LangServe:轻松将你的LangChain程序部署成服务
293 0

相关产品

  • 数据管理
  • 云原生数据仓库 AnalyticDB PostgreSQL版