阿里云AI Stack全量适配Qwen3模型,企业级部署效率全面升级

简介: 2025年4月29日的凌晨5点,阿里全新一代模型通义千问Qwen3正式发布并全部开源8款「混合推理模型」,包含:6款Dense模型:0.6B、1.7B、4B、8B、14B、32B。2款MoE模型:Qwen3-30B-A3B和旗舰版Qwen3-235B-A22B。阿里云AI Stack已适配全量Qwen3模型,可快速部署实现Qwen3模型的开箱即用!

师出同门,AI Stack原生适配Qwen3

阿里云AI Stack是面向企业级的轻量、极致性价比企业级AI软硬一体解决方案,此前已完成Qwen2.5等主流开源大模型的适配。AI Stack目前已与“师出同门”的Qwen3实现高效深度适配,通过AI Stack快速部署Qwen3,实现新一代大模型的“开箱即用”。

image.png

AI Stack单机提供16卡,1.5+TB超大显存,700GB/s卡间互联,满足业务的多样化需求:

  • 16卡可运行无损精度旗舰版Qwen3-235B-A22B,提供更快响应、更高并发、更长上下文支持,满足业务的快速响应需求。
  • 灵活满足业务多样性需求,单机16卡中的8卡可实现无损精度旗舰版Qwen3-235B-A22B的极速运行,剩余8卡可适配其他不同尺寸、不同模态模型,为更大尺寸模型部署留足算力空间。


即日起,最新版本AI stack将包含Qwen3全尺寸模型,并支持最新APG SDK。客户可通过新安装或现有版本升级的方式,获取最新Qwen3模型服务能力,将AI能力与业务场景融合,加速企业的数智化升级!

相关文章
|
人工智能 测试技术 API
构建AI智能体:二、DeepSeek的Ollama部署FastAPI封装调用
本文介绍如何通过Ollama本地部署DeepSeek大模型,结合FastAPI实现API接口调用。涵盖Ollama安装、路径迁移、模型下载运行及REST API封装全过程,助力快速构建可扩展的AI应用服务。
3117 8
|
人工智能 搜索推荐 程序员
当AI学会“跨界思考”:多模态模型如何重塑人工智能
当AI学会“跨界思考”:多模态模型如何重塑人工智能
1656 120
|
人工智能 安全 开发工具
C3仓库AI代码门禁通用实践:基于Qwen3-Coder+RAG的代码评审
本文介绍基于Qwen3-Coder、RAG与Iflow在C3级代码仓库落地LLM代码评审的实践,实现AI辅助人工评审。通过CI流水线自动触发,结合私域知识库与生产代码同仓管理,已成功拦截数十次高危缺陷,显著提升评审效率与质量,具备向各类代码门禁平台复用推广的价值。(239字)
2079 24
|
缓存 物联网 PyTorch
使用TensorRT LLM构建和运行Qwen模型
本文档介绍如何在单GPU和单节点多GPU上使用TensorRT LLM构建和运行Qwen模型,涵盖模型转换、引擎构建、量化推理及LoRA微调等操作,并提供详细的代码示例与支持矩阵。
3079 2
|
机器学习/深度学习 人工智能 监控
Java与AI模型部署:构建企业级模型服务与生命周期管理平台
随着企业AI模型数量的快速增长,模型部署与生命周期管理成为确保AI应用稳定运行的关键。本文深入探讨如何使用Java生态构建一个企业级的模型服务平台,实现模型的版本控制、A/B测试、灰度发布、监控与回滚。通过集成Spring Boot、Kubernetes、MLflow和监控工具,我们将展示如何构建一个高可用、可扩展的模型服务架构,为大规模AI应用提供坚实的运维基础。
837 0
|
存储 机器学习/深度学习 人工智能
54_模型优化:大模型的压缩与量化
随着大型语言模型(LLM)的快速发展,模型规模呈指数级增长,从最初的数亿参数到如今的数千亿甚至万亿参数。这种规模扩张带来了惊人的能源消耗和训练成本,同时也给部署和推理带来了巨大挑战。2025年,大模型的"瘦身"已成为行业发展的必然趋势。本文将深入剖析大模型压缩与量化的核心技术、最新进展及工程实践,探讨如何通过创新技术让大模型在保持高性能的同时实现轻量化部署,为企业和开发者提供全面的技术指导。
1193 0
AI:百度飞桨EasyDL多门视频课程,手把手教你如何定制高精度AI模型
AI:百度飞桨EasyDL多门视频课程,手把手教你如何定制高精度AI模型
|
消息中间件 人工智能 安全
云原生进化论:加速构建 AI 应用
本文将和大家分享过去一年在支持企业构建 AI 应用过程的一些实践和思考。
2825 98
|
人工智能 运维 Kubernetes
Serverless 应用引擎 SAE:为传统应用托底,为 AI 创新加速
在容器技术持续演进与 AI 全面爆发的当下,企业既要稳健托管传统业务,又要高效落地 AI 创新,如何在复杂的基础设施与频繁的版本变化中保持敏捷、稳定与低成本,成了所有技术团队的共同挑战。阿里云 Serverless 应用引擎(SAE)正是为应对这一时代挑战而生的破局者,SAE 以“免运维、强稳定、极致降本”为核心,通过一站式的应用级托管能力,同时支撑传统应用与 AI 应用,让企业把更多精力投入到业务创新。
1213 30