阿里云ACK托管集群Pro版共享GPU调度操作指南

本文涉及的产品
应用实时监控服务-可观测链路OpenTelemetry版,每月50GB免费额度
容器镜像服务 ACR,镜像仓库100个 不限时长
任务调度 XXL-JOB 版免费试用,400 元额度,开发版规格
简介: 本文介绍在阿里云ACK托管集群Pro版中,如何通过共享GPU调度实现显存与算力的精细化分配,涵盖前提条件、使用限制、节点池配置及任务部署全流程,提升GPU资源利用率,适用于AI训练与推理场景。

本文详细介绍了在阿里云容器服务ACK托管集群Pro版中,通过共享GPU调度实现GPU显存和算力精细化分配的操作指南。

一、核心功能概述

ACK托管集群Pro版支持为应用申请GPU显存和算力资源,实现以下两种任务模式:

  • 仅申请显存
  • 同时申请显存和算力

注意: 两种任务模式不能共存于同一节点。

二、前提条件

集群要求

  • • 已创建ACK托管集群Pro版,且版本≥v1.20
  • • 调度器需满足特定版本要求(例如1.28集群需调度器版本≥v1.28.1-aliyun-5.6)

组件要求

  • • 安装共享GPU组件,Chart版本≥1.2.0
  • • cGPU版本≥1.0.5

三、使用限制

算力申请规则

  • • 每张GPU卡算力按100计量(代表100%算力)
  • • 申请值需为5的倍数,最小值5(否则任务提交失败)

地域支持

  • • 仅限特定地域(如北京、上海、深圳、香港、新加坡、美国硅谷等15个地域)

集群创建时间

  • • 2022年3月1日前创建的集群需手动升级调度器(提交工单→卸载旧组件→安装新组件)

四、操作步骤详解

步骤一:创建支持算力分配的节点池

在容器服务控制台创建节点池,关键配置:

  • 节点标签1: ack.node.gpu.schedule=core_mem (开启GPU显存和算力隔离)
  • 节点标签2: ack.node.gpu.placement=binpack (启用Binpack算法分配GPU)

重要提示: 现有GPU节点需先移除再重新加入节点池,不可直接通过kubectl修改标签。

步骤二:验证算力分配功能

执行命令 kubectl get nodes <节点名> -o yaml,检查输出中是否包含 aliyun.com/gpu-core.percentage 字段,确认算力功能已开启。

步骤三:部署测试任务

创建Job示例:

  • 申请资源: 2 GiB显存 + 30%算力(单张GPU卡的30%)

关键YAML配置:

resources:
  limits:
    aliyun.com/gpu-mem: 2   # 显存(单位GiB)
    aliyun.com/gpu-core.percentage: 30  # 算力百分比

验证效果:

  • • 通过 nvidia-smi 查看资源使用情况:显存限制为约2 GiB,算力利用率为30%
  • • 日志刷新速度变慢,确认算力被限制在30%左右

五、注意事项

  • • 多任务共享同一GPU时,nvidia-smi 显示的算力为累计值(如3个30%任务显示90%)
  • • 测试完成后可通过 kubectl delete job cuda-sample 清理任务

总结

本文提供了从环境准备、节点池配置到任务部署的全流程指南,通过共享GPU调度实现GPU资源的精细化管控,显著提升资源利用率。适用于AI训练、推理等需要动态分配GPU算力的场景。

官方文档[1]

引用链接

[1] 官方文档: https://help.aliyun.com/zh/ack/ack-managed-and-ack-dedicated/user-guide/use-cgpu-to-allocate-computing-power?spm=a2c4g.11186623.0.i15

相关实践学习
深入解析Docker容器化技术
Docker是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的Linux机器上,也可以实现虚拟化,容器是完全使用沙箱机制,相互之间不会有任何接口。Docker是世界领先的软件容器平台。开发人员利用Docker可以消除协作编码时“在我的机器上可正常工作”的问题。运维人员利用Docker可以在隔离容器中并行运行和管理应用,获得更好的计算密度。企业利用Docker可以构建敏捷的软件交付管道,以更快的速度、更高的安全性和可靠的信誉为Linux和Windows Server应用发布新功能。 在本套课程中,我们将全面的讲解Docker技术栈,从环境安装到容器、镜像操作以及生产环境如何部署开发的微服务应用。本课程由黑马程序员提供。 &nbsp; &nbsp; 相关的阿里云产品:容器服务 ACK 容器服务 Kubernetes 版(简称 ACK)提供高性能可伸缩的容器应用管理能力,支持企业级容器化应用的全生命周期管理。整合阿里云虚拟化、存储、网络和安全能力,打造云端最佳容器化应用运行环境。 了解产品详情: https://www.aliyun.com/product/kubernetes
目录
相关文章
|
2月前
|
人工智能 城市大脑 运维
喜讯!阿里云国产异构GPU云平台技术荣获“2025算力中国·年度重大成果”
2025年8月23日,在工业和信息化部新闻宣传中心、中国信息通信研究院主办的2025中国算力大会上,阿里云与浙江大学联合研发的“国产异构GPU云平台关键技术与系统”荣获「算力中国·年度重大成果」。该评选旨在选拔出算力产业具有全局性突破价值的重大成果,是业内公认的技术创新“风向标”。
265 0
|
2月前
|
弹性计算 监控 调度
ACK One 注册集群云端节点池升级:IDC 集群一键接入云端 GPU 算力,接入效率提升 80%
ACK One注册集群节点池实现“一键接入”,免去手动编写脚本与GPU驱动安装,支持自动扩缩容与多场景调度,大幅提升K8s集群管理效率。
231 89
|
7月前
|
存储 机器学习/深度学习 数据库
阿里云服务器X86/ARM/GPU/裸金属/超算五大架构技术特点、场景适配参考
在云计算技术飞速发展的当下,云计算已经渗透到各个行业,成为企业数字化转型的关键驱动力。选择合适的云服务器架构对于提升业务效率、降低成本至关重要。阿里云提供了多样化的云服务器架构选择,包括X86计算、ARM计算、GPU/FPGA/ASIC、弹性裸金属服务器以及高性能计算等。本文将深入解析这些架构的特点、优势及适用场景,以供大家了解和选择参考。
1162 61
|
7月前
|
Kubernetes 调度 异构计算
一文搞懂 GPU 共享方案: NVIDIA Time Slicing
本文主要分享 GPU 共享方案,包括如何安装、配置以及使用,最后通过分析源码了 TImeSlicing 的具体实现。通过配置 TImeSlicing 可以实现 Pod 共享一块物理 GPU,以提升资源利用率。
338 11
|
8月前
|
存储 机器学习/深度学习 算法
阿里云X86/ARM/GPU/裸金属/超算等五大服务器架构技术特点、场景适配与选型策略
在我们选购阿里云服务器的时候,云服务器架构有X86计算、ARM计算、GPU/FPGA/ASIC、弹性裸金属服务器、高性能计算可选,有的用户并不清楚他们之间有何区别。本文将深入解析这些架构的特点、优势及适用场景,帮助用户更好地根据实际需求做出选择。
|
8月前
|
人工智能 Serverless 调度
突破地域限制,实现算力无限供给 —阿里云ACK One注册集群开启多地域Serverless算力调度
本文介绍了阿里云ACK One注册集群多地域Serverless算力调度解决方案,解决传统数据中心在AI时代面临的算力不足问题。方案通过分钟级接入、100%兼容Kubernetes操作及云上Serverless弹性,实现跨地域弹性算力供给,支持高并发请求与模型快速迭代。文中详细描述了快速接入步骤、指定地域调度及动态调度方法,并提供了相关代码示例。该方案助力企业实现AI推理服务的规模化部署,提升商业落地效率。
|
8月前
|
人工智能 Serverless 调度
突破地域限制,实现算力无限供给 -- 阿里云ACK One注册集群开启多地域Serverless算力调度
传统单地域算力难以支撑AI推理场景的高并发实时响应、突发高流量的要求,阿里云容器服务ACK One注册集群推出多地域Serverless算力调度方案完美解决此问题。
|
10月前
|
存储 机器学习/深度学习 人工智能
2025年阿里云GPU服务器租用价格、选型策略与应用场景详解
随着AI与高性能计算需求的增长,阿里云提供了多种GPU实例,如NVIDIA V100、A10、T4等,适配不同场景。2025年重点实例中,V100实例GN6v单月3830元起,适合大规模训练;A10实例GN7i单月3213.99元起,适用于混合负载。计费模式有按量付费和包年包月,后者成本更低。针对AI训练、图形渲染及轻量级推理等场景,推荐不同配置以优化成本和性能。阿里云还提供抢占式实例、ESSD云盘等资源优化策略,支持eRDMA网络加速和倚天ARM架构,助力企业在2025年实现智能计算的效率与成本最优平衡。 (该简介为原文内容的高度概括,符合要求的字符限制。)
|
10月前
|
边缘计算 调度 对象存储
部署DeepSeek但IDC GPU不足,阿里云ACK Edge虚拟节点来帮忙
介绍如何使用ACK Edge与虚拟节点满足DeepSeek部署的弹性需求。

相关产品

  • 容器服务Kubernetes版
  • 推荐镜像

    更多