直达最佳实践:【ACK实现GPU成本优化最佳实践】
最佳实践频道:【点击查看更多上云最佳实践】
这里有丰富的企业上云最佳实践,从典型场景入门,提供一系列项目实践方案,降低企业上云门槛的同时满足您的需求!
场景描述
利用阿里云容器服务ACK部署GPU集群之后,出于成本优化的考虑,对于集群中GPU利用率不高的应用,比如推理的应用,建议利用阿里云cGPU技术将一定数量的应用跑到一块GPU卡上,以提高利用率。对于GPU利用率比较高的应用,不做改动。这样可以实现灵活管理的同时,降低整体成本。
本最佳实践通过一个实际的demo来演示如何建立ACK集群,使用cGPU来共享GPU。
方案优势
- 在ACK服务中实现共享GPU,灵活拆分。
- 提高GPU利用率,降低TCO。
- 应用无需修改,保障多个容器共享同一个GPU时,彼此互相隔离。
产品列表
- ECS云服务器
- GPU云服务器
- 容器服务ACK
- 专有网络VPC
- ARMS监控
- ESS弹性扩容