第六章 云原生最佳实践
6.1 vivo AI计算平台的ACK混合云实践
2018年底，vivo AI 研究院为了解决统一高性能训练环境、大规模分布式训练、计算资源的高 效利用调度等痛点，着手建设AI计算平台。经过两年多的持续迭代，平台建设和落地取得了很大进展，成为 vivo AI 领域的核心基础平台。平台从当初服务深度学习训练为主，到现在演 进成包含 VTraining、VServing、VContainer三大模块，对外提供模型训练、模型推理和容器化能力。平台的容器集群有数千个节点，拥有超过数百PFLOPS的GPU算力。集群里同时运行着数千个训练任务和数百个在线服务。本文是vivo AI计算平台实战系列文章之一，主要分享了平台在混合云建设方面的实践。
6.1.1背景
混合云是近年来云原生领域关注的新方向之一，它是指将私有云和公有云服务结合起来使用的解决方案。目前几大公有云厂商都提供了各自的混合云方案，如 AWS 的 AWS Outpost、谷歌的GEC Anthos 和阿里的 ACK 混合云。大部分厂商都是通过使用Kubernetes和容器来屏蔽 底层基础设施的差异，对上提供统一的服务。AI计算平台选择建设混合云，主要是基于以下两点原因。
公有云的弹性资源：平台的集群使用公司自建机房内的裸金属服务器，新增资源的采购流程复杂、周期长，无法及时响应业务临时的大量的算力需求，如大规模参数模型的训练和在线服务的节假日活动扩容。 同时由于今年服务器供应链形势严峻，网卡、硬盘、GPU 卡等硬件设备都缺货，服务器采购交 付存在较大风险。公有云的资源可以按需申请和释放，通过混合云使用公有云资源，能够满足 业务的临时算力需求，又能有效降低成本。
公有云的高级特性：公有云有一些高级的特性，比如AI高性能存储 CPFS、高性能网络 RDMA、深度学习加速引擎 AIACC，这些方案或特性目前公司私有云尚不具备，而私有化落地的时间和金钱成本都很高，通过混合云可以快速和低成本的使用这些特性。
