开发者学堂课程【5分钟玩转阿里云容器服务：ACK 云原生 AI 套件概述】学习笔记，与课程紧密联系，让用户快速学习知识。
课程地址：https://developer.aliyun.com/learning/course/1038/detail/18136
ACK 云原生 AI 套件概述
今天将向大家介绍什么是云原生 AI 以及云原生 AI 套件的核心场景与产品能力。
得益于深度学习等算法的突破，GPO 等算力性能提升，海量生产数据的积累，AI技术成熟度持续提高，产业化落地提速。然而算力成本高、生产效率低等挑战也日益凸显。云原生定义了云计算时代最大化利用云的能力，发挥云的价值的最佳路径。云原生架构和技术越来越多的被应用到企业生产环境中，助力企业数字化升级，加速业务提效创新。因此越来越多企业在 kubernetes 集群中管理异构资源开发运行、深度学习和大数据任务部署和弹性管理AI 服务，希望将人员生丰富的生产实践经验复制到 AI 和大数据领域。
阿里云容器服务 ACK 在 2021 年正式发布云原生 AI 套件。云原生 AI 套件是 ACK 对 AI 负载在基础服务层的增强，以 kubernetes 容器服务为底座向下封装对各类异构资源的统一管理，向上提供标准 kubernetes 集群环境和 API 提供了异构资源调度优化、AI任务调度与弹性伸缩、数据编排与访问加速 AI 作业生命周期管理等核心能力。
ACK 原生 AI 套件以组件化的方式提供服务，所有组件开箱即用，可灵活组装与扩展，并通过统一的命令行工具、多种语言 SDK 直接使用或定制开发，对 AI 大数据应用全栈优化性能、效率和成本，助力企业快速定制化构建符合自己需求的 AI 平台。ACK 原生 AI 套件还可以与阿里云机器学习平台派无缝的集成起来，为用户提供非常高效灵活的云原生 AI 平台。
一方面派平台的 dsw DLC ES 等服务介入 ACK ，为用户 AI 模型开发、训练和推理带来更好的弹性和效率。另一方面可以在 kubernetes 应用中灵活的集成派平台、深度优化的算法引擎和领域最佳实践，极大优化训练与推理效果，降低 AI 落地门槛。
ACK 云原生 AI 套件聚焦在两个核心场景，一是持续优化异构资源效率，对阿里云 S 或者客户 IDC 内各种异构资源进行抽象统一管理、运维和分配，通过弹性和软硬协同优化，持续提升资源利用率。二是高效运行 AI 大数据等异构负载，统一管理作业生命周期，统一调度任务工作流，保证任务规模和性能。
针对异构计算场景，云原生 AI 套件在 ACK 之上增加了对 GPU NPU 等异构算力、 RDMA 高性能网络等资源的支持。针对 GPO ，NPU 这类比较昂贵的资源，还提供了资源利用率优化。一是结合 ACK 弹性节点池，对 GPU 在资源节点数和运行任务实例数两层按需自动伸缩。
二是提供 GPU 共享调度，减少 GPU 卡资源空闲浪费。集成阿里云 cgpo 技术，避免共享 GPU 的多个容器之间出现资源抢占和错误影响。还提供 GPU 拓扑感知等增强调度、多维度 GPU 监控等。基于 ACK 云原生 AI 套件， AI 平台的开发运维人员可以高效率、低成本的管理异构基础设施，既能大幅提高资源利用率，又能显著降低运维复杂度。针对深度学习场景，云原生 AI 套件将 AI 生产过程的主要环节进行抽象，以命令行工具 arena 进行管理，屏蔽底层资源管理、调度分配和监控的复杂性。可支持 tensorflow PyTorch harvard 等深度学习 AI 任务 Spark Flink 等大数据任务 MPI 高性能计算作业等。
还可以结合 copy flow pipeline 或 Argo 开源云原生工作流引擎，为复杂的 AI 任务提供工作流编排服务。
对于 AI 分布式训练等场景， ACK 调度器支持多种典型批量调度策略，支持新的优先级任务队列和租户弹性资源配额控制。为避免过度的云资源消费，云原生 AI 套件还支持了弹性模型训练和弹性模型推理，针对存算分离架构带来的数据访问延迟和远程拉取数据带宽开销大的挑战。
云原生 AI 套件对计算任务使用数据的过程进行抽象，提出弹性数据集的概念，构建了数据编排与加速系统。 fluid 实现数据集管理和权限控制，承载阿里云金岛 FS 开源 align show jose FS 等缓存引擎，实现数据集的预热加速以及监控弹性等能力。
基于 ACK 原生 AI 套件，数据科学家和算法工程师可以低门槛提交 AI 任务，高效运行和弹性管理 AI 负载。目前 ACK 云原生 AI 套件正在公测阶段，适配公共云、专有云、混合云以及边缘等多环境交付，以获得互联网、在线教育、自动驾驶等行业客户的使用。
欢迎您免费开通原生 AI 套件进行体验。如果您希望第一时间获取原生 AI 套件的新功能发布和活动资讯或者有任何疑问，欢迎加入我们的钉钉交流群。对于更多全面详细的功能介绍和操作教程，我们将在后续的视频中逐步跟大家分享。
