作者：OSCAR
为了分享过去一年云原生产业联盟（CNIA）在标准建设、评估认证、技术研究、实践合作等方面的工作成果、探索行业最新趋势动态，云原生产业联盟于 2023 年 1 月举办了 2022 年度线上年会，并发布了“云原生混部”首批评测结果，阿里云容器服务ACK顺利通过首批“云原生混部”项目评估。
云原生混部解决方案依托容器、微服务、编排调度等云原生技术，可以帮助用户将业务应用与大数据分析、人工智能计算等不同类型和不同优先级的应用混合部署到共享的基础设施上，提高资源利用率，实现“降本增效”。
中国信通院联合阿里云等企业单位，经过多轮研讨，形成了《云原生混部技术能力要求》标准。标准内容涉及基础设施能力要求、平台混部能力要求、业务应用能力要求，以及混部效果评价共四个部分，具体从资源隔离、资源复用、干扰检测、负载反馈、任务调度、资源预测、应用服务质量等不同维度，对混部产品及解决方案进行全面评估。
阿里云容器服务 Kubernetes 版（Alibaba Cloud Container Service for Kubernetes，简称容器服务ACK）是全球首批通过 Kubernetes 一致性认证的服务平台，提供高性能的容器应用管理服务，支持企业级 Kubernetes 容器化应用的生命周期管理。
阿里巴巴早在 2016 年就启动了云原生混部技术研发，历经多轮技术架构升级、多年双11锤炼，目前已实现全业务规模超千万核的云原生混部，日常 CPU 利用率在 50% 左右。ACK 在“公共云”和“专有云”场景下提供不同的产品形态，可以让各行业的用户轻松高效地在云端运行 Kubernetes 容器化应用。在 ACK 产品中，一个重要理念是支持多种工作负载同时运行在一个集群中，通过弹性和混部技术满足各类工作负载的资源效率、稳定性和成本优化诉求。
针对不同类型工作负载混部场景，ACK 提供了一套完整的混部调度增强的能力，主要包含三个部分：
- 任务调度
- 差异化 SLO
- QoS 感知调度、重调度
任务调度，主要解决工作负载运行在 Kubernetes 之上的问题。ACK 针对微服务、大数据任务、AI 任务类型的负载提供了非常丰富的调度扩展，解决负载之间资源精细化的隔离与共享，具体包括：
- 延迟敏感服务的调优、CPU 绑核、CPU burst、Memory QoS 等
- 弹性额度控制，支持任务类型典型的弹性资源调度（min/max 模型）
- 任务协同调度，AllorNothing
- 异构设备的拓扑感知，GPU share，NvLink拓扑感知等
差异化 SLO，主要提供一套提供部署密度和整体资源利用率的资源模型，用于支持资源调度的 overcommit。ACK 提供了在阿里内部被广泛验证使用的差异化 SLO 技术能力，支持用户在 Kubernetes 之上以资源超卖的方式运行混部任务，进一步提高资源利用率。其核心的包含两部分内容：
- 资源分级调度，根据 Pod 真实负载运行情况进行资源画像，并将模型预估可用的资源进行二次分配，以满足具备容灾能力的计算任务的资源诉求
- 资源隔离与干扰抑制，对于二次分配的任务，提供 CPU、Memory、Disk、Network 多个维度配套的资源隔离保障机制，将计算任务对原延迟敏感任务的干扰控制在非常小的范围
QoS 感知调度、重调度，主要解决高水位状态下工作负载对运行质量的敏感的问题。ACK 提供了一套增强的负载感知调度与重调度框架：
- 负载感知调度，在调度打分阶段引入对于节点运行时状态的判断，避免节点负载过高导致机器出现热点响应慢等影响稳定性的问题
- 重调度，提供了具备资源确定性、腾挪安全保护的重调度器，支持用户在特定时间段执行设定的重调度策略，持续的调整集群资源编排以达到理想状态
基于 ACK 上提供的混部解决方案，阿里云于 2022 年 4 月正式开源 Koordinator 项目，帮助企业更快速获取云原生混部带来的资源效率红利，实现公共云、混合云一致的云原生混部架构，降低系统运维成本，保持长期可持续发展的健康形态。
随着企业数字化转型工作深入推进，精细化的资源管理、跨集群跨地域资源协同、灵活快捷的资源编排调度，以及异构资源共享复用等能力，正在帮助企业实现更加灵活的弹性资源供给、更加智能的应用自动部署，以及更大规模节点的算力协同。
自 2022 年 4 月开源以来，Koordinator 已在阿里自研业务、小红书、爱奇艺、360、趣丸网络等企业生产系统中得到应用，得到来自业界十几个企业优秀工程师的贡献。
后续，阿里云云原生团队将持续在云原生混部方向的投入，推进更多的负载类型融入 Koordinator 生态，不断丰富容器服务 ACK 任务混部解决方案，帮助企业取得更好的资源运行效率。同时，持续参与到中国信通院开展的“云原生混部”相关评估和研究工作中，助力混部技术发展和行业创新应用。欢迎大家加入 Koordinator 社区钉钉群，共同推进混部的标准化进程。
钉钉扫码
点击此处，快速了解如何使用 ack-koordinator 搭建在离线混部环境
