阿里云 Serverless 容器服务全面升级：新增组件全托管、AI 镜像秒级拉取能力-阿里云开发者社区

阿里云 Serverless 容器服务全面升级：新增组件全托管、AI 镜像秒级拉取能力

2023-06-05 8012

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

简介： 阿里云 Serverless 容器服务全面升级：新增组件全托管、AI 镜像秒级拉取能力

6 月 1 日在阿里云峰会·粤港澳大湾区上，阿里云智能云原生应用平台总经理丁宇宣布，Serverless 容器服务 ASK 全面升级，进一步帮助企业和开发者降本提效。

Gartner 曾预测，2023 年 70% 的 AI 应用将基于容器和 Serverless 技术开发。作为云原生的重要技术组成，K8s 已经被开发者和企业广泛认可，然而其自身复杂性和陡峭的学习曲线依然让人望而生畏。

阿里云在 2018 年发布了首个 Serverless 容器服务 ASK，其本质是将容器的运行时和具体的节点运行环境解耦，让用户无需管理 K8s 节点和服务器，即可直接部署应用，大幅降低容器服务的使用门槛。目前，ASK 在容器化应用、在线业务弹性、AI/大数据计算类任务等场景中被广泛使用。

本次发布，ASK 进一步整合了阿里云基础设施的能力，在使用成本、创建效率、异构资源兼容、弹性供给保障等方面带来显著提升，解决开发者在使用 K8s 的复杂性挑战，也顺应了 AI 场景爆发下催生的新需求。

丁宇介绍，本次 ASK 升级涵盖了多个维度，包括对组件的全托管支持、AI 镜像的秒级拉取能力，还降低了客户的使用成本。具体来说：

组件全托管，零 K8s 运维成本：ASK 新增对 CoreDNS、Metrics Server 等十多个 K8s 核心组件的托管支持，提供动态容量规划能力，客户无需自行部署维护，最大化降低运维复杂度。同时，ASK 也新增了智能化风险识别能力，支持自动化升级 K8s 版本，避免升级导致的应用故障或异常风险。

极致弹性，准确率提升 80%：ASK 提供首界首创基于容器镜像缓存的 AI 大镜像秒级拉取能力，AI 应用启动时间降低 90%。并且提供端到端的弹性加速，面向AI/大数据工作负载容器化进行全栈优化，通过数据集加速提升 30% 访问性能；

此外，本次 ASK 还增强了智能弹性预测 AHPA 能力，相比人工配置，弹性准确率提升 80%；同时新增对于 GPU 的支持。

普惠算力，降价 40%：为了给客户提供更好的服务，释放技术红利，让算力更普惠，ASK 新增 U 实例规格支持，统一支持多款处理器，相比上一代主售实例降价高达 40%。

新增 SavingPlan 弹性版本，面向应用非固定波峰波谷场景，额外成本优化 10% 以上。为进一步让价格更透明，新增成本套件支持，清晰洞察弹性资源成本，让成本治理更便捷。

以数禾科技为例，这是一家为金融机构提供高效的智能零售金融解决方案的公司，对于模型的计算能力包括计算速度、计算结果准确性、计算数据实时性等，有很高的要求。

而当前的困扰是支撑模型计算的底层应用资源无法根据请求量来调整机器资源支持运算能力，这也是当前业务快速发展过程中亟待解决的痛点。同时，随着模型在线推理服务数量的增加，数禾的模型服务也变得越来越庞大、臃肿，难以管理。这种状况不仅导致了资源浪费，还增加了维护和升级的成本。

为了解决这些“顽疾”，数禾科技采用阿里云 ASK 部署线上模型，无需 K8s 节点管理，根据实时流量动态使用 POD，资源成本节省 60%；通过 ASK Knative 服务，解决了数禾模型的灰度发布和多版本并存问题；得益于ASK 自动伸缩和缩容到 0 的优势，降低运行成本，大幅提升服务可用性。

“使用阿里云容器服务 Knative 和 ECI 虚拟节点配合部署，保证线上模型应对突发流量的稳定性提升的同时，又使资源利用效率显著提高，极大地节约了资源成本。”数禾科技 AI 实验室 AI 平台负责人周伟鹏表示。

为了让容器开发者和对使用 Kubernetes 部署 AI 模型业务感兴趣的用户更好地体验ASK，阿里云全新上线「基于 ASK 轻松部署企业级 Stable Diffusion」场景体验。通过 Knative 部署满足企业级弹性需求的 Stable Diffusion 服务，同时通过对该服务进行压测实验，体验 ASK 弹性能力。