阿里云容器服务助力万兴科技 AIGC 应用加速

2023-12-18 1345

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

本文涉及的产品

容器镜像服务 ACR，镜像仓库100个不限时长

简介： 阿里云容器服务助力万兴科技 AIGC 应用加速

2023 年堪称是 AIGC 元年，文生图领域诞生了 Stable Diffusion 项目，文生文领域诞生了 GPT 家族。一时间风起云涌，国内外许多企业投身 AIGC 创新浪潮，各大云厂商紧随其后纷纷推出自己的大语言模型。在文生图领域落地的企业更多，国外的如 Midjourney，国内的如 AIGC 软件公司万兴科技等。

万兴科技今年推出了系列创新 AIGC 应用，相关产品发布后吸引了大量终端用户“尝鲜”，急需大量资源满足日益增长的用户需求。万兴科技将业务进一步部署到云上，利用云的弹性能力平衡资源和成本。同时，万兴科技借力阿里云容器服务 ACK 和镜像服务企业版 ACR EE，进一步提升用户体验。Kubernetes 是企业云上管理资源的最佳选择，具有很强的应用编排能力，可靠性及弹性。

AIGC 类应用容器化挑战

AIGC 类应用相比于传统的在线应用有比较明显的特征，镜像大、冷启动时间长。

镜像大

AIGC 应用大多采用 nvidia/cuda 作为基础镜像，并安装 Tensorflow、Pytorch、Transformer 等框架，应用镜像往往有十几 GB。镜像拉取是容器启动必不可少的一环，主要包括下载、解压等步骤，会带来网络带宽开销和磁盘的二次写入。随着镜像大小和节点规模的增加，存储网络下载带宽逐渐成为性能瓶颈，缓慢的镜像拉取速度会严重影响容器部署效率和成功率。

冷启动时间长

应用冷启动时间由两个部分组成，Pod 启动时间及 Pod 启动后应用初始化时间。AIGC 类应用这两个时间都很长。镜像大导致 Pod 的镜像拉取时间长。应用启动后首先需要将模型加载到内存中然后才可以对外提供服务。以 stable diffusion 的 v1-5-pruned.safetensors 模型为例，模型有 7.7GB，从云盘加载到内存中大概需要 25s。AIGC 应用的冷启动时间从几十秒到几十分钟不等，如采用 HPA 扩容策略会存在明显的滞后性，导致业务受损。

为解决上述问题，阿里云推出了容器镜像服务（ACR）加速方案及容器服务 Kubernetes 版（ACK）智能弹性 AHPA 方案。

阿里云容器服务助力万兴科技 AIGC 应用加速

ACR 企业版为 AIGC 应用镜像加速

镜像加速方案分两部分：

镜像缓存

运行 Pod 前首先需要拉取镜像，镜像拉取耗时已经成为容器启动的主要耗时。ACK Serverless 集群里，首次拉取的镜像会自动制作镜像缓存，第二次创建 Pod 时会基于该快照来创建，避免或者减少镜像层的下载，从而提升 Pod 的创建速度。镜像缓存是根据镜像地址严格匹配的，当镜像有更新时需要更新镜像缓存。

详情请参考文档镜像缓存概述^[^1]。

P2P 镜像加速

当大规模容器集群批量下载镜像时，容器镜像存储的网络带宽会成为性能瓶颈，导致镜像拉取缓慢。P2P 加速功能利用您计算节点的带宽资源，进行节点之间镜像分发，减少对容器镜像存储的压力，可以大幅提升镜像拉取速度，减少应用部署时间。

详情请参考文档使用 P2P 加速概述^[^2]。