《2023云原生实战案例集》——01 汽车/制造——VIVO AI计算平台的ACK One混合云实践

简介: 《2023云原生实战案例集》——01 汽车/制造——VIVO AI计算平台的ACK One混合云实践

image.png 

客户简介

vivo是一家以设计驱动创造产品/以智能终端和智慧服务为核心的科技公司。

客户痛点

资源交付周期长:此前使用自建机房/新增资源的采购流程复杂/周期长/无法及时 响应业务临时的大量算力需求,例如大规模参数模型的训练和在线服务的节假日活动 扩容。同时由于服务器供应链形势严峻,网卡、硬盘、GPU卡等硬件设备都缺货/采 购交付存在较大风险。

需要更高性能的基础设施:AI计算平台对网络、存储有更高的性能要求/在私有IDC 里落地需要很高的时间和金钱成本。

方案亮点

采用ACK One方案,将云主机当做裸金属/物理机,加入到客户自有容器集群,集群使 用人员体验感无差异,无需额外开发。云主机通过客户云平台申请,不改变当前资源申 请流程。

实施简单,成本低:客户原有集群无需改动,功能兼容,无需额外开发。

提供一致性的体验:将云主机加入集群的流程和物理机基本一致。先通过公司云平台 申请云主机,然后通过自动化平台将云主机初始化并加到集群中。

提供更好的混合云网络:Kubernetes的容器网络要求podpodpod和宿主机之 间通讯正常。该平台采用了 CaUco+Tevvay的网络方案,主要表现为在客户机房内的 工作节点采用CaLico BGP,阿里云上的工作节点采用Terway共享网卡模式,以获取 更好的性能。

image.png

建设成果

通过ACK One混合云的能力,该平台可将阿里云上的GPU主机加入到客户自有集群, 提供给用户在深度学习训练平台上使用,及时满足业务的算力需求。用户的使用习惯和 之前保持一致。公共云资源根据不同业务的情况,使用周期在一个月到数个月。使用费 用大大低于自行采购物理机的费用,有效降低成本。

相关产品

分布式有容命平台ACK Ohe

② 容器服务ACK

相关实践学习
深入解析Docker容器化技术
Docker是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的Linux机器上,也可以实现虚拟化,容器是完全使用沙箱机制,相互之间不会有任何接口。Docker是世界领先的软件容器平台。开发人员利用Docker可以消除协作编码时“在我的机器上可正常工作”的问题。运维人员利用Docker可以在隔离容器中并行运行和管理应用,获得更好的计算密度。企业利用Docker可以构建敏捷的软件交付管道,以更快的速度、更高的安全性和可靠的信誉为Linux和Windows Server应用发布新功能。 在本套课程中,我们将全面的讲解Docker技术栈,从环境安装到容器、镜像操作以及生产环境如何部署开发的微服务应用。本课程由黑马程序员提供。     相关的阿里云产品:容器服务 ACK 容器服务 Kubernetes 版(简称 ACK)提供高性能可伸缩的容器应用管理能力,支持企业级容器化应用的全生命周期管理。整合阿里云虚拟化、存储、网络和安全能力,打造云端最佳容器化应用运行环境。 了解产品详情: https://www.aliyun.com/product/kubernetes
相关文章
|
8月前
|
人工智能 PyTorch 算法框架/工具
ACK AI Profiling:从黑箱到透明的问题剖析
本文从一个通用的客户问题出发,描述了一个问题如何从前置排查到使用AI Profiling进行详细的排查,最后到问题定位与解决、业务执行过程的分析,从而展现一个从黑箱到透明的精细化的剖析过程。
|
10月前
|
人工智能 分布式计算 调度
打破资源边界、告别资源浪费:ACK One 多集群Spark和AI作业调度
ACK One多集群Spark作业调度,可以帮助您在不影响集群中正在运行的在线业务的前提下,打破资源边界,根据各集群实际剩余资源来进行调度,最大化您多集群中闲置资源的利用率。
|
10月前
|
存储 人工智能 Kubernetes
ACK Gateway with AI Extension:面向Kubernetes大模型推理的智能路由实践
本文介绍了如何利用阿里云容器服务ACK推出的ACK Gateway with AI Extension组件,在Kubernetes环境中为大语言模型(LLM)推理服务提供智能路由和负载均衡能力。文章以部署和优化QwQ-32B模型为例,详细展示了从环境准备到性能测试的完整实践过程。
|
11月前
|
Cloud Native Serverless 数据中心
阿里云ACK One:注册集群支持ACS算力——云原生时代的计算新引擎
ACK One注册集群已正式支持ACS(容器计算服务)算力,为企业的容器化工作负载提供更多选择和更强大的计算能力。
|
10月前
|
存储 人工智能 物联网
ACK Gateway with AI Extension:大模型推理的模型灰度实践
本文介绍了如何使用 ACK Gateway with AI Extension 组件在云原生环境中实现大语言模型(LLM)推理服务的灰度发布和流量分发。该组件专为 LLM 推理场景设计,支持四层/七层流量路由,并提供基于模型服务器负载感知的智能负载均衡能力。通过自定义资源(CRD),如 InferencePool 和 InferenceModel,可以灵活配置推理服务的流量策略,包括模型灰度发布和流量镜像。
|
11月前
|
传感器 人工智能 机器人
【01】人形机器人研究试验-被有些网友痛骂“工业垃圾”“人工智障”上春晚的人形AI机器人-宇树科技机器人到底怎么样??-本系列优雅草卓伊凡亲自尝试下人形机器人的制造-从0开始学习并且制作机器人-可以跟随卓伊凡
【01】人形机器人研究试验-被有些网友痛骂“工业垃圾”“人工智障”上春晚的人形AI机器人-宇树科技机器人到底怎么样??-本系列优雅草卓伊凡亲自尝试下人形机器人的制造-从0开始学习并且制作机器人-可以跟随卓伊凡
700 1
【01】人形机器人研究试验-被有些网友痛骂“工业垃圾”“人工智障”上春晚的人形AI机器人-宇树科技机器人到底怎么样??-本系列优雅草卓伊凡亲自尝试下人形机器人的制造-从0开始学习并且制作机器人-可以跟随卓伊凡
|
11月前
|
Cloud Native Serverless 数据中心
阿里云ACK One:注册集群支持ACS算力——云原生时代的计算新引擎
阿里云ACK One:注册集群支持ACS算力——云原生时代的计算新引擎
347 10
|
11月前
|
存储 人工智能 弹性计算
NVIDIA NIM on ACK:优化生成式AI模型的部署与管理
本文结合NVIDIA NIM和阿里云容器服务,提出了基于ACK的完整服务化管理方案,用于优化生成式AI模型的部署和管理。
|
11月前
|
人工智能 供应链 监控
AI助力制造:智能体与副驾驶如何提效制造
AI助力制造:智能体与副驾驶如何提效制造

相关产品

  • 容器服务Kubernetes版
  • 推荐镜像

    更多