阿里云张献涛:云原生计算服务,加速互联网迈入智能时代

简介: 阿里云提供的全方位、立体化的弹性计算服务,可以为互联网企业提供弹性、高性能与成本三方兼顾的云原生基础设施,助力互联网企业快速迈入智能化时代。在阿里云云峰会2023北京站《互娱&游戏创新与商业增长论坛》中,阿里云智能基础产品部副总裁,弹性计算&无影产品线总经理张献涛,发表了《云原生计算基础设施,加速互联网迈入智能时代》的主题演讲。

ChatGPT为代表的AI技术巨大跃升,将掀起一场新的工业革命,重塑甚至颠覆数字内容的生产方式和消费模式。对互联网企业来说,所有的发展方向在探索中,无一例外都会找寻技术上的助推;而新技术和新能力的投入,也会带给互联网企业更多的发展助力。

 

阿里云提供的全方位、立体化的弹性计算服务,可以为互联网企业提供弹性、高性能与成本三方兼顾的云原生基础设施,助力互联网企业快速迈入智能化时代。在阿里云云峰会2023北京站《互娱&游戏创新与商业增长论坛》中,阿里云智能基础产品部副总裁,弹性计算&无影产品线总经理张献涛,发表了《云原生计算基础设施,加速互联网迈入智能时代》的主题演讲。


以下内容根据张献涛的演讲整理而成:旭卿.jpg

阿里云智能基础产品部副总裁,弹性计算&无影产品线总经理 张献涛


幻灯片2.JPG

过去,我们经历了传统互联网和移动互联网,目前我们正处于视频互联网时期,互娱视频领域在过去几年也有着比较大的发展。随着AIGC等技术的出现,我们认为在未来,互联网将迈入以数据为中心的智能互联网时代。

幻灯片3.JPG

而智能互联网时代,将对基础设施提出更高的要求。首先,海量的数据需要高效的算力基础设施进行处理,智能化推荐、大数据挖掘、数据处理效率都需要进一步提升,同时也需要更低延时、更高性能的计算基础设施赋能客户。


其次,“小步快跑,快速试错”是互联网行业一直以来的迭代策略,以便能够快速跟上消费者的需求变化,这需要弹性灵活的基础设施来应对业务需求中出现的波峰波谷,这就带来了第二个问题,如何高效管理基础设施。


最后,智能时代对基础设施提出了更高的要求、基础设施的投入也将持续增长,企业要如何兼顾灵活、敏捷与成本之间的平衡,持续提升基础设施的性价比,这也是一大挑战。

幻灯片4.JPG

阿里云弹性计算构建了面向互联网企业的云技术基础架构,可以完美地满足上述需求。


首先,在底层基础设施IaaS的部分,阿里云飞天操作系统+CIPU,调度着高性能的神龙计算、盘古存储、洛神网络等平台,云原生计算基础设施,极致性能帮助企业打造流畅稳定的用户体验。


针对IaaS的自服务部分,我们的AIACC 加速套件,可以大幅提升大规模分布式训练和推理性能;我们的CloudOps工具,可以更简单的获得高效算力,支撑互联网企业的敏捷开发。AI领域我们发布了AI基础设施加速套件AIACC,实现AI计算效率大幅提升,在推理、训练领域,可以实现比传统IDC高出30%-80%的性能。


在成本管理方面,我们的FinOps体系,通过多种计费模式与场景的组合,同样实现了灵活性与成本的最佳平衡。

幻灯片5.JPG

在底层基础设施层面,阿里云持续进行技术创新,为客户提供流畅稳定的业务体验。


在今年三月,弹性计算第八代企业级实例全面商业化,基于CIPU+飞天的技术架构,全系标配eRDMA能力可以让数据获得更高的流转效率,同时新增了加密虚拟机TDX能力,结合云上安全计算能力和数据计算能力,打造了一个全栈式云原生安全计算服务。


除了性能和安全能力提升之外,网络及存储I/O也实现了大幅提升,存储层面适配NvME云盘存储接口,通过这样的接口可以实现超高性能ESSD支持共享块存储,使得传统软件上云时,可以获得更加极致的性能,同时又可以解决传统软件上云过程中遇到的技术难题。

幻灯片6.JPG

eRDMA是阿里云最新推出的第八代实例标配的产品能力特性,是中国推出的首个云上大规模RDMA加速能力,能够大幅提升大规模分布式计算通信效率,并且能够随着阿里云的集群规模动态扩展,能够轻松构建中国最大的RDMA分布式计算网络,在大规模训练方面,通过eRDMA可以实现上千台机器同时进行训练。


在性能维度,Redis数据库、结合大数据加速套件 MRACCSpark大数据处理、AI训练场景、HPC应用也都分别有着100%25%30%20%的提升。

幻灯片7.JPG

在第八代企业级实例的算力维度,我们为用户提供了丰富的选择,从最新的英特尔第四代至强可扩展处理器、AMD最新的Genoa处理器,到阿里云自研的倚天710处理器,提供了不同架构与场景下的多种选择。


基于英特尔第四代至强可扩展处理器SPR的第八代企业级实例g8i,主要提供了场景化的超高性能,在通用算力提升的基础上,原生支持硬件加速能力,其中AI训练性能提升2倍以上,加解密、压缩/解压缩等场景下性能提升4倍以上,为客户提供场景化的超高性价比。


基于AMD的第八代企业级实例g8ae,算力强劲,单核算力相比上一代提升高达55%,可以满足用户的所有计算机密型业务对更高算力的需求,在实际的高性能计算场景中,相比提升100%


基于AMD的另外一款第八代企业级实例g8a,性价比极高,面向所有通用类应用场景,总和性价比提升15%,在通用企业级应用场景下,性价比提升高达50%以上。


值得一提的是,基于倚天710处理器打造的g8y实例,编解码性能提升了80%,大数据性能也提升了70%

幻灯片8.JPG

倚天710是阿里巴巴第一颗为云而生的自研芯片,在CPU算力层面无超线程概念,用户可享受极致的物理核性能和缓存QoS能力,以充分应对复杂的业务负载变化,CPU利用率即使达到85%以上,也不会出现算力争抢的情况,所以非常适合大数据/数据库类型业务的发展。


不仅如此,业界主流的开源软件以及阿里云主流的PaaS产品均已支持倚天实例,用户无需担心业务适配的问题,零代码改造即可完成业务部署,就可以体验g8y带来的性能收益。

幻灯片9.JPG

除了通用计算方面的能力,面向AIGC大模型的训练与推理方案我们也在构建,在支持GPT模型加上Stable Diffusion大模型训练和推理方面做了全栈优化。在算力资源维度我们有超级计算集群、CPU/GPU集群,存储层面有高性能的并行文件存储,网络层面通过弹性RDMA高速互联,在AI训练和推理方面有着非常优秀的表现。


资源管理层面也有FastGPU等高效部署工具,客户任务可以在阿里云平台上实现高效创建GPU集群,通过ACK容器模式可以形成非常好的弹性,cGPU的技术让GPU算力可以进行切分或池化,根据需要可以虚拟化,也可以进行分布式的大型训练的部署。


同时还支持语言大模型和视觉大模型,阿里云也发布了模型服务,模型服务和整栈软件可以进行无缝对接,在阿里云上使用PaaSIaaS都可以获得比较好的技术支持。

幻灯片10.JPG

阿里云从2017年布局异构计算,2022年重点构建了面向元宇宙XR的应用开发、部署、发布生态;支持合作伙伴演唱会、数字人等场景应用;当前以语言大模型服务为契机,提供面向模型服务的弹性基础设施,从底层到中间件的全系优化,用户可以获得开箱即用的效果。

幻灯片11.JPG

阿里云ECS采用cGPU,支持对多种多卡GPU实现灵活分割,结合CPU VM/容器虚拟化,实现对异构计算灵活切割与调度能力。通过cGPU技术,容器技术等可以在算力切分和池化方面做到无缝效果。

幻灯片12.JPG

虽然AIACC-Training更多是AI通信层面的优化,但结合eRDMA技术可以获得强于传统IDC,强于其他云基础设施的能力。


在目前火热的大模型和AIGC场景上同样提供进一步的优化能力,如在大规模语言模型分布式训练性能提升50%,在AIGC finetune训练性能提升40%,在大语言模型推理性能提升50%,在AIGC推理性能提升80%等,进一步提升客户AI业务的竞争力。

幻灯片13.JPG

我们认为无影是阿里云算力的接入点,在今天无论是通用算力还是智能化算力,都可以通过无影端轻松获得阿里云计算、存储、网络、AI、大数据等整体能力,让智能化算力触手可及。


同时无影兼容大多数的智能显示终端,也让开发和使用体验进一步得到提升。而无影也更容易被各类软件集成,拓宽了应用的业务边界。我们也研发了笔记本,盒式终端,一体机等自有硬件供广大消费者选择。

幻灯片14.JPG

为了让客户在使用云上资源时希望能够更好的管理和运维,过去几年弹性计算产品线一直在构建云上自动化运维体系CloudOps来提升企业的运维效率,旨为云上业务安全高效的持续运营提供全方位的支持。幻灯片16.JPG

在效率至上的互联网时代,CloudOps从成本、效率和稳定性三个维度,为企业带来了显著的效能提升,包括可以实现30%以上的成本优化、50%以上的人工效率提升,以及35%以上的故障恢复周期缩短,为业务稳定永续保驾护航。

幻灯片15.JPG

在之前,大家购买资源更多是为了恒定的业务需求,所以大多使用的是包年包月,但实际云更多时候是需要按量付费的,如何确保整个资源做到合理利用,我们有丰富的计费方式,企业使用云的时候,可以随心所欲,实现成本的下降和资源弹性的双重平衡。

幻灯片16.JPG

我们希望通过全方位、立体化的弹性计算服务能力,为互联网企业提供弹性、高性能与成本三方位兼顾的云原生基础设施,让企业更好地获得弹性高性能低成本的资源,助力互联网企业加速业务创新。


相关实践学习
在云上部署ChatGLM2-6B大模型(GPU版)
ChatGLM2-6B是由智谱AI及清华KEG实验室于2023年6月发布的中英双语对话开源大模型。通过本实验,可以学习如何配置AIGC开发环境,如何部署ChatGLM2-6B大模型。
相关文章
|
存储 Cloud Native 数据处理
从嵌入式状态管理到云原生架构:Apache Flink 的演进与下一代增量计算范式
本文整理自阿里云资深技术专家、Apache Flink PMC 成员梅源在 Flink Forward Asia 新加坡 2025上的分享,深入解析 Flink 状态管理系统的发展历程,从核心设计到 Flink 2.0 存算分离架构,并展望未来基于流批一体的通用增量计算方向。
453 0
从嵌入式状态管理到云原生架构:Apache Flink 的演进与下一代增量计算范式
|
8月前
|
Kubernetes Cloud Native 安全
云原生机密计算新范式 PeerPods技术方案在阿里云上的落地和实践
PeerPods 技术价值已在阿里云实际场景中深度落地。
|
6月前
|
消息中间件 人工智能 监控
【云故事探索 | NO.15】:阿里云云原生加速鸣鸣很忙数字化
【云故事探索 | NO.15】:阿里云云原生加速鸣鸣很忙数字化
|
7月前
|
消息中间件 人工智能 监控
【云故事探索】NO.15:阿里云云原生加速鸣鸣很忙数字化
鸣鸣很忙集团作为中国最大休闲食品饮料连锁零售商,通过数字化与云原生技术实现快速扩张,4年完成其他企业10年的数字化进程。其采用阿里云全栈云原生方案,实现弹性扩容、智能补货、模块化开店等创新实践,支撑日均超430万交易数据稳定运行。未来将深化AI应用,推动供应链智能化与业务全面升级。
|
8月前
|
Cloud Native 关系型数据库 分布式数据库
客户说|知乎基于阿里云PolarDB,实现最大数据库集群云原生升级
近日,知乎最大的风控业务数据库集群,基于阿里云瑶池数据库完成了云原生技术架构的升级。此次升级不仅显著提升了系统的高可用性和性能上限,还大幅降低了底层资源成本。
|
9月前
|
运维 Cloud Native 应用服务中间件
阿里云微服务引擎 MSE 及 API 网关 2025 年 4 月产品动态
阿里云微服务引擎 MSE 面向业界主流开源微服务项目, 提供注册配置中心和分布式协调(原生支持 Nacos/ZooKeeper/Eureka )、云原生网关(原生支持Higress/Nginx/Envoy,遵循Ingress标准)、微服务治理(原生支持 Spring Cloud/Dubbo/Sentinel,遵循 OpenSergo 服务治理规范)能力。API 网关 (API Gateway),提供 APl 托管服务,覆盖设计、开发、测试、发布、售卖、运维监测、安全管控、下线等 API 生命周期阶段。帮助您快速构建以 API 为核心的系统架构.满足新技术引入、系统集成、业务中台等诸多场景需要
阿里云微服务引擎 MSE 及 API 网关 2025 年 4 月产品动态
|
10月前
|
人工智能 运维 监控
阿里云携手神州灵云打造云内网络性能监测标杆 斩获中国信通院高质量数字化转型十大案例——金保信“云内网络可观测”方案树立云原生运维新范式
2025年,金保信社保卡有限公司联合阿里云与神州灵云申报的《云内网络性能可观测解决方案》入选高质量数字化转型典型案例。该方案基于阿里云飞天企业版,融合云原生引流技术和流量“染色”专利,解决云内运维难题,实现主动预警和精准观测,将故障排查时间从数小时缩短至15分钟,助力企业降本增效,形成可跨行业复制的数字化转型方法论。
545 6
|
10月前
|
Cloud Native Serverless 流计算
云原生时代的应用架构演进:从微服务到 Serverless 的阿里云实践
云原生技术正重塑企业数字化转型路径。阿里云作为亚太领先云服务商,提供完整云原生产品矩阵:容器服务ACK优化启动速度与镜像分发效率;MSE微服务引擎保障高可用性;ASM服务网格降低资源消耗;函数计算FC突破冷启动瓶颈;SAE重新定义PaaS边界;PolarDB数据库实现存储计算分离;DataWorks简化数据湖构建;Flink实时计算助力风控系统。这些技术已在多行业落地,推动效率提升与商业模式创新,助力企业在数字化浪潮中占据先机。
543 12
|
6月前
|
运维 监控 Cloud Native
从本土到全球,云原生架构护航灵犀互娱游戏出海
本文内容整理自「 2025 中企出海大会·游戏与互娱出海分论坛」,灵犀互娱基础架构负责人朱晓靖的演讲内容,从技术层面分享云原生架构护航灵犀互娱游戏出海经验。
597 15
|
6月前
|
运维 监控 Cloud Native
从本土到全球,云原生架构护航灵犀互娱游戏出海
内容整理自「 2025 中企出海大会·游戏与互娱出海分论坛」,灵犀互娱基础架构负责人朱晓靖的演讲内容,从技术层面分享云原生架构护航灵犀互娱游戏出海经验。

热门文章

最新文章