阿里云张献涛:云原生计算服务,加速互联网迈入智能时代

简介: 阿里云提供的全方位、立体化的弹性计算服务,可以为互联网企业提供弹性、高性能与成本三方兼顾的云原生基础设施,助力互联网企业快速迈入智能化时代。在阿里云云峰会2023北京站《互娱&游戏创新与商业增长论坛》中,阿里云智能基础产品部副总裁,弹性计算&无影产品线总经理张献涛,发表了《云原生计算基础设施,加速互联网迈入智能时代》的主题演讲。

ChatGPT为代表的AI技术巨大跃升,将掀起一场新的工业革命,重塑甚至颠覆数字内容的生产方式和消费模式。对互联网企业来说,所有的发展方向在探索中,无一例外都会找寻技术上的助推;而新技术和新能力的投入,也会带给互联网企业更多的发展助力。

 

阿里云提供的全方位、立体化的弹性计算服务,可以为互联网企业提供弹性、高性能与成本三方兼顾的云原生基础设施,助力互联网企业快速迈入智能化时代。在阿里云云峰会2023北京站《互娱&游戏创新与商业增长论坛》中,阿里云智能基础产品部副总裁,弹性计算&无影产品线总经理张献涛,发表了《云原生计算基础设施,加速互联网迈入智能时代》的主题演讲。


以下内容根据张献涛的演讲整理而成:旭卿.jpg

阿里云智能基础产品部副总裁,弹性计算&无影产品线总经理 张献涛


幻灯片2.JPG

过去,我们经历了传统互联网和移动互联网,目前我们正处于视频互联网时期,互娱视频领域在过去几年也有着比较大的发展。随着AIGC等技术的出现,我们认为在未来,互联网将迈入以数据为中心的智能互联网时代。

幻灯片3.JPG

而智能互联网时代,将对基础设施提出更高的要求。首先,海量的数据需要高效的算力基础设施进行处理,智能化推荐、大数据挖掘、数据处理效率都需要进一步提升,同时也需要更低延时、更高性能的计算基础设施赋能客户。


其次,“小步快跑,快速试错”是互联网行业一直以来的迭代策略,以便能够快速跟上消费者的需求变化,这需要弹性灵活的基础设施来应对业务需求中出现的波峰波谷,这就带来了第二个问题,如何高效管理基础设施。


最后,智能时代对基础设施提出了更高的要求、基础设施的投入也将持续增长,企业要如何兼顾灵活、敏捷与成本之间的平衡,持续提升基础设施的性价比,这也是一大挑战。

幻灯片4.JPG

阿里云弹性计算构建了面向互联网企业的云技术基础架构,可以完美地满足上述需求。


首先,在底层基础设施IaaS的部分,阿里云飞天操作系统+CIPU,调度着高性能的神龙计算、盘古存储、洛神网络等平台,云原生计算基础设施,极致性能帮助企业打造流畅稳定的用户体验。


针对IaaS的自服务部分,我们的AIACC 加速套件,可以大幅提升大规模分布式训练和推理性能;我们的CloudOps工具,可以更简单的获得高效算力,支撑互联网企业的敏捷开发。AI领域我们发布了AI基础设施加速套件AIACC,实现AI计算效率大幅提升,在推理、训练领域,可以实现比传统IDC高出30%-80%的性能。


在成本管理方面,我们的FinOps体系,通过多种计费模式与场景的组合,同样实现了灵活性与成本的最佳平衡。

幻灯片5.JPG

在底层基础设施层面,阿里云持续进行技术创新,为客户提供流畅稳定的业务体验。


在今年三月,弹性计算第八代企业级实例全面商业化,基于CIPU+飞天的技术架构,全系标配eRDMA能力可以让数据获得更高的流转效率,同时新增了加密虚拟机TDX能力,结合云上安全计算能力和数据计算能力,打造了一个全栈式云原生安全计算服务。


除了性能和安全能力提升之外,网络及存储I/O也实现了大幅提升,存储层面适配NvME云盘存储接口,通过这样的接口可以实现超高性能ESSD支持共享块存储,使得传统软件上云时,可以获得更加极致的性能,同时又可以解决传统软件上云过程中遇到的技术难题。

幻灯片6.JPG

eRDMA是阿里云最新推出的第八代实例标配的产品能力特性,是中国推出的首个云上大规模RDMA加速能力,能够大幅提升大规模分布式计算通信效率,并且能够随着阿里云的集群规模动态扩展,能够轻松构建中国最大的RDMA分布式计算网络,在大规模训练方面,通过eRDMA可以实现上千台机器同时进行训练。


在性能维度,Redis数据库、结合大数据加速套件 MRACCSpark大数据处理、AI训练场景、HPC应用也都分别有着100%25%30%20%的提升。

幻灯片7.JPG

在第八代企业级实例的算力维度,我们为用户提供了丰富的选择,从最新的英特尔第四代至强可扩展处理器、AMD最新的Genoa处理器,到阿里云自研的倚天710处理器,提供了不同架构与场景下的多种选择。


基于英特尔第四代至强可扩展处理器SPR的第八代企业级实例g8i,主要提供了场景化的超高性能,在通用算力提升的基础上,原生支持硬件加速能力,其中AI训练性能提升2倍以上,加解密、压缩/解压缩等场景下性能提升4倍以上,为客户提供场景化的超高性价比。


基于AMD的第八代企业级实例g8ae,算力强劲,单核算力相比上一代提升高达55%,可以满足用户的所有计算机密型业务对更高算力的需求,在实际的高性能计算场景中,相比提升100%


基于AMD的另外一款第八代企业级实例g8a,性价比极高,面向所有通用类应用场景,总和性价比提升15%,在通用企业级应用场景下,性价比提升高达50%以上。


值得一提的是,基于倚天710处理器打造的g8y实例,编解码性能提升了80%,大数据性能也提升了70%

幻灯片8.JPG

倚天710是阿里巴巴第一颗为云而生的自研芯片,在CPU算力层面无超线程概念,用户可享受极致的物理核性能和缓存QoS能力,以充分应对复杂的业务负载变化,CPU利用率即使达到85%以上,也不会出现算力争抢的情况,所以非常适合大数据/数据库类型业务的发展。


不仅如此,业界主流的开源软件以及阿里云主流的PaaS产品均已支持倚天实例,用户无需担心业务适配的问题,零代码改造即可完成业务部署,就可以体验g8y带来的性能收益。

幻灯片9.JPG

除了通用计算方面的能力,面向AIGC大模型的训练与推理方案我们也在构建,在支持GPT模型加上Stable Diffusion大模型训练和推理方面做了全栈优化。在算力资源维度我们有超级计算集群、CPU/GPU集群,存储层面有高性能的并行文件存储,网络层面通过弹性RDMA高速互联,在AI训练和推理方面有着非常优秀的表现。


资源管理层面也有FastGPU等高效部署工具,客户任务可以在阿里云平台上实现高效创建GPU集群,通过ACK容器模式可以形成非常好的弹性,cGPU的技术让GPU算力可以进行切分或池化,根据需要可以虚拟化,也可以进行分布式的大型训练的部署。


同时还支持语言大模型和视觉大模型,阿里云也发布了模型服务,模型服务和整栈软件可以进行无缝对接,在阿里云上使用PaaSIaaS都可以获得比较好的技术支持。

幻灯片10.JPG

阿里云从2017年布局异构计算,2022年重点构建了面向元宇宙XR的应用开发、部署、发布生态;支持合作伙伴演唱会、数字人等场景应用;当前以语言大模型服务为契机,提供面向模型服务的弹性基础设施,从底层到中间件的全系优化,用户可以获得开箱即用的效果。

幻灯片11.JPG

阿里云ECS采用cGPU,支持对多种多卡GPU实现灵活分割,结合CPU VM/容器虚拟化,实现对异构计算灵活切割与调度能力。通过cGPU技术,容器技术等可以在算力切分和池化方面做到无缝效果。

幻灯片12.JPG

虽然AIACC-Training更多是AI通信层面的优化,但结合eRDMA技术可以获得强于传统IDC,强于其他云基础设施的能力。


在目前火热的大模型和AIGC场景上同样提供进一步的优化能力,如在大规模语言模型分布式训练性能提升50%,在AIGC finetune训练性能提升40%,在大语言模型推理性能提升50%,在AIGC推理性能提升80%等,进一步提升客户AI业务的竞争力。

幻灯片13.JPG

我们认为无影是阿里云算力的接入点,在今天无论是通用算力还是智能化算力,都可以通过无影端轻松获得阿里云计算、存储、网络、AI、大数据等整体能力,让智能化算力触手可及。


同时无影兼容大多数的智能显示终端,也让开发和使用体验进一步得到提升。而无影也更容易被各类软件集成,拓宽了应用的业务边界。我们也研发了笔记本,盒式终端,一体机等自有硬件供广大消费者选择。

幻灯片14.JPG

为了让客户在使用云上资源时希望能够更好的管理和运维,过去几年弹性计算产品线一直在构建云上自动化运维体系CloudOps来提升企业的运维效率,旨为云上业务安全高效的持续运营提供全方位的支持。幻灯片16.JPG

在效率至上的互联网时代,CloudOps从成本、效率和稳定性三个维度,为企业带来了显著的效能提升,包括可以实现30%以上的成本优化、50%以上的人工效率提升,以及35%以上的故障恢复周期缩短,为业务稳定永续保驾护航。

幻灯片15.JPG

在之前,大家购买资源更多是为了恒定的业务需求,所以大多使用的是包年包月,但实际云更多时候是需要按量付费的,如何确保整个资源做到合理利用,我们有丰富的计费方式,企业使用云的时候,可以随心所欲,实现成本的下降和资源弹性的双重平衡。

幻灯片16.JPG

我们希望通过全方位、立体化的弹性计算服务能力,为互联网企业提供弹性、高性能与成本三方位兼顾的云原生基础设施,让企业更好地获得弹性高性能低成本的资源,助力互联网企业加速业务创新。


相关实践学习
部署Stable Diffusion玩转AI绘画(GPU云服务器)
本实验通过在ECS上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。
相关文章
|
6天前
|
弹性计算 固态存储 大数据
阿里云服务99元一年,多配置价格表,太炸裂了
阿里云服务器2024年最新租用价格:轻量应用服务器2核2G3M带宽年费82元,折合每月6.8元;2核4G4M带宽年费298元。新老用户共享99元一年的2核2G3M带宽ECS服务器优惠,及199元一年的2核4G5M带宽企业级ECS u1实例。游戏服务器方面,4核16G10M带宽70元/月,8核32G10M带宽160元/月。此外,还有GPU服务器等多种配置供选择。具体价格和配置请参考阿里云官方页面。
|
4天前
|
Cloud Native 测试技术 开发者
终于!我找到了开发的得力助手!阿里云天池云原生编程挑战赛参赛攻略
在比赛过程中,通义灵码插件成为了我开发工作的得力助手。这个插件提供了智能代码补全和错误提示功能,大大提高了我的编码效率。尤其是通义灵码能够实时分析代码,给出优化建议,让我避免了很多潜在的错误。
129 64
|
4天前
|
人工智能 缓存 Cloud Native
用 Higress AI 网关降低 AI 调用成本 - 阿里云天池云原生编程挑战赛参赛攻略
《Higress AI 网关挑战赛》正在火热进行中,Higress 社区邀请了目前位于排行榜 top5 的选手杨贝宁同学分享他的心得。本文是他整理的参赛攻略。
148 65
|
2天前
|
消息中间件 关系型数据库 Serverless
【阿里云】一键部署创建函数计算服务以处理多媒体文件
通过阿里云的一键部署功能,轻松创建函数计算服务以处理多媒体文件。首先选择地域并配置资源栈名称及其他必要参数,如登录凭证、实例类型及数据库配置。过程中可能需开通相关服务如消息服务MNS,并确保账户有足够的余额。完成配置后,系统自动创建资源栈。当状态显示“创建成功”即部署完毕。最后,通过提供的URL及凭据访问应用,上传PPTX文件进行处理,并下载处理后的结果。
24 4
|
4天前
|
存储 机器学习/深度学习 弹性计算
阿里云EMR数据湖文件系统问题之OSS-HDFS全托管服务的问题如何解决
阿里云EMR数据湖文件系统问题之OSS-HDFS全托管服务的问题如何解决
|
7天前
|
人工智能 Cloud Native 安全
统一多层网关好处多,阿里云云原生 API 网关打造全能型网关
本文分享了作为一款全能型网关【云原生 API 网关】是如何帮助企业落地统一网关架构的。
|
17天前
|
存储 运维 Cloud Native
"Flink+Paimon:阿里云大数据云原生运维数仓的创新实践,引领实时数据处理新纪元"
【8月更文挑战第2天】Flink+Paimon在阿里云大数据云原生运维数仓的实践
180 3
|
19天前
|
运维 Cloud Native 云计算
云原生架构的演进:从微服务到无服务器计算
在数字化转型的浪潮中,云原生技术以其灵活性、可扩展性和成本效益性,成为推动现代软件开发和运维的关键力量。本文将探讨云原生概念的演变,特别是从微服务架构到无服务器计算的转变,揭示这一进化如何影响应用程序的开发、部署和管理。通过分析实际案例,我们旨在提供对云原生技术未来趋势的洞察,同时指出企业在这一转变过程中可能面临的挑战和机遇。
25 2
|
20天前
|
域名解析 UED
阿里云EMAS将扩展全球服务节点
随着互联网技术的发展,全球网络服务需求激增。EMAS httpdns致力于提供高效稳定的域名解析服务,近期计划增加成都、深圳、德国伦敦及美东地区的全球服务节点,以优化应用的网络性能和用户体验。如需咨询,请加入钉钉群(群号35248489)。
|
20天前
|
域名解析 安全 物联网
阿里云EMAS HTTPDNS 扩展全球服务节点:提升解析安全性与网络覆盖
阿里云EMAS HTTPDNS新增国内西南、华南及国际欧洲、美东服务节点,提升了全球覆盖能力与性能。作为高效域名解析服务,EMAS HTTPDNS针对互联网、汽车、物流、IOT等行业提供支持,解决了传统解析易遭劫持等问题。新增节点优化了就近调度功能,显著缩短响应时间并增强了服务稳定性和连续性,尤其为中国企业的海外业务提供了强有力的支持。此次扩展展现了阿里云对服务质量的持续追求和全球市场布局的战略思考。