阿里云蒋江伟:什么是云原生芯片?

简介: 阿里云蒋江伟:什么是云原生芯片?



蒋江伟

阿里巴巴云原生技术委员会负责人

阿里云高级研究员


最近经常有人问我,在云原生领域开源软件大行其道的今天,云厂商能不能在系统层做一些突破,以深度挖掘技术红利,为客户提供最大化的价值。


我曾在《什么是真正的云原生?》一文中,特别提到:“云原生芯片正呈现一些共有的特性:主频不需要特别高、功耗要特别低、独立运行的核、多核架构能更好地支持服务网格的应用、有成熟的软件生态等等”。


今天,我将尝试从云计算基础设施建设的角度,以应用和需求为出发点,展开讲讲通用计算领域的云原生芯片。云原生芯片因云而生,具有高算力性价比,相对于昂贵的传统服务器芯片是更优选择。




产业需求变革,算力迎来高需求


让我们先回顾云计算产业的需求变化,因为只有业务的变革和挑战才会产生增量,产生机会。


现在经历的产业革命是从移动互联网时代,过渡到人工智能时代。有两个变革值得关注:


第一,从Web向音视频的变革。

在视频为王的今天,企业纷纷推出高质量的内容,如短视频、直播、AI内容生成等,画质越来越高,不断提升用户体验,以此吸引和留住用户。不同于过去PGC时代,对于每天千万级别的UGC视频内容发布平台,每天要将数千万条直播/短视频为代表的UGC内容,发布到互联网,需要数十万台服务器来满足业务需求,需要海量CPU进行视频编解码,相对过去有几个数量级的算力需求


第二,从大数据应用向AI智能决策的变革。

过去的报表时代,企业运营以大数据分析为主,大数据应用服务器部署一度到30%以上,需要的是海量数据处理能力。但今天生成式AI崛起,让更多运营团队看到了智能决策的潜力。数字化运营依赖的工具,也从大数据应用逐步转向大模型,再叠加企业膨胀的数据,对算力提出了更高的要求



业务变革催生技术变革


基于睿频和超线程的CPU架构很好地满足了过去Web场景需求,但视频、大数据、AI时代以计算密集型业务为主,CPU负载往往可以达到80%以上。


传统CPU超线程在高负载情况下,共享ALU、Cache资源,更容易产生争抢排队,吞吐量无法线性提升;同时由于功耗限制,高负载情况下睿频也很难发挥作用


首先,应用场景中视频和大数据负载越来越重,需要独立CPU核,需要的算力也更强,以实现算力换体验,如高清视频;以算力换空间,如降低视频/大数据的存储量和带宽;


其次,云计算与过去数据中心需求也不相同,往往多个租户同时运行在一台服务器的多个虚拟机上,还有多种业务运行在不同容器环境,传统超线程架构很容易产生资源争抢、多线程数据安全问题;


最后,随着IT规模扩大、重算力应用增加,数据中心服务器的功耗和硬件成本攀升。芯片每千瓦功耗带来上万美金的IDC成本,同时服务器芯片的成本也在逐代上涨,服务器需要更低功耗、更高性能、更高算力密度的算力架构


传统技术已经无法满足新型业务的需求,这也为芯片领域的技术创新提供了更多机遇和空间。



云原生芯片因云而生


基于业务变革和技术演进,让我们来总结云原生芯片特点:


第一,支持重算力——高密物理核,数据处理性能更高。相对超线程技术,物理核更能支撑重载应用,避免资源争抢导致性能颠簸;云计算的多租户、离在线混部模式下,减少核间相互干扰;以容器为核心的云原生应用,高密物理核心提供更大调度资源池实现水平扩展;


第二,突破内存墙——大容量Cache,让计算更多时间在Cache中运行,降低访存时间。Cache时延和带宽是内存性能的数十倍,有效缓解数据读取和写入排队,减少时延,提升端到端性能;


第三,提升CPU负载水位当今超线程架构下的CPU,典型负载健康水位30%,安全阈值要限制在50%,超过这个水位,业务时延大幅度增长,吞吐量也无法线性提升。云原生芯片工作负载可以更高,水位浪费可以大幅度减少


第四,减少数据中心算力损耗。谷歌公开的内部统计数据表明,有27%的CPU负载消耗在了数据压缩、Hash、RPC等大量非业务型开销上;云原生架构要能在这些方面进行加速,比如用eRDMA加速RPC、用加速指令加速Zip等;


第五,降低碳排放。传统CPU架构,为兼容历史指令集和老特性,导致包袱重,浪费芯片面积。从物联网和移动市场迭代演进出来的ARM,近几年进入数据中心,凭借低功耗和高密度优点实现节能减碳;


第六,软硬件协同。传统 IT 技术栈遵循的是“计算机科学的任何问题都可以通过增加一个中间层来解决”的理念,产生了逐层抽象、分层解耦的IT架构。有别于传统的计算范式,云计算平台提供了从CPU-->虚拟化-->操作系统-->编译器-->应用的新范式,例如基于阿里云自研的倚天芯片,结合神龙虚拟化技术和龙蜥操作系统和Dragonwell/ACC编译器,最终在Flink流式计算、RDS数据库等应用中实现比传统架构20-50%性能提升。通过云原生软件贯穿前面五项云原生芯片优点,跨层级协同设计与优化,充分释放硬件算力,实现应用加速



云原生芯片的价值


通过解决AI时代用户的痛点,云原生芯片会为云计算带来一系列价值。


首先是节约成本。在视频场景中采用云原生芯片实现用算力换空间,高级算法大幅节约带宽。在大数据场景中,通过云原生芯片的方案,云原生芯片更高吞吐量,更高压缩率减少服务器数量和存储容量;以阿里云ECS为例,采用倚天云原生芯片,可实现相同成本下升级到H265编码,降低30%带宽;



其次是高性能。搭载云原生芯片的云服务器,在视频处理、大数据处理场景下可实现30%以上性能提升,在传统场景如Java、数据库,会带来20-30%性能提升;同样以倚天ECS为例,大数据SQL查询吞吐量提高30%;


再次是业务创新。云原生芯片实现更高码率、帧率,分辨率,体验更好,基于云原生芯片,可以实现大数据更实时的数据分析,减少排队时间;


最后,企业ESG。通过低功耗的云原生服务器,可以大幅度降低企业IT碳排放。



面向未


自研云原生芯片正在成为主要云厂商的选择,比如AWS的Graviton、Azure的Cobalt、阿里云的倚天,设计思路都以高性能、低功耗为原则,面向云原生场景更具成本和性能优势。


我们认为,云计算技术的突破,要面向未来。其形态需要超越传统IT体系,以构建大规模、高性能、高密度、低功耗、低成本的新型基础设施为核心目标。


作为云计算的核心部件,云原生芯片要放下历史包袱,进行跨越式设计,适应算力新范式,成为云计算迈向下一个AI时代的核心驱动力


/ END /


相关阅读

Related reading


相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
28天前
|
人工智能 监控 Cloud Native
iLogtail 2.0 来了;通义灵码下载量破百万丨阿里云云原生 2 月产品月报
iLogtail 2.0 来了;通义灵码下载量破百万丨阿里云云原生 2 月产品月报
|
2月前
阿里云云原生恭祝大家新年快乐!
阿里云云原生恭祝大家新年快乐!
|
6天前
|
消息中间件 人工智能 监控
|
14天前
|
消息中间件 NoSQL Kafka
云原生最佳实践系列 5:基于函数计算 FC 实现阿里云 Kafka 消息内容控制 MongoDB DML 操作
该方案描述了一个大数据ETL流程,其中阿里云Kafka消息根据内容触发函数计算(FC)函数,执行针对MongoDB的增、删、改操作。
|
1月前
|
消息中间件 Cloud Native Kafka
活动报名|AutoMQ x 阿里云云原生创新论坛(2024.03.09)见证“新一代云原生 Kafka ”重磅发布!
新一年, AutoMQ 首场线下活动重磅来袭!2024年3月9日,由 AutoMQ 与阿里云联合举办的云原生创新论坛将于杭州与大家见面,双方联合重磅发布新一代云原生 Kafka ——AutoMQ On-Prem 版本 !现场将会分享如何通过云原生和存算分离架构实现 Kafka 产品的10倍成本优化,并保持秒级分区无损迁移。另外,活动现场还有来自得物的技术专家分享 AutoMQ 在生产场景中的应用实践,以及阿里云的资深专家为大家剖析多 AZ 块存储的原理。
111 0
活动报名|AutoMQ x 阿里云云原生创新论坛(2024.03.09)见证“新一代云原生 Kafka ”重磅发布!
|
3月前
|
Cloud Native 关系型数据库 分布式数据库
阿里云瑶池助力九州通B2B电商平台,完成100%云原生架构升级
九州通数字化转型,通过引入阿里云云原生数据库PolarDB,云原生内存数据库Tair等产品,完美支撑了医药电商平台数据库100%云原生化,实现了统一、高效、标准化和可跟踪的B2B医药平台。
385 4
|
2月前
|
人工智能 监控 Cloud Native
阿里云参编业内首个代码大模型标准丨云原生 2024 年 1 月产品技术动态
阿里云参编业内首个代码大模型标准丨云原生 2024 年 1 月产品技术动态
|
2月前
|
消息中间件 Cloud Native 应用服务中间件
阿里云云原生工程师认证(Alibaba Cloud Certified Associate,ACA)考试大纲
介绍阿里云云原生工程师认证(Alibaba Cloud Certified Associate,ACA)所需具备的知识及学习方法等。
331 1
|
3月前
|
Cloud Native Java 开发工具
云原生 阿里云分布式文件系统 对象存储OSS 服务配置
【1月更文挑战第8天】云原生 阿里云分布式文件系统 对象存储OSS 服务配置
|
2月前
|
消息中间件 监控 Cloud Native
阿里云云原生微服务高级工程师认证(ACP级-Alibaba Cloud Certification Professional)考试大纲
介绍阿里云云原生微服务高级工程师认证(ACP级-Alibaba Cloud Certification Professional)所需具备的知识及学习方法等。
259 0

热门文章

最新文章