AI时代云基础设施的技术创新与展望丨ODCC2023

简介: AI时代云基础设施的技术创新与展望丨ODCC2023

【阅读原文】戳:AI时代云基础设施的技术创新与展望丨ODCC2023


由开放数据中心委员会(简称“ODCC”)主办,阿里巴巴、腾讯、百度、中国电信、中国移动、中国信息通信研究院(简称“中国信通院”)、美团、京东等承办的“2023开放数据中心大会”在北京举办,阿里云智能基础设施事业部总经理周明及相关技术专家受邀参会。2023年被认为是通用人工智能(Artificial General Intelligence,AGI)的元年,相关技术和应用的发展正在对云基础设施行业产生影响,作为全球领先的云计算及人工智能科技公司,阿里云在“2023开放数据中心大会”分享相关的思考实践,以及对未来的展望。


全新一代AI时代云基础设施:高算力密度,高线性扩展


阿里云智能基础设施事业部总经理周明在大会主论坛进行主题分享《再出发:面向AI时代的云基础设施》,周明先生认为,以大模型为代表的技术和应用正在快速发展,带来了全新的业务负载特征,大模型需要更高的算力密度,同时计算性能需要线性扩展,为数据中心网络带宽、网络架构、网络性能、I/O性能、电力密度、散热效率、监控运维等一系列问题,因此云基础设施需要进行全面重构。阿里云推出的智能计算集群灵骏可以实现10万卡规模横向扩展,单个任务最大可调度上万张计算卡,能够为万亿级参数的模型提供服务,该集群基于最新的一代AI集群网络HPN 7.0实现。


图丨阿里云智能基础设施事业部-总经理 周明


可预期网络,AI规模和扩展性的密码


阿里云智能基础设施事业部-灵骏智能计算集群负责人王超在网络论坛分享了《AI Infra网络设计及思考》,AI时代到来后,高性能网络的话题逐渐趋热,王超先生认为,除了计算卡之外,高性能网络技术是AI模型规模和扩展性的密码,虽然短期内需要解决规模提升带来的一系列问题,但是问题背后是行业的巨大发展机遇,与传统“尽力而为”的网络不同,AI时代需要可用性、性能“可预期”的网络,HPN 7.0正是阿里云在这个方向上的实践,通过端网融合的技术思想,以自研软硬件在路径选择、流量控制、故障恢复和监控、网络拓扑和架构等维度进行攻关,并且开展了规模化的可预期网络技术产品实践。


图丨HPN 7.0:新一代AI集群网络架构


数据中心智能运维系统,大幅提升数据中心供电稳定性


阿里云智能基础设施事业部-高级技术专家刘国良在智能运营分论坛分享了《数据中心供电仿真系统及其应用》,数据中心的供电系统需给IT设备提供7*24不间断的电力供应,在供电架构中使用了大量的冗余、备自投等设计,这些设计增加了系统的稳定性和健壮性,同时也使系统的复杂性成倍增加。刘国良先生认为在这种背景下如何利用数字化技术解决应急过程中故障快速定位、变更早期风险识别和过程管控、演练如何有效提升人员技能等是迫切需要解决的难题。阿里云研发的数据中心智能运维系统将数据中心电力设备实时监控、电力系统拓扑、电力仿真系统、变更管理及事件应急结合到一起,并有效解决上述难题,使得数据中心的稳定性大幅提升。


图丨阿里云智能基础设施事业部-高级技术专家 刘国良


蓄电池智能诊断,大幅度提升运维效率


阿里云智能基础设施事业部-高级技术专家刘巍在智能运营分论坛分享了《数据中心蓄电池智能诊断与运维技术》,刘巍先生认为目前数据中心电池运维,过度依赖于现场检查的精细度、频次,但仍然无法准确预测电池的性能。通过引入智能诊断和运维手段,可以对铅酸电池进行均充、放电、浮充全状态的异常分析&故障识别,可对放电异常&亚健康、内阻偏高异常等进行预测。以上智能诊断手段结合智能告警、异常识别、均充提醒等,有效减少运维人员的工作量。通过电池状态预测、内短路检测、故障报警和下行控制等模块也可实现锂电池系统的智能化诊断与运维。


图丨阿里云智能基础设施事业部-高级技术专家 刘巍


业界领先的液冷技术储备,为AI算力可持续发展提供路径


阿里云智能基础设施事业部-资深技术专家钟杨帆在液冷创新实践论坛分享了《绿色液冷技术推动AI算力可持续发展》,他在演讲中提到,在ChatGPT为代表的AI大模型迅速崛起,各类生成式人工智能应用的涌现式爆发,引发智能算力需求剧增,同时也带来能耗和散热需求的突发暴涨。作为全球领先的云计算及人工智能(Artificial Intelligence,AI)科技公司,阿里云一直致力于探索不同技术方案,不遗余力地寻求创新与突破,在液冷技术研究方面迈入行业前列,并通过与合作伙伴多年以来开展的产品与技术合作,打造出领先的解决方案,实现了落地应用。在碳达峰、碳中和等节能环保政策的推动下,以先进散热技术构建可持续的绿色算力输出,已成为更多数据中心孜孜以求的目标。


刷新服务器模块化技术规范,助力供应链提效


阿里云智能基础设施事业部-服务器硬件技术专家贺永宝在服务器技术论坛分享了《OSSP主板技术规范和Riser cable技术规范发布及解读》。OSSP(Open Server Standardization Project)项目是由阿里巴巴、美团和英特尔在ODCC联合发起的服务器开放项目。OSSP项目借鉴了PC“攒机”的理念,期望在服务器领域能够打造标准化模块化的服务器部件,适用于不同的服务器机型和不同的服务器用户,获得规模化成本收益和可供应性安全保障。此次发布的《OSSP主板技术规范2.0》以模块化和标准化为核心理念,主板仅保留CPU、内存和BMC三大核心功能组件,最大限度满足主板在服务器机箱内的灵活应用,为实现OSSP主板规模化应用奠定基础。同时发布的《OSSP Riser cable技术规范》,将riser pcb归一为单一形态,通过pcb焊接cable的方式,减短高速信号转接链路,SI性能提升,与主板及扩展卡连接更加灵活,实现服务器前、后出线架构兼容,为Risercable的低成本规模化供应奠定基础。


图丨阿里云智能基础设施事业部-服务器硬件技术专家 贺永宝


荣获多项ODCC十周年特别奖项


阿里云主导的《数据中心运维机器人技术白皮书项目》、网络开放项目《S³IP项目》获评ODCC十周年卓越项目奖,《下一代数据中心高速铜缆技术项目》、云服务器方升架构获评ODCC十周年杰出项目奖,IDC《电力仿真系统及其应用白皮书》获得ODCC优秀项目奖,阿里云智能基础设施事业部陈亮、贺永宝、刘丹、刘巍、任华华和钟杨帆分获ODCC优秀项目经理奖。


作为开放数据中心委员会(ODCC)的十周年庆典,本次大会汇聚了众多行业专家和领导者,共同探讨数据中心和人工智能领域的最新技术发展和产业趋势,阿里云展示了云基础设施方面的领先实力和创新成果,包括数据中心可预期网络、数据中心供电仿真系统、蓄电池智能诊断、液冷技术以及服务器模块化技术规范等多个方面;此外为了肯定持续的技术创新和行业贡献,在本次大会上阿里云被授予多项荣誉。作为ODCC的重要合作伙伴,阿里云将继续秉持开放、合作、创新、共赢的精神,并与产业同仁一起,共同推动云计算和人工智能技术的发展,为全球经济和社会发展作出更大贡献。

相关文章
|
24天前
|
数据采集 人工智能 分布式计算
ODPS在AI时代的发展战略与技术演进分析报告
ODPS(现MaxCompute)历经十五年发展,从分布式计算平台演进为AI时代的数据基础设施,以超大规模处理、多模态融合与Data+AI协同为核心竞争力,支撑大模型训练与实时分析等前沿场景,助力企业实现数据驱动与智能化转型。
117 4
|
1月前
|
云安全 机器学习/深度学习 人工智能
阿里云安全Black Hat技术开源大揭秘,AI安全检测的工程化实践
阿里云安全 LLMDYara框架开源核心思路,赋能云安全产品!
|
22天前
|
设计模式 人工智能 API
​​混合检索技术:如何提升AI智能体50%的响应效率?​
本文深入解析检索增强智能体技术,探讨其三大集成模式(工具模式、预检索模式与混合模式),结合实战代码讲解RAG组件链构建、上下文压缩、混合检索等关键技术,并提供多步检索工作流与知识库自更新机制设计,助力高效智能体系统开发。
120 0
|
25天前
|
人工智能 自然语言处理 机器人
智能体平台哪家值得选?盘点国内外12家AI Agent平台技术特色
智能体平台正引领人机协作新潮流,将“智能”交给机器,让“平台”服务于人。2024年被Gartner定义为“AgenticAI元年”,预示未来企业交互将由智能体主导。面对百余平台,可从三条赛道入手:通用大模型、RPA升级派与垂直场景定制。不同需求对应不同方案,选对平台,才能让AI真正助力工作。
|
29天前
|
机器学习/深度学习 人工智能 搜索推荐
思维树提示技术:让AI像人类一样思考的魔法
想象一下,如果AI能像你思考问题一样有条理,从一个想法延伸到多个分支,会发生什么?思维树提示技术就是这样一种让AI更聪明的方法,通过结构化思维引导,让AI等大模型给出更深入、更全面的回答。本文将用最轻松的方式,带你掌握这个让AI智商飞升的秘技。
|
24天前
|
存储 弹性计算 运维
AI 时代下阿里云基础设施的稳定性架构揭秘
十五年磨一剑,稳定性为何是今天的“命门”?
|
22天前
|
存储 人工智能 安全
【阿里云基础设施 AI Tech Day】 AI Infra 建设方案及最佳实践沙龙圆
聚焦 AI Infra 建设方案及最佳实践,「智驱未来,云网随行:AI Infra 建设方案及最佳实践」沙龙阿里云基础设施 AI Tech Day 北京站于 8 月 8 日下午在北京全球创新社区顺利举办,活动现场吸引了来自月之暗面、字节、小米、爱奇艺、360、雪球、猿辅导、奥迪等 16 家相关 AI 领域领先企业或有AI建设诉求企业的 32 名业务/技术骨干参与。本次技术沙龙旨在聚焦企业建设高效、高可用的 AI Infra,深入解析 AI 驱动的原子能力与场景化架构设计,分享从基础网络建设、算力池化、存储调度,以及 VPC RDMA 性能优化、Agent 智能体出海等场景的全链路方案,助力企业
123 1
|
29天前
|
人工智能 运维 云计算

热门文章

最新文章