AI时代云基础设施的技术创新与展望丨ODCC2023

简介: AI时代云基础设施的技术创新与展望丨ODCC2023

【阅读原文】戳:AI时代云基础设施的技术创新与展望丨ODCC2023


由开放数据中心委员会(简称“ODCC”)主办,阿里巴巴、腾讯、百度、中国电信、中国移动、中国信息通信研究院(简称“中国信通院”)、美团、京东等承办的“2023开放数据中心大会”在北京举办,阿里云智能基础设施事业部总经理周明及相关技术专家受邀参会。2023年被认为是通用人工智能(Artificial General Intelligence,AGI)的元年,相关技术和应用的发展正在对云基础设施行业产生影响,作为全球领先的云计算及人工智能科技公司,阿里云在“2023开放数据中心大会”分享相关的思考实践,以及对未来的展望。


全新一代AI时代云基础设施:高算力密度,高线性扩展


阿里云智能基础设施事业部总经理周明在大会主论坛进行主题分享《再出发:面向AI时代的云基础设施》,周明先生认为,以大模型为代表的技术和应用正在快速发展,带来了全新的业务负载特征,大模型需要更高的算力密度,同时计算性能需要线性扩展,为数据中心网络带宽、网络架构、网络性能、I/O性能、电力密度、散热效率、监控运维等一系列问题,因此云基础设施需要进行全面重构。阿里云推出的智能计算集群灵骏可以实现10万卡规模横向扩展,单个任务最大可调度上万张计算卡,能够为万亿级参数的模型提供服务,该集群基于最新的一代AI集群网络HPN 7.0实现。


图丨阿里云智能基础设施事业部-总经理 周明


可预期网络,AI规模和扩展性的密码


阿里云智能基础设施事业部-灵骏智能计算集群负责人王超在网络论坛分享了《AI Infra网络设计及思考》,AI时代到来后,高性能网络的话题逐渐趋热,王超先生认为,除了计算卡之外,高性能网络技术是AI模型规模和扩展性的密码,虽然短期内需要解决规模提升带来的一系列问题,但是问题背后是行业的巨大发展机遇,与传统“尽力而为”的网络不同,AI时代需要可用性、性能“可预期”的网络,HPN 7.0正是阿里云在这个方向上的实践,通过端网融合的技术思想,以自研软硬件在路径选择、流量控制、故障恢复和监控、网络拓扑和架构等维度进行攻关,并且开展了规模化的可预期网络技术产品实践。


图丨HPN 7.0:新一代AI集群网络架构


数据中心智能运维系统,大幅提升数据中心供电稳定性


阿里云智能基础设施事业部-高级技术专家刘国良在智能运营分论坛分享了《数据中心供电仿真系统及其应用》,数据中心的供电系统需给IT设备提供7*24不间断的电力供应,在供电架构中使用了大量的冗余、备自投等设计,这些设计增加了系统的稳定性和健壮性,同时也使系统的复杂性成倍增加。刘国良先生认为在这种背景下如何利用数字化技术解决应急过程中故障快速定位、变更早期风险识别和过程管控、演练如何有效提升人员技能等是迫切需要解决的难题。阿里云研发的数据中心智能运维系统将数据中心电力设备实时监控、电力系统拓扑、电力仿真系统、变更管理及事件应急结合到一起,并有效解决上述难题,使得数据中心的稳定性大幅提升。


图丨阿里云智能基础设施事业部-高级技术专家 刘国良


蓄电池智能诊断,大幅度提升运维效率


阿里云智能基础设施事业部-高级技术专家刘巍在智能运营分论坛分享了《数据中心蓄电池智能诊断与运维技术》,刘巍先生认为目前数据中心电池运维,过度依赖于现场检查的精细度、频次,但仍然无法准确预测电池的性能。通过引入智能诊断和运维手段,可以对铅酸电池进行均充、放电、浮充全状态的异常分析&故障识别,可对放电异常&亚健康、内阻偏高异常等进行预测。以上智能诊断手段结合智能告警、异常识别、均充提醒等,有效减少运维人员的工作量。通过电池状态预测、内短路检测、故障报警和下行控制等模块也可实现锂电池系统的智能化诊断与运维。


图丨阿里云智能基础设施事业部-高级技术专家 刘巍


业界领先的液冷技术储备,为AI算力可持续发展提供路径


阿里云智能基础设施事业部-资深技术专家钟杨帆在液冷创新实践论坛分享了《绿色液冷技术推动AI算力可持续发展》,他在演讲中提到,在ChatGPT为代表的AI大模型迅速崛起,各类生成式人工智能应用的涌现式爆发,引发智能算力需求剧增,同时也带来能耗和散热需求的突发暴涨。作为全球领先的云计算及人工智能(Artificial Intelligence,AI)科技公司,阿里云一直致力于探索不同技术方案,不遗余力地寻求创新与突破,在液冷技术研究方面迈入行业前列,并通过与合作伙伴多年以来开展的产品与技术合作,打造出领先的解决方案,实现了落地应用。在碳达峰、碳中和等节能环保政策的推动下,以先进散热技术构建可持续的绿色算力输出,已成为更多数据中心孜孜以求的目标。


刷新服务器模块化技术规范,助力供应链提效


阿里云智能基础设施事业部-服务器硬件技术专家贺永宝在服务器技术论坛分享了《OSSP主板技术规范和Riser cable技术规范发布及解读》。OSSP(Open Server Standardization Project)项目是由阿里巴巴、美团和英特尔在ODCC联合发起的服务器开放项目。OSSP项目借鉴了PC“攒机”的理念,期望在服务器领域能够打造标准化模块化的服务器部件,适用于不同的服务器机型和不同的服务器用户,获得规模化成本收益和可供应性安全保障。此次发布的《OSSP主板技术规范2.0》以模块化和标准化为核心理念,主板仅保留CPU、内存和BMC三大核心功能组件,最大限度满足主板在服务器机箱内的灵活应用,为实现OSSP主板规模化应用奠定基础。同时发布的《OSSP Riser cable技术规范》,将riser pcb归一为单一形态,通过pcb焊接cable的方式,减短高速信号转接链路,SI性能提升,与主板及扩展卡连接更加灵活,实现服务器前、后出线架构兼容,为Risercable的低成本规模化供应奠定基础。


图丨阿里云智能基础设施事业部-服务器硬件技术专家 贺永宝


荣获多项ODCC十周年特别奖项


阿里云主导的《数据中心运维机器人技术白皮书项目》、网络开放项目《S³IP项目》获评ODCC十周年卓越项目奖,《下一代数据中心高速铜缆技术项目》、云服务器方升架构获评ODCC十周年杰出项目奖,IDC《电力仿真系统及其应用白皮书》获得ODCC优秀项目奖,阿里云智能基础设施事业部陈亮、贺永宝、刘丹、刘巍、任华华和钟杨帆分获ODCC优秀项目经理奖。


作为开放数据中心委员会(ODCC)的十周年庆典,本次大会汇聚了众多行业专家和领导者,共同探讨数据中心和人工智能领域的最新技术发展和产业趋势,阿里云展示了云基础设施方面的领先实力和创新成果,包括数据中心可预期网络、数据中心供电仿真系统、蓄电池智能诊断、液冷技术以及服务器模块化技术规范等多个方面;此外为了肯定持续的技术创新和行业贡献,在本次大会上阿里云被授予多项荣誉。作为ODCC的重要合作伙伴,阿里云将继续秉持开放、合作、创新、共赢的精神,并与产业同仁一起,共同推动云计算和人工智能技术的发展,为全球经济和社会发展作出更大贡献。

相关文章
|
7天前
|
机器学习/深度学习 人工智能 自然语言处理
AI技术深度解析:从基础到应用的全面介绍
人工智能(AI)技术的迅猛发展,正在深刻改变着我们的生活和工作方式。从自然语言处理(NLP)到机器学习,从神经网络到大型语言模型(LLM),AI技术的每一次进步都带来了前所未有的机遇和挑战。本文将从背景、历史、业务场景、Python代码示例、流程图以及如何上手等多个方面,对AI技术中的关键组件进行深度解析,为读者呈现一个全面而深入的AI技术世界。
61 10
|
1天前
|
机器学习/深度学习 人工智能 物联网
AI赋能大学计划·大模型技术与应用实战学生训练营——湖南大学站圆满结营
12月14日,由中国软件行业校园招聘与实习公共服务平台携手魔搭社区共同举办的AI赋能大学计划·大模型技术与产业趋势高校行AIGC项目实战营·湖南大学站圆满结营。
|
5天前
|
人工智能 安全 算法
深度剖析 打造大模型时代的可信AI:技术创新与安全治理并重
2024年12月11日,由中国计算机学会计算机视觉专委会主办的“打造大模型时代的可信AI”论坛在上海举行。论坛汇聚了来自多家知名学术机构和企业的顶尖专家,围绕AI的技术风险与治理挑战,探讨如何在大模型时代确保AI的安全性和可信度,推动技术创新与安全治理并行。论坛重点关注计算机视觉领域的最新进展,提出了多项技术手段和治理框架,为AI的健康发展提供了有力支持。
30 8
深度剖析 打造大模型时代的可信AI:技术创新与安全治理并重
|
5天前
|
机器学习/深度学习 人工智能 运维
阿里云技术公开课直播预告:基于阿里云 Elasticsearch 构建 AI 搜索和可观测 Chatbot
阿里云技术公开课预告:Elastic和阿里云搜索技术专家将深入解读阿里云Elasticsearch Enterprise版的AI功能及其在实际应用。
阿里云技术公开课直播预告:基于阿里云 Elasticsearch 构建 AI 搜索和可观测 Chatbot
|
12天前
|
机器学习/深度学习 人工智能 物联网
AI赋能大学计划·大模型技术与应用实战学生训练营——电子科技大学站圆满结营
12月05日,由中国软件行业校园招聘与实习公共服务平台携手阿里魔搭社区共同举办的AI赋能大学计划·大模型技术与产业趋势高校行AIGC项目实战营·电子科技大学站圆满结营。
AI赋能大学计划·大模型技术与应用实战学生训练营——电子科技大学站圆满结营
|
16天前
|
机器学习/深度学习 存储 人工智能
【AI系统】离线图优化技术
本文回顾了计算图优化的各个方面,包括基础优化、扩展优化和布局与内存优化,旨在提高计算效率。基础优化涵盖常量折叠、冗余节点消除、算子融合、算子替换和算子前移等技术。这些技术通过减少不必要的计算和内存访问,提高模型的执行效率。文章还探讨了AI框架和推理引擎在图优化中的应用差异,为深度学习模型的优化提供了全面的指导。
36 5
【AI系统】离线图优化技术
|
3天前
|
人工智能 大数据 测试技术
自主和开放并举 探索下一代阿里云AI基础设施固件创新
12月13日,固件产业技术创新联盟产业峰会在杭州举行,阿里云主导的开源固件测试平台发布和PCIe Switch固件技术亮相,成为会议焦点。
|
4天前
|
机器学习/深度学习 传感器 人工智能
AI视频监控系统在养老院中的技术实现
AI视频监控系统在养老院的应用,结合了计算机视觉、深度学习和传感器融合技术,实现了对老人体征、摔倒和异常行为的实时监控与分析。系统通过高清摄像头和算法模型,能够准确识别老人的动作和健康状况,并及时向护理人员发出警报,提高护理质量和安全性。
35 14
|
5天前
|
传感器 机器学习/深度学习 人工智能
AI视频监控卫士技术介绍:智能化河道管理解决方案
AI视频监控卫士系统,通过高清摄像头、智能传感器和深度学习技术,实现河道、水库、城市水务及生态保护区的全天候、全覆盖智能监控。系统能够自动识别非法行为、水质变化和异常情况,并实时生成警报,提升管理效率和精准度。
37 13
|
3天前
|
存储 人工智能 运维
AI-Native的路要怎么走?一群技术“老炮儿”指明了方向
上世纪70年代,沃兹尼亚克、乔布斯等人成立Homebrew Computer Club,推动个人电脑普及。如今,创原会承袭这一精神,由CNCF执行董事Priyanka Sharma等构建,聚焦云原生和AI技术,汇聚各行业技术骨干,探索前沿科技。2024年创原会年度峰会达成“全面拥抱AI-Native”共识,解决算力与存储瓶颈,推动AI原生应用开发,助力千行万业智能化转型,成为行业创新风向标。