AI时代云基础设施的技术创新与展望丨ODCC2023

简介: AI时代云基础设施的技术创新与展望丨ODCC2023

【阅读原文】戳:AI时代云基础设施的技术创新与展望丨ODCC2023


由开放数据中心委员会(简称“ODCC”)主办,阿里巴巴、腾讯、百度、中国电信、中国移动、中国信息通信研究院(简称“中国信通院”)、美团、京东等承办的“2023开放数据中心大会”在北京举办,阿里云智能基础设施事业部总经理周明及相关技术专家受邀参会。2023年被认为是通用人工智能(Artificial General Intelligence,AGI)的元年,相关技术和应用的发展正在对云基础设施行业产生影响,作为全球领先的云计算及人工智能科技公司,阿里云在“2023开放数据中心大会”分享相关的思考实践,以及对未来的展望。


全新一代AI时代云基础设施:高算力密度,高线性扩展


阿里云智能基础设施事业部总经理周明在大会主论坛进行主题分享《再出发:面向AI时代的云基础设施》,周明先生认为,以大模型为代表的技术和应用正在快速发展,带来了全新的业务负载特征,大模型需要更高的算力密度,同时计算性能需要线性扩展,为数据中心网络带宽、网络架构、网络性能、I/O性能、电力密度、散热效率、监控运维等一系列问题,因此云基础设施需要进行全面重构。阿里云推出的智能计算集群灵骏可以实现10万卡规模横向扩展,单个任务最大可调度上万张计算卡,能够为万亿级参数的模型提供服务,该集群基于最新的一代AI集群网络HPN 7.0实现。


图丨阿里云智能基础设施事业部-总经理 周明


可预期网络,AI规模和扩展性的密码


阿里云智能基础设施事业部-灵骏智能计算集群负责人王超在网络论坛分享了《AI Infra网络设计及思考》,AI时代到来后,高性能网络的话题逐渐趋热,王超先生认为,除了计算卡之外,高性能网络技术是AI模型规模和扩展性的密码,虽然短期内需要解决规模提升带来的一系列问题,但是问题背后是行业的巨大发展机遇,与传统“尽力而为”的网络不同,AI时代需要可用性、性能“可预期”的网络,HPN 7.0正是阿里云在这个方向上的实践,通过端网融合的技术思想,以自研软硬件在路径选择、流量控制、故障恢复和监控、网络拓扑和架构等维度进行攻关,并且开展了规模化的可预期网络技术产品实践。


图丨HPN 7.0:新一代AI集群网络架构


数据中心智能运维系统,大幅提升数据中心供电稳定性


阿里云智能基础设施事业部-高级技术专家刘国良在智能运营分论坛分享了《数据中心供电仿真系统及其应用》,数据中心的供电系统需给IT设备提供7*24不间断的电力供应,在供电架构中使用了大量的冗余、备自投等设计,这些设计增加了系统的稳定性和健壮性,同时也使系统的复杂性成倍增加。刘国良先生认为在这种背景下如何利用数字化技术解决应急过程中故障快速定位、变更早期风险识别和过程管控、演练如何有效提升人员技能等是迫切需要解决的难题。阿里云研发的数据中心智能运维系统将数据中心电力设备实时监控、电力系统拓扑、电力仿真系统、变更管理及事件应急结合到一起,并有效解决上述难题,使得数据中心的稳定性大幅提升。


图丨阿里云智能基础设施事业部-高级技术专家 刘国良


蓄电池智能诊断,大幅度提升运维效率


阿里云智能基础设施事业部-高级技术专家刘巍在智能运营分论坛分享了《数据中心蓄电池智能诊断与运维技术》,刘巍先生认为目前数据中心电池运维,过度依赖于现场检查的精细度、频次,但仍然无法准确预测电池的性能。通过引入智能诊断和运维手段,可以对铅酸电池进行均充、放电、浮充全状态的异常分析&故障识别,可对放电异常&亚健康、内阻偏高异常等进行预测。以上智能诊断手段结合智能告警、异常识别、均充提醒等,有效减少运维人员的工作量。通过电池状态预测、内短路检测、故障报警和下行控制等模块也可实现锂电池系统的智能化诊断与运维。


图丨阿里云智能基础设施事业部-高级技术专家 刘巍


业界领先的液冷技术储备,为AI算力可持续发展提供路径


阿里云智能基础设施事业部-资深技术专家钟杨帆在液冷创新实践论坛分享了《绿色液冷技术推动AI算力可持续发展》,他在演讲中提到,在ChatGPT为代表的AI大模型迅速崛起,各类生成式人工智能应用的涌现式爆发,引发智能算力需求剧增,同时也带来能耗和散热需求的突发暴涨。作为全球领先的云计算及人工智能(Artificial Intelligence,AI)科技公司,阿里云一直致力于探索不同技术方案,不遗余力地寻求创新与突破,在液冷技术研究方面迈入行业前列,并通过与合作伙伴多年以来开展的产品与技术合作,打造出领先的解决方案,实现了落地应用。在碳达峰、碳中和等节能环保政策的推动下,以先进散热技术构建可持续的绿色算力输出,已成为更多数据中心孜孜以求的目标。


刷新服务器模块化技术规范,助力供应链提效


阿里云智能基础设施事业部-服务器硬件技术专家贺永宝在服务器技术论坛分享了《OSSP主板技术规范和Riser cable技术规范发布及解读》。OSSP(Open Server Standardization Project)项目是由阿里巴巴、美团和英特尔在ODCC联合发起的服务器开放项目。OSSP项目借鉴了PC“攒机”的理念,期望在服务器领域能够打造标准化模块化的服务器部件,适用于不同的服务器机型和不同的服务器用户,获得规模化成本收益和可供应性安全保障。此次发布的《OSSP主板技术规范2.0》以模块化和标准化为核心理念,主板仅保留CPU、内存和BMC三大核心功能组件,最大限度满足主板在服务器机箱内的灵活应用,为实现OSSP主板规模化应用奠定基础。同时发布的《OSSP Riser cable技术规范》,将riser pcb归一为单一形态,通过pcb焊接cable的方式,减短高速信号转接链路,SI性能提升,与主板及扩展卡连接更加灵活,实现服务器前、后出线架构兼容,为Risercable的低成本规模化供应奠定基础。


图丨阿里云智能基础设施事业部-服务器硬件技术专家 贺永宝


荣获多项ODCC十周年特别奖项


阿里云主导的《数据中心运维机器人技术白皮书项目》、网络开放项目《S³IP项目》获评ODCC十周年卓越项目奖,《下一代数据中心高速铜缆技术项目》、云服务器方升架构获评ODCC十周年杰出项目奖,IDC《电力仿真系统及其应用白皮书》获得ODCC优秀项目奖,阿里云智能基础设施事业部陈亮、贺永宝、刘丹、刘巍、任华华和钟杨帆分获ODCC优秀项目经理奖。


作为开放数据中心委员会(ODCC)的十周年庆典,本次大会汇聚了众多行业专家和领导者,共同探讨数据中心和人工智能领域的最新技术发展和产业趋势,阿里云展示了云基础设施方面的领先实力和创新成果,包括数据中心可预期网络、数据中心供电仿真系统、蓄电池智能诊断、液冷技术以及服务器模块化技术规范等多个方面;此外为了肯定持续的技术创新和行业贡献,在本次大会上阿里云被授予多项荣誉。作为ODCC的重要合作伙伴,阿里云将继续秉持开放、合作、创新、共赢的精神,并与产业同仁一起,共同推动云计算和人工智能技术的发展,为全球经济和社会发展作出更大贡献。

目录
打赏
0
0
0
0
235
分享
相关文章
生成AI的两大范式:扩散模型与Flow Matching的理论基础与技术比较
本文系统对比了扩散模型与Flow Matching两种生成模型技术。扩散模型通过逐步添加噪声再逆转过程生成数据,类比为沙堡的侵蚀与重建;Flow Matching构建分布间连续路径的速度场,如同矢量导航系统。两者在数学原理、训练动态及应用上各有优劣:扩散模型适合复杂数据,Flow Matching采样效率更高。文章结合实例解析两者的差异与联系,并探讨其在图像、音频等领域的实际应用,为生成建模提供了全面视角。
37 1
Lindorm作为AI搜索基础设施,助力Kimi智能助手升级搜索体验
月之暗面旗下的Kimi智能助手在PC网页、手机APP、小程序等全平台的月度活跃用户已超过3600万。Kimi发布一年多以来不断进化,在搜索场景推出的探索版引入了搜索意图增强、信源分析和链式思考等三大推理能力,可以帮助用户解决更复杂的搜索、调研问题。Lindorm作为一站式数据平台,覆盖数据处理全链路,集成了离线批处理、在线分析、AI推理、融合检索(正排、倒排、全文、向量......)等多项服务,支持Kimi快速构建AI搜索基础设施,显著提升检索效果,并有效应对业务快速发展带来的数据规模膨胀和成本增长。
QwQ-32B为襄阳职业技术学院拥抱强化学习的AI力量
信息技术学院大数据专业学生团队与UNHub平台合作,利用QwQ-32B模型开启AI教育新范式。通过强化学习驱动,构建职业教育智能化实践平台,支持从算法开发到应用的全链路教学。QwQ-32B具备320亿参数,优化数学、编程及复杂逻辑任务处理能力,提供智能教学助手、科研加速器和产教融合桥梁等应用场景,推动职业教育模式创新。项目已进入关键训练阶段,计划于2025年夏季上线公测。
73 10
QwQ-32B为襄阳职业技术学院拥抱强化学习的AI力量
健康监测设备的技术革命:AI+物联网如何让你随时掌握健康数据?
健康监测设备的技术革命:AI+物联网如何让你随时掌握健康数据?
55 19
AI技术如何重塑客服系统?解析合力亿捷AI智能客服系统实践案例
本文探讨了人工智能技术在客服系统中的应用,涵盖技术架构、关键技术和优化策略。通过感知层、认知层、决策层和执行层的协同工作,结合自然语言处理、知识库构建和多模态交互技术,合力亿捷客服系统实现了智能化服务。文章还提出了用户体验优化、服务质量提升和系统性能改进的方法,并展望了未来发展方向,强调其在客户服务领域的核心价值与潜力。
38 6
AI人流热力图分析监测技术
通过深度学习算法(如CSRNet)进行实时密度估算和热力图生成,结合历史数据分析预测高峰时段,优化人员调度与促销活动。采用边缘计算减少延迟,确保实时响应,并通过数据可视化工具提升管理决策效率。
101 24
AI-Infra-Guard:腾讯开源AI基础设施安全评估神器,一键扫描漏洞
AI-Infra-Guard 是腾讯开源的高效、轻量级 AI 基础设施安全评估工具,支持 28 种 AI 框架指纹识别和 200 多个安全漏洞数据库,帮助用户快速检测和修复 AI 系统中的安全风险。
169 7
PySpur:零代码构建AI工作流!开源可视化拖拽平台,支持多模态与RAG技术
PySpur 是一款开源的轻量级可视化 AI 智能体工作流构建器,支持拖拽式界面,帮助用户快速构建、测试和迭代 AI 工作流,无需编写复杂代码。它支持多模态数据处理、RAG 技术、文件上传、结构化输出等功能,适合非技术背景的用户和开发者快速上手。
171 5
阿里云设计中心携手金鸡电影节青年创作人,用AI技术加速电影工业升级
阿里云设计中心携手金鸡电影节青年创作人,用AI技术加速电影工业升级
阿里云AI技术亮相春晚!独家揭秘背后的故事!
阿里云AI技术亮相春晚!独家揭秘背后的故事!

热门文章

最新文章