“AI Infra先进散热研讨会”召开,10项成果研究立项

简介: “AI Infra先进散热研讨会”召开,10项成果研究立项


5月15日,“浸没液冷智算产业发展论坛·AI Infra先进散热研讨会”在北京顺利召开,来自中国信通院、阿里云、OPPO、Intel、NVIDIA、AMD等多家单位的专家到场,围绕AI大模型迅速崛起下的算力和基础设施散热关键问题分享议题。阿里云基础设施高级技术经理李越主持会议。



论坛执行主任、阿里云基础设施服务器研发总监文芳志发表致辞,他表示液冷技术是解决AI基础设施散热压力和节能挑战的必由之路。浸没液冷智算产业发展论坛成立的初衷,亦是联合液冷行业力量,围绕浸没液冷产业现状与趋势、先进技术以及应用实践等方面开展研究,推动AI基础设施绿色发展进程。


主题分享


在主题分享环节,中国信通院云大所数据中心部副主任谢丽娜结合“东数西算”等国家政策背景,介绍了算力基础设施产业发展现状和未来趋势;阿里云基础设施服务器产品总监王伟介绍了AI模型发展现状,剖析了AI模型发展对AI Infra的需求变化;OPPO AI算力架构师夏忠谋分享了A100训练计算集群设计思路,强调了浸没液冷AI计算集群的技术优势;Intel人工智能解决方案架构师赵亮基于Intel实践,分享了新时代下面向大模型算力的创新解决方案;阿里云服务器研发资深技术专家钟杨帆结合芯片功率密度提升带来的功耗提升问题,介绍了新一代磐久浸没液冷服务器集群设计方向;NVIDIA系统SA经理路川介绍了大模型对算力系统的挑战,并生动描绘了NVIDIA DGX计算平台发展历程;AMD资深散热结构工程师曹士彧介绍了AMD关于液冷技术的最新研究成果,分享了AMD的液冷实践案例。



分论坛


在“AI 基础设施技术方案、路标研讨”分论坛,多位专家结合企业先进产品或解决方案发表了精彩演讲。登临科技首席架构师王平结合大模型及生成式AI的发展背景,介绍了登临科技在浸没液冷领域的创新实践;浙江巨化技术中心有限公司副总经理雷志刚基于浙江巨化的实践经验,分享了含氟新型液冷热管理材料的研究进展;浙江诺亚副总经理、电子材料研究院副院长陈爱民介绍了浸没液冷材料的性能需求,总结了浸没式液冷冷却液高效环保的发展思路;工业富联资深散热架构师张楠基于AI服务器的发展现状和液冷技术优势,分享了浸没液冷服务器设计思考。在圆桌讨论环节,阿里云基础设施资深技术专家吴灵熙、OPPO基础设施总监夏忠谋、矩向科技首席执行官黄朝波、阿里云基础设施事业群服务器产品架构总监王伟、登临科技首席架构师王平、NVIDIA 系统SA经理路川、益企研究院创始人张广彬共同探讨了AI Infra未来可持续发展所面临的机遇与挑战。



会议最后,多位专家围绕液冷标准、规范、白皮书立项问题展开热烈研讨。阿里云资深技术专家钟杨帆、阿里云高级技术专家刘丹、阿里云高级技术专家练恒、阿里云高级技术专家李小鹏、杭州云电科技能源有限公司工程师陶领、OPPO的数据中心工程师孔庆一分别介绍了氟化液稳定性测试、混压PCB设计验证、油类冷却液验证等10个新项目立项,正式拉开下阶段论坛成果研究序幕。



在ChatGPT4.0为代表的AIGC应用发展驱动下,智能算力规模还将高速扩张,大量AI算力需求被引发的同时也将带来散热挑战。此次研讨会上,与会者达成共识:单相浸没式液冷是应对当前及未来AI Infra散热需求的最佳方案之一。ODCC浸没液冷智算产业发展论坛将高度关注AI应用创新对AI Infra高能耗和高密度的可持续发展需求,围绕浸没液冷等前沿技术,联合业界开展更加深入的交流和研究,欢迎更多产业同仁加入!


↓↓ 更多精彩现场 ↓↓


我们是阿里巴巴云计算和大数据技术幕后的核心技术输出者。

欢迎关注 “阿里云基础设施”同名微博知乎

获取关于我们的更多信息~

相关文章
|
2月前
|
机器学习/深度学习 人工智能
打开AI黑匣子,三段式AI用于化学研究,优化分子同时产生新化学知识,登Nature
【10月更文挑战第11天】《自然》杂志发表了一项突破性的化学研究,介绍了一种名为“Closed-loop transfer”的AI技术。该技术通过数据生成、模型训练和实验验证三个阶段,不仅优化了分子结构,提高了光稳定性等性质,还发现了新的化学现象,为化学研究提供了新思路。此技术的应用加速了新材料的开发,展示了AI在解决复杂科学问题上的巨大潜力。
38 1
|
5天前
|
机器学习/深度学习 人工智能 自然语言处理
AI自己长出了类似大脑的脑叶?新研究揭示LLM特征的惊人几何结构
近年来,大型语言模型(LLM)的内部运作机制备受关注。麻省理工学院的研究人员在论文《The Geometry of Concepts: Sparse Autoencoder Feature Structure》中,利用稀疏自编码器(SAE)分析LLM的激活空间,揭示了其丰富的几何结构。研究发现,特征在原子、大脑和星系三个尺度上展现出不同的结构,包括晶体结构、中尺度模块化结构和大尺度点云结构。这些发现不仅有助于理解LLM的工作原理,还可能对模型优化和其他领域产生重要影响。
46 25
|
25天前
|
人工智能 开发者
人类自身都对不齐,怎么对齐AI?新研究全面审视偏好在AI对齐中的作用
论文《AI对齐中的超越偏好》挑战了偏好主义AI对齐方法,指出偏好无法全面代表人类价值观,存在冲突和变化,并受社会影响。文章提出基于角色的对齐方案,强调AI应与其社会角色相关的规范标准一致,而非仅关注个人偏好,旨在实现更稳定、适用性更广且更符合社会利益的AI对齐。论文链接:https://arxiv.org/pdf/2408.16984
33 2
|
1月前
|
人工智能 知识图谱
成熟的AI要学会自己搞研究!MIT推出科研特工
MIT推出科研特工SciAgents,结合生成式AI、本体表示和多代理建模,实现科学发现的自动化。通过大规模知识图谱和多代理系统,SciAgents能探索新领域、识别复杂模式,加速新材料发现,展现跨学科创新潜力。
43 12
|
1月前
|
机器学习/深度学习 人工智能 算法
基于AI的性能优化技术研究
基于AI的性能优化技术研究
|
2月前
|
数据采集 人工智能 安全
CIO面临更快交付AI成果的压力
CIO面临更快交付AI成果的压力
|
2月前
|
人工智能 自然语言处理
召唤100多位学者打分,斯坦福新研究:AI科学家创新确实强
【10月更文挑战第6天】斯坦福大学最新研究评估了大型语言模型(LLMs)在生成新颖研究想法方面的能力,通过100多位NLP专家盲评LLMs与人类研究人员提出的想法。结果显示,LLMs在新颖性方面超越人类(p < 0.05),但在可行性上略逊一筹。研究揭示了LLMs作为科研工具的潜力与挑战,并提出了进一步验证其实际效果的设计。论文详见:https://arxiv.org/abs/2409.04109。
48 6
|
2月前
|
人工智能 自然语言处理 机器人
MIT新研究揭秘AI洗脑术!AI聊天诱导人类编造记忆,真假难辨
麻省理工学院的一项新研究《基于大型语言模型的对话式AI在证人访谈中加剧虚假记忆》显示,使用生成式聊天机器人进行犯罪证人访谈会显著增加参与者的虚假记忆,且影响持久。研究设置了对照组、问卷访谈、预设脚本及生成式聊天机器人四种条件,结果显示生成式聊天机器人诱导的虚假记忆数量远超其他方法。尽管AI技术在效率和准确性方面潜力巨大,但在敏感领域需谨慎应用,并需进一步评估风险,制定伦理准则和监管措施。论文详细内容见[这里](https://arxiv.org/abs/2408.04681)。
57 2
|
2月前
|
人工智能 运维 关系型数据库
携手UALink,阿里云磐久AI Infra 2.0服务器亮相2024 OCP全球峰会
阿里云服务器研发受邀和UALink联盟一起,在OCP全球峰会上重点阐述AI服务器Scale UP互连技术领域发展趋势
|
3月前
|
存储 人工智能 JavaScript
根据Accenture的研究,CEO和CFO谈论AI和GenAI是有原因的
数字化转型与当前GenAI领导者之间的关键区别在于,CEO和CFO(而非CIO)似乎参与了指导AI投资的过程。例如,Accenture在2024年1月报告称,到2023年底,在财报电话会议中提到AI的次数几乎达到4万次,因为C级领导层正在为“重大技术变革”做好准备
46 1
下一篇
DataWorks