“AI Infra先进散热研讨会”召开,10项成果研究立项

简介: “AI Infra先进散热研讨会”召开,10项成果研究立项


5月15日,“浸没液冷智算产业发展论坛·AI Infra先进散热研讨会”在北京顺利召开,来自中国信通院、阿里云、OPPO、Intel、NVIDIA、AMD等多家单位的专家到场,围绕AI大模型迅速崛起下的算力和基础设施散热关键问题分享议题。阿里云基础设施高级技术经理李越主持会议。



论坛执行主任、阿里云基础设施服务器研发总监文芳志发表致辞,他表示液冷技术是解决AI基础设施散热压力和节能挑战的必由之路。浸没液冷智算产业发展论坛成立的初衷,亦是联合液冷行业力量,围绕浸没液冷产业现状与趋势、先进技术以及应用实践等方面开展研究,推动AI基础设施绿色发展进程。


主题分享


在主题分享环节,中国信通院云大所数据中心部副主任谢丽娜结合“东数西算”等国家政策背景,介绍了算力基础设施产业发展现状和未来趋势;阿里云基础设施服务器产品总监王伟介绍了AI模型发展现状,剖析了AI模型发展对AI Infra的需求变化;OPPO AI算力架构师夏忠谋分享了A100训练计算集群设计思路,强调了浸没液冷AI计算集群的技术优势;Intel人工智能解决方案架构师赵亮基于Intel实践,分享了新时代下面向大模型算力的创新解决方案;阿里云服务器研发资深技术专家钟杨帆结合芯片功率密度提升带来的功耗提升问题,介绍了新一代磐久浸没液冷服务器集群设计方向;NVIDIA系统SA经理路川介绍了大模型对算力系统的挑战,并生动描绘了NVIDIA DGX计算平台发展历程;AMD资深散热结构工程师曹士彧介绍了AMD关于液冷技术的最新研究成果,分享了AMD的液冷实践案例。



分论坛


在“AI 基础设施技术方案、路标研讨”分论坛,多位专家结合企业先进产品或解决方案发表了精彩演讲。登临科技首席架构师王平结合大模型及生成式AI的发展背景,介绍了登临科技在浸没液冷领域的创新实践;浙江巨化技术中心有限公司副总经理雷志刚基于浙江巨化的实践经验,分享了含氟新型液冷热管理材料的研究进展;浙江诺亚副总经理、电子材料研究院副院长陈爱民介绍了浸没液冷材料的性能需求,总结了浸没式液冷冷却液高效环保的发展思路;工业富联资深散热架构师张楠基于AI服务器的发展现状和液冷技术优势,分享了浸没液冷服务器设计思考。在圆桌讨论环节,阿里云基础设施资深技术专家吴灵熙、OPPO基础设施总监夏忠谋、矩向科技首席执行官黄朝波、阿里云基础设施事业群服务器产品架构总监王伟、登临科技首席架构师王平、NVIDIA 系统SA经理路川、益企研究院创始人张广彬共同探讨了AI Infra未来可持续发展所面临的机遇与挑战。



会议最后,多位专家围绕液冷标准、规范、白皮书立项问题展开热烈研讨。阿里云资深技术专家钟杨帆、阿里云高级技术专家刘丹、阿里云高级技术专家练恒、阿里云高级技术专家李小鹏、杭州云电科技能源有限公司工程师陶领、OPPO的数据中心工程师孔庆一分别介绍了氟化液稳定性测试、混压PCB设计验证、油类冷却液验证等10个新项目立项,正式拉开下阶段论坛成果研究序幕。



在ChatGPT4.0为代表的AIGC应用发展驱动下,智能算力规模还将高速扩张,大量AI算力需求被引发的同时也将带来散热挑战。此次研讨会上,与会者达成共识:单相浸没式液冷是应对当前及未来AI Infra散热需求的最佳方案之一。ODCC浸没液冷智算产业发展论坛将高度关注AI应用创新对AI Infra高能耗和高密度的可持续发展需求,围绕浸没液冷等前沿技术,联合业界开展更加深入的交流和研究,欢迎更多产业同仁加入!


↓↓ 更多精彩现场 ↓↓


我们是阿里巴巴云计算和大数据技术幕后的核心技术输出者。

欢迎关注 “阿里云基础设施”同名微博知乎

获取关于我们的更多信息~

相关文章
|
1月前
|
人工智能 自然语言处理 算法
谷歌DeepMind研究再登Nature封面,隐形水印让AI无所遁形
近日,谷歌DeepMind团队在《自然》期刊上发表了一项名为SynthID-Text的研究成果。该方法通过引入隐形水印,为大型语言模型(LLM)生成的文本添加统计签名,从而实现AI生成文本的准确识别和追踪。SynthID-Text采用独特的Tournament采样算法,在保持文本质量的同时嵌入水印,显著提高了水印检测率。实验结果显示,该方法在多个LLM中表现出色,具有广泛的应用潜力。论文地址:https://www.nature.com/articles/s41586-024-08025-4。
76 26
|
9天前
|
人工智能 自然语言处理 API
OpenDeepResearcher:开源 AI 研究工具,自动完成搜索、评估、提取和生成报告
OpenDeepResearcher 是一款开源 AI 研究工具,支持异步处理、去重功能和 LLM 驱动的决策,帮助用户高效完成复杂的信息查询和分析任务。
142 18
OpenDeepResearcher:开源 AI 研究工具,自动完成搜索、评估、提取和生成报告
|
4月前
|
机器学习/深度学习 人工智能
打开AI黑匣子,三段式AI用于化学研究,优化分子同时产生新化学知识,登Nature
【10月更文挑战第11天】《自然》杂志发表了一项突破性的化学研究,介绍了一种名为“Closed-loop transfer”的AI技术。该技术通过数据生成、模型训练和实验验证三个阶段,不仅优化了分子结构,提高了光稳定性等性质,还发现了新的化学现象,为化学研究提供了新思路。此技术的应用加速了新材料的开发,展示了AI在解决复杂科学问题上的巨大潜力。
62 1
|
11天前
|
存储 人工智能
Scaling Law或将终结?哈佛MIT预警:低精度量化已无路可走,重磅研究掀翻AI圈
哈佛大学和麻省理工学院的研究人员最近发布了一项重磅研究,对Scaling Law在低精度量化中的应用提出严重质疑。研究表明,随着训练数据增加,低精度量化带来的性能损失也增大,且与模型大小无关。这挑战了通过增加规模提升性能的传统观点,提醒我们在追求效率时不能忽视性能损失。该研究结果在AI圈内引发广泛讨论,提示未来需探索其他方法来提高模型效率,如混合精度训练、模型压缩及新型硬件架构。论文地址:https://arxiv.org/pdf/2411.04330。
34 11
|
25天前
|
机器学习/深度学习 人工智能 算法
Transformer打破三十年数学猜想!Meta研究者用AI给出反例,算法杀手攻克数学难题
《PatternBoost: Constructions in Mathematics with a Little Help from AI》提出了一种结合传统搜索算法和Transformer神经网络的PatternBoost算法,通过局部搜索和全局优化交替进行,成功应用于组合数学问题。该算法在图论中的Ramsey数研究中找到了更小的反例,推翻了一个30年的猜想,展示了AI在数学研究中的巨大潜力,但也面临可解释性和通用性的挑战。论文地址:https://arxiv.org/abs/2411.00566
69 13
|
2月前
|
机器学习/深度学习 人工智能 自然语言处理
AI自己长出了类似大脑的脑叶?新研究揭示LLM特征的惊人几何结构
近年来,大型语言模型(LLM)的内部运作机制备受关注。麻省理工学院的研究人员在论文《The Geometry of Concepts: Sparse Autoencoder Feature Structure》中,利用稀疏自编码器(SAE)分析LLM的激活空间,揭示了其丰富的几何结构。研究发现,特征在原子、大脑和星系三个尺度上展现出不同的结构,包括晶体结构、中尺度模块化结构和大尺度点云结构。这些发现不仅有助于理解LLM的工作原理,还可能对模型优化和其他领域产生重要影响。
89 25
|
2月前
|
人工智能 资源调度 调度
云上AI Infra解锁大模型创新应用
本节课程由阿里云智能集团资深技术专家王超分享,主题为AI基础设施的发展趋势。课程聚焦于AI Infra设计与Scaling Law,探讨了下一代AI基础设施的设计目标、功能升级及推理场景中的应用。主要内容包括高效支持大规模模型训练和推理、全球调度系统的设计、Rack level的Scale优化以及多租户容器化使用方式。通过这些改进,旨在提升并行效率、资源利用率及稳定性,推动AI基础设施迈向更高性能和更优调度的新阶段。
|
3月前
|
人工智能 开发者
人类自身都对不齐,怎么对齐AI?新研究全面审视偏好在AI对齐中的作用
论文《AI对齐中的超越偏好》挑战了偏好主义AI对齐方法,指出偏好无法全面代表人类价值观,存在冲突和变化,并受社会影响。文章提出基于角色的对齐方案,强调AI应与其社会角色相关的规范标准一致,而非仅关注个人偏好,旨在实现更稳定、适用性更广且更符合社会利益的AI对齐。论文链接:https://arxiv.org/pdf/2408.16984
56 2
|
3月前
|
人工智能 知识图谱
成熟的AI要学会自己搞研究!MIT推出科研特工
MIT推出科研特工SciAgents,结合生成式AI、本体表示和多代理建模,实现科学发现的自动化。通过大规模知识图谱和多代理系统,SciAgents能探索新领域、识别复杂模式,加速新材料发现,展现跨学科创新潜力。
72 12
|
3月前
|
机器学习/深度学习 人工智能 算法
基于AI的性能优化技术研究
基于AI的性能优化技术研究

热门文章

最新文章