【AI系统】数据并行
数据并行是一种在分布式AI系统中广泛应用的技术，通过将数据集划分成多个子集并在不同计算节点上并行处理，以提高计算效率和速度。在大规模机器学习和深度学习训练中，数据并行可以显著加快模型训练速度，减少训练时间，提升模型性能。每个计算节点接收完整的模型副本，但处理不同的数据子集，从而分摊计算任务，提高处理速度和效率。数据并行按同步方式可分为同步数据并行和异步数据并行，按实现方式包括数据并行、分布式数据并行、完全分片的数据并行等。其中，分布式数据并行（DDP）是当前应用最广泛的并行算法之一，通过高效的梯度聚合和参数同步机制，确保模型一致性，适用于大型NPU集群和AI系统。
《从“高温警报”到“持续冷静”：相变浸没液冷的散热逆袭之路》
相变浸没液冷技术为数据中心和人工智能计算的散热难题提供了高效解决方案。通过将设备浸没于特殊冷却液中，利用相变原理快速带走热量，实现全方位冷却。相比传统风冷和液冷，该技术显著降低设备温度、能耗和故障率，提升运行效率与空间利用率。在AI计算中，它确保芯片稳定工作，加速模型训练。尽管存在成本和技术普及等挑战，但随着技术进步，其应用前景广阔，有望推动数据中心与AI计算的进一步发展。
飞桨x昇腾生态适配方案：05_算子适配流程
本内容主要介绍Paddle针对非CPU和Nvidia GPU硬件（如NPU）的适配流程与方法。适配代码存于PaddleCustomDevice仓库，路径为`PaddleCustomDevice/backends/npu`，包含kernels（算子适配）和tests（单元测试）两个核心目录。适配流程分为算子注册、适配函数入参与主体实现三步，重点对齐Paddle与CANN算子参数。
昇腾NPU上基于MindIE服务的AIME和MATH500测评方案
本文介绍了基于MindIE服务和lighteval工具对DeepSeek-R1类模型进行能力测评的方法。针对AIME 2024、AIME 2025、MATH-500和GPQA等数据集，通过在Atlas 800I A2硬件上部署MindIE服务，结合开源项目Open R1的评测方法完成测评。主要内容包括模型权重下载、MindIE服务化部署、lighteval安装与配置，以及使用openai模式进行测评的具体步骤。最终展示了AIME 2024和MATH-500的测评结果，并对比了DeepSeek官方数据。该方案适合需要准确评估带推理思维链模型性能的场景。
阿里AI芯片含光800已大规模应用，服务城市大脑、拍立淘
在2019杭州云栖大会首日，阿里巴巴平头哥发布首颗芯片含光800，该芯片性能和能效比均为全球第一，目前已大规模应用阿里巴巴集团内部城市大脑、拍立淘等业务，与此同时，基于含光800的AI云服务也正式上线，相比传统GPU算力，性价比提升100%。
