为什么感觉欧美AI比我们强？
本文介绍了电视机、电脑、手机、原子弹和飞机等重要发明的起源，其中大部分发明均源自美国。文中还探讨了中美在AI领域的竞争，指出美国在创新方面领先，而中国则在规模化生产和应用方面表现出色。尽管存在差距，但中国在算力、算法、数据和人才等方面持续加大投入，逐渐缩小与美国的差距。
基于Pytorch Gemotric在昇腾上实现GraphSage图神经网络
本文详细介绍了如何在昇腾平台上使用PyTorch实现GraphSage算法，在CiteSeer数据集上进行图神经网络的分类训练。内容涵盖GraphSage的创新点、算法原理、网络架构及实战代码分析，通过采样和聚合方法高效处理大规模图数据。实验结果显示，模型在CiteSeer数据集上的分类准确率达到66.5%。
【AI系统】完全分片数据并行 FSDP
本文深入探讨了AI框架中针对权重数据、优化器数据和梯度数据的分布式并行实现，特别是在PyTorch框架下的具体方案。文章首先回顾了通用数据并行和分布式数据并行的概念，重点讨论了同步与异步数据并行的差异。接着，文章详细介绍了如何在PyTorch中实现弹性数据并行，特别是完全分片数据并行（FSDP）的机制，包括其如何通过分片模型状态和剩余状态来减少内存消耗，提高训练效率。此外，文章还探讨了混合精度训练、损失缩放和内存消耗估算等关键技术，为理解和实施高效的分布式训练提供了全面的指导。
【AI系统】张量并行
在大模型训练中，单个设备难以满足需求，模型并行技术应运而生。其中，张量并行（Tensor Parallelism, TP）将模型内部的参数和计算任务拆分到不同设备上，特别适用于大规模模型。本文介绍了张量并行的基本概念、实现方法及其在矩阵乘法、Transformer、Embedding和Cross Entropy Loss等场景中的应用，以及通过PyTorch DeviceMesh实现TP的具体步骤。
【AI系统】数据并行
数据并行是一种在分布式AI系统中广泛应用的技术，通过将数据集划分成多个子集并在不同计算节点上并行处理，以提高计算效率和速度。在大规模机器学习和深度学习训练中，数据并行可以显著加快模型训练速度，减少训练时间，提升模型性能。每个计算节点接收完整的模型副本，但处理不同的数据子集，从而分摊计算任务，提高处理速度和效率。数据并行按同步方式可分为同步数据并行和异步数据并行，按实现方式包括数据并行、分布式数据并行、完全分片的数据并行等。其中，分布式数据并行（DDP）是当前应用最广泛的并行算法之一，通过高效的梯度聚合和参数同步机制，确保模型一致性，适用于大型NPU集群和AI系统。
《跨越平台壁垒：C++ 人工智能模型在移动设备的部署之路》
在AI技术蓬勃发展的今天，C++因其卓越性能和高效资源利用，在AI模型开发中占据重要地位。将C++实现的AI模型部署至移动设备，实现快速响应与离线运行，成为当前技术热点。本文探讨了C++模型在移动设备上的部署挑战与解决方案，包括模型优化、跨平台适配、硬件加速及性能调试，展望了未来移动AI应用的广阔前景。
GenCast：谷歌DeepMind推出的AI气象预测模型
GenCast是由谷歌DeepMind推出的革命性AI气象预测模型，基于扩散模型技术，提供长达15天的全球天气预报。该模型在97.2%的预测任务中超越了全球顶尖的中期天气预报系统ENS，尤其在极端天气事件的预测上表现突出。GenCast能在8分钟内生成预报，显著提高预测效率，并且已经开源，包括代码和模型权重，支持更广泛的天气预报社区和研究。
【AI系统】指令和存储优化
在AI编译器底层，除了广泛应用的循环优化外，还存在指令优化和存储优化两大类。指令优化通过利用硬件提供的特殊加速指令，如向量化和张量化，提高计算效率；存储优化则关注如何高效管理数据存储与访问，减少延迟，提高整体计算效率。这些技术共同作用，极大提升了AI系统的性能。
AscendC从入门到精通系列（二）基于Kernel直调开发AscendC算子
本文介绍了AscendC算子的开发流程，包括核函数开发、算子类定义及其实现、核函数的CPU和NPU侧运行验证。通过具体示例`add_custom.cpp`，详细展示了如何使用Ascend C完成算子核函数的定义、初始化、数据搬运和计算过程，并提供了完整的CPU和NPU侧调用程序代码，帮助开发者理解和实践AscendC算子的开发。
如何使用Ascend的ATB加速库？
ATB加速库专为Transformer模型优化设计，基于华为Ascend AI处理器，提升训练和推理效率。本文档详细介绍了如何实现一个ATB算子，涵盖基础Operation、插件机制和Graph Frame三种方式，从环境准备、算子创建、资源管理到最终执行，提供了完整的代码示例和步骤指南，帮助开发者快速掌握ATB算子的开发流程。