天天都在说的“算力”到底是个啥？一文全讲透！
算力是数字经济发展的重要支撑，尤其在AI和大数据应用中起着关键作用。阿里云致力于构建全球领先的算力基础设施，助力各行业数字化转型。吴泳铭和马云均强调了算力在未来科技竞争中的核心地位。2023年底，我国算力总规模达230EFLOPS，位居全球第二。算力分为通用、智能和超算算力，广泛应用于人工智能训练与推理等场景。中国正加速建设智算中心，推动算力产业链发展，并注重绿色低碳和智能运维，以应对日益增长的计算需求。
为什么感觉欧美AI比我们强？
本文介绍了电视机、电脑、手机、原子弹和飞机等重要发明的起源，其中大部分发明均源自美国。文中还探讨了中美在AI领域的竞争，指出美国在创新方面领先，而中国则在规模化生产和应用方面表现出色。尽管存在差距，但中国在算力、算法、数据和人才等方面持续加大投入，逐渐缩小与美国的差距。
基于Pytorch Gemotric在昇腾上实现GraphSage图神经网络
本文详细介绍了如何在昇腾平台上使用PyTorch实现GraphSage算法，在CiteSeer数据集上进行图神经网络的分类训练。内容涵盖GraphSage的创新点、算法原理、网络架构及实战代码分析，通过采样和聚合方法高效处理大规模图数据。实验结果显示，模型在CiteSeer数据集上的分类准确率达到66.5%。
【AI系统】完全分片数据并行 FSDP
本文深入探讨了AI框架中针对权重数据、优化器数据和梯度数据的分布式并行实现，特别是在PyTorch框架下的具体方案。文章首先回顾了通用数据并行和分布式数据并行的概念，重点讨论了同步与异步数据并行的差异。接着，文章详细介绍了如何在PyTorch中实现弹性数据并行，特别是完全分片数据并行（FSDP）的机制，包括其如何通过分片模型状态和剩余状态来减少内存消耗，提高训练效率。此外，文章还探讨了混合精度训练、损失缩放和内存消耗估算等关键技术，为理解和实施高效的分布式训练提供了全面的指导。
【AI系统】张量并行
在大模型训练中，单个设备难以满足需求，模型并行技术应运而生。其中，张量并行（Tensor Parallelism, TP）将模型内部的参数和计算任务拆分到不同设备上，特别适用于大规模模型。本文介绍了张量并行的基本概念、实现方法及其在矩阵乘法、Transformer、Embedding和Cross Entropy Loss等场景中的应用，以及通过PyTorch DeviceMesh实现TP的具体步骤。
【AI系统】数据并行
数据并行是一种在分布式AI系统中广泛应用的技术，通过将数据集划分成多个子集并在不同计算节点上并行处理，以提高计算效率和速度。在大规模机器学习和深度学习训练中，数据并行可以显著加快模型训练速度，减少训练时间，提升模型性能。每个计算节点接收完整的模型副本，但处理不同的数据子集，从而分摊计算任务，提高处理速度和效率。数据并行按同步方式可分为同步数据并行和异步数据并行，按实现方式包括数据并行、分布式数据并行、完全分片的数据并行等。其中，分布式数据并行（DDP）是当前应用最广泛的并行算法之一，通过高效的梯度聚合和参数同步机制，确保模型一致性，适用于大型NPU集群和AI系统。
《跨越平台壁垒：C++ 人工智能模型在移动设备的部署之路》
在AI技术蓬勃发展的今天，C++因其卓越性能和高效资源利用，在AI模型开发中占据重要地位。将C++实现的AI模型部署至移动设备，实现快速响应与离线运行，成为当前技术热点。本文探讨了C++模型在移动设备上的部署挑战与解决方案，包括模型优化、跨平台适配、硬件加速及性能调试，展望了未来移动AI应用的广阔前景。
GenCast：谷歌DeepMind推出的AI气象预测模型
GenCast是由谷歌DeepMind推出的革命性AI气象预测模型，基于扩散模型技术，提供长达15天的全球天气预报。该模型在97.2%的预测任务中超越了全球顶尖的中期天气预报系统ENS，尤其在极端天气事件的预测上表现突出。GenCast能在8分钟内生成预报，显著提高预测效率，并且已经开源，包括代码和模型权重，支持更广泛的天气预报社区和研究。
【AI系统】指令和存储优化
在AI编译器底层，除了广泛应用的循环优化外，还存在指令优化和存储优化两大类。指令优化通过利用硬件提供的特殊加速指令，如向量化和张量化，提高计算效率；存储优化则关注如何高效管理数据存储与访问，减少延迟，提高整体计算效率。这些技术共同作用，极大提升了AI系统的性能。