昇腾NPU上基于MindIE服务的AIME和MATH500测评方案
本文介绍了基于MindIE服务和lighteval工具对DeepSeek-R1类模型进行能力测评的方法。针对AIME 2024、AIME 2025、MATH-500和GPQA等数据集，通过在Atlas 800I A2硬件上部署MindIE服务，结合开源项目Open R1的评测方法完成测评。主要内容包括模型权重下载、MindIE服务化部署、lighteval安装与配置，以及使用openai模式进行测评的具体步骤。最终展示了AIME 2024和MATH-500的测评结果，并对比了DeepSeek官方数据。该方案适合需要准确评估带推理思维链模型性能的场景。
《大模型背后的隐形战场：异构计算调度全解析》
在大模型训练中，CPU、GPU和AI芯片各司其职：CPU擅长逻辑控制，GPU专攻并行计算，AI芯片则针对特定AI任务优化。然而，实现三者的高效协同面临诸多挑战，如任务分配、通信延迟及资源管理等问题。通过动态任务分配、通信优化与资源调整等策略，可提升训练效率。未来，随着硬件进步和算法智能化，异构计算协同调度将更加高效，并结合云计算、边缘计算等技术拓展应用范围，推动人工智能技术发展。
《揭秘Mojo：如何用Python语法外壳包裹C级速度内核》
Python虽是AI开发首选语言，但在大规模计算和AI芯片优化中存在效率短板。C语言虽高效但开发复杂度高。Mojo作为Python超集，兼容其语法并引入C级执行速度，通过编译优化、内存管理改进及硬件抽象层支持，大幅提升AI芯片性能。在神经网络训练与实时推理场景中，Mojo显著缩短时间、降低延迟，为AI开发者提供强大工具，展现广阔前景。
NPU适配推荐系统GR模型流程
本示例将开源Generative Recommendations模型迁移至NPU训练，并通过HSTU融合算子优化性能。基于Atlas 800T A2平台，使用PyTorch 2.1.0、Python 3.11.0等环境。文档涵盖容器启动、依赖安装、算子适配、源码修改、数据预处理及配置文件设置等内容。性能测试显示，使用HSTU融合算子可显著降低端到端耗时（如ml_1m数据集单step从346ms降至47.6ms）。
昇腾910-PyTorch 实现 Vggnet图像分类
本实验基于昇腾平台，使用PyTorch实现Vggnet模型对CIFAR10数据集进行图像分类。内容涵盖Vggnet模型创新点（小卷积核堆叠、深层网络结构）、网络架构剖析及代码实战分析。通过定义`blockVGG`函数构建卷积块，实现VGG11网络，并结合数据预处理、训练与测试模块完成分类任务。实验展示了深度学习中增加网络深度对性能提升的重要性。
基于Pytorch Gemotric在昇腾上实现GraphSage图神经网络
本实验基于PyTorch Geometric，在昇腾平台上实现GraphSAGE图神经网络，使用CiteSeer数据集进行分类训练。内容涵盖GraphSAGE的创新点、算法原理、网络架构及实战分析。GraphSAGE通过采样和聚合节点邻居特征，支持归纳式学习，适用于未见节点的表征生成。实验包括模型搭建、训练与验证，并在NPU上运行，最终测试准确率达0.665。
基于昇腾用PyTorch实现CTR模型DIN（Deep interest Netwok）网络
本文详细讲解了如何在昇腾平台上使用PyTorch训练推荐系统中的经典模型DIN（Deep Interest Network）。主要内容包括：DIN网络的创新点与架构剖析、Activation Unit和Attention模块的实现、Amazon-book数据集的介绍与预处理、模型训练过程定义及性能评估。通过实战演示，利用Amazon-book数据集训练DIN模型，最终评估其点击率预测性能。文中还提供了代码示例，帮助读者更好地理解每个步骤的实现细节。
基于Pytorch Gemotric在昇腾上实现GAT图神经网络
本实验基于昇腾平台，使用PyTorch实现图神经网络GAT（Graph Attention Networks）在Pubmed数据集上的分类任务。内容涵盖GAT网络的创新点分析、图注意力机制原理、多头注意力机制详解以及模型代码实战。实验通过两层GAT网络对Pubmed数据集进行训练，验证模型性能，并展示NPU上的内存使用情况。最终，模型在测试集上达到约36.60%的准确率。
基于Pytorch 在昇腾上实现GCN图神经网络
本文详细讲解了如何在昇腾平台上使用PyTorch实现图神经网络（GCN）对Cora数据集进行分类训练。内容涵盖GCN背景、模型特点、网络架构剖析及实战分析。GCN通过聚合邻居节点信息实现“卷积”操作，适用于非欧氏结构数据。文章以两层GCN模型为例，结合Cora数据集（2708篇科学出版物，1433个特征，7种类别），展示了从数据加载到模型训练的完整流程。实验在NPU上运行，设置200个epoch，最终测试准确率达0.8040，内存占用约167M。
智创 AI 新视界 -- 提升 AI 推理速度的高级方法（16 - 2）
本文深度聚焦提升 AI 推理速度，全面阐述模型压缩（低秩分解、参数量化）、硬件加速（GPU、TPU）及推理算法优化（剪枝感知推理、动态批处理）。结合图像识别等多领域案例与丰富代码示例，以生动形象且专业严谨的方式，为 AI 从业者提供极具价值的技术指南，助力突破 AI 推理速度瓶颈，实现系统性能跃升。