AMD Ryzen AI Max+ 395四机并联：大语言模型集群推理深度测试
本文介绍了使用四块Framework主板构建AI推理集群的过程，并基于AMD Ryzen AI Max+ 395处理器进行大语言模型推理性能评估。集群支持CPU、GPU及混合推理，配合Beowulf AI Cluster工具实现快速部署。测试涵盖单节点性能、能效比、网络与GPU加速表现，重点分析并行推理能力及现有开源工具的适用性与局限性。
JAX快速上手：从NumPy到GPU加速的Python高性能计算库入门教程
JAX是Google开发的高性能数值计算库，旨在解决NumPy在现代计算需求下的局限性。它不仅兼容NumPy的API，还引入了自动微分、GPU/TPU加速和即时编译（JIT）等关键功能，显著提升了计算效率。JAX适用于机器学习、科学模拟等需要大规模计算和梯度优化的场景，为Python在高性能计算领域开辟了新路径。
了解集合通信与模型并行策略
了解集合通信基础概念及常见的集合通信原语；以及大模型并行策略：包括数据并行、流水并行、张量并行和专家并行。
大模型推理显存和计算量估计方法
最近做吞吐量调试涉及到输入batch_size的设置，为了把算力和显存用起来，同时不触发out of memory，需要提前估计大模型推理过程中的显存占用
昇腾AI4S图机器学习：DGL消息传递接口的PyG替换
DGL (Deep Graph Learning) 和 PyG (Pytorch Geometric) 是两个主流的图神经网络库，它们在API设计和底层实现上有一定差异，在不同场景下，研究人员会使用不同的依赖库，昇腾NPU对PyG图机器学习库的支持亲和度更高，因此有些时候需要做DGL接口的PyG替换。
OpenFold2.0 基于NPU的推理适配与测试
本教程详细介绍了 OpenFold 的环境搭建、代码部署、依赖安装、数据集准备及推理测试全流程。首先通过 Anaconda 创建 Python3.9 环境并配置相关库，接着克隆 OpenFold 代码仓库并安装必要依赖（如 PyTorch、dllogger、hhsuite 等）。随后准备 PDB 数据集与模型参数，调整脚本路径以适配运行环境。最后执行推理脚本完成测试，并针对常见报错提供了解决方案，例如更新 NumPy、SciPy 或调整 GPU 配置等，确保流程顺利运行。
昇腾AI4S图机器学习：DGL图构建接口的PyG替换
本文探讨了在图神经网络中将DGL接口替换为PyG实现的方法，重点以RFdiffusion蛋白质设计模型中的SE3Transformer为例。SE3Transformer通过SE(3)等变性提取三维几何特征，其图构建部分依赖DGL接口。文章详细介绍了两个关键函数的替换：`make_full_graph` 和 `make_topk_graph`。前者构建完全连接图，后者生成k近邻图。通过PyG的高效实现（如`knn_graph`），我们简化了图结构创建过程，并调整边特征处理逻辑以兼容不同框架，从而更好地支持昇腾NPU等硬件环境。此方法为跨库迁移提供了实用参考。