AMD Ryzen AI Max+ 395四机并联：大语言模型集群推理深度测试
本文介绍了使用四块Framework主板构建AI推理集群的过程，并基于AMD Ryzen AI Max+ 395处理器进行大语言模型推理性能评估。集群支持CPU、GPU及混合推理，配合Beowulf AI Cluster工具实现快速部署。测试涵盖单节点性能、能效比、网络与GPU加速表现，重点分析并行推理能力及现有开源工具的适用性与局限性。
【AI系统】寒武纪介绍
中科寒武纪科技股份有限公司，成立于2016年，致力于打造云边端一体、软硬件协同的智能芯片产品和平台化基础系统软件。寒武纪的产品线涵盖了终端智能处理器IP、边缘端和云端智能加速卡，形成了从1A处理器核到思元系列MLU100、MLU200、MLU300的完整布局。其核心技术包括高效的MLU Core架构和Cambricon Neuware软件栈，支持高性能AI计算，助力机器更好地理解和服务人类。
内部干货 | 基于华为昇腾910B算力卡的大模型部署和调优-课程讲义
近日上海，TsingtaoAI为某央企智算中心交付华为昇腾910B算力卡的大模型部署和调优课程。课程深入讲解如何在昇腾NPU上高效地训练、调优和部署PyTorch与Transformer模型，并结合实际应用场景，探索如何优化和迁移模型至昇腾NPU平台。课程涵盖从模型预训练、微调、推理与评估，到性能对比、算子适配、模型调优等一系列关键技术，帮助学员深入理解昇腾NPU的优势及其与主流深度学习框架（如PyTorch、Deepspeed、MindSpore）的结合应用。
阿里云与麒麟软件签署全面合作协议
近日，麒麟软件与阿里云签署全面合作协议。双方明确建立长期、稳定的战略合作伙伴关系，在操作系统+人工智能领域展开深度合作，共同推动信息产业技术高速发展。
NPU上运行onnxruntime
在Ascend环境下使用onnxruntime推理时，若安装了GPU版本的onnxruntime（`onnxruntime-gpu`），可能会因缺少CUDA组件报错。正确做法是卸载`onnxruntime-gpu`，并根据官方文档适配NPU，通过源码构建支持CANN的onnxruntime whl包。具体步骤为克隆onnxruntime源码，使用`--use_cann`参数构建，并安装生成的whl包。最后，配置CANNExecutionProvider进行推理。
昇腾NPU上基于MindIE服务的AIME和MATH500测评方案
本文介绍了基于MindIE服务和lighteval工具对DeepSeek-R1类模型进行能力测评的方法。针对AIME 2024、AIME 2025、MATH-500和GPQA等数据集，通过在Atlas 800I A2硬件上部署MindIE服务，结合开源项目Open R1的评测方法完成测评。主要内容包括模型权重下载、MindIE服务化部署、lighteval安装与配置，以及使用openai模式进行测评的具体步骤。最终展示了AIME 2024和MATH-500的测评结果，并对比了DeepSeek官方数据。该方案适合需要准确评估带推理思维链模型性能的场景。