《从“高温警报”到“持续冷静”：相变浸没液冷的散热逆袭之路》
相变浸没液冷技术为数据中心和人工智能计算的散热难题提供了高效解决方案。通过将设备浸没于特殊冷却液中，利用相变原理快速带走热量，实现全方位冷却。相比传统风冷和液冷，该技术显著降低设备温度、能耗和故障率，提升运行效率与空间利用率。在AI计算中，它确保芯片稳定工作，加速模型训练。尽管存在成本和技术普及等挑战，但随着技术进步，其应用前景广阔，有望推动数据中心与AI计算的进一步发展。
《从“平”到“立”，3D集成技术如何重塑AI芯片能效版图》
3D集成技术正革新人工智能芯片的性能与能效。传统2D芯片设计受限于平面空间，信号传输延迟、能耗高；而3D集成通过垂直堆叠芯片层，大幅缩短信号路径，提升数据处理速度和计算密度，同时降低能耗并优化电源管理。它在数据中心和边缘设备中展现出巨大潜力，助力图像识别、语音处理等任务高效完成。尽管面临散热与成本挑战，但随着技术进步，3D集成有望成为AI芯片主流，推动人工智能更广泛的应用与创新。
DeepSeek模型MOE结构代码详解
其实在DeepSeek-R1爆火之前，DeepSeek V2在我们行业就已经妇孺皆知了，它独特的MOE结构值得研究一下。这篇文章是基于 @ZOMI酱 的2个视频写的，这2个视频讲的很好，建议大家都学习一下：《MOE终于迎来可视化解读！傻瓜都能看懂MoE核心原理！》和《使用昇腾NPU手撕MoE单机版代码！没想到如此简单！》。
服务化参数调优实战
本文介绍了服务化性能调优的全流程，以Llama3-8B模型为例。首先需完成MindIE环境安装、下载模型权重与测试数据集。接着通过计算npuMemSize和maxBatchSize，maxPrefillBatchSize（272）与maxPrefillTokens，并更新配置进行性能测试。结果显示，参数调优后吞吐量提升18%。此方法为大模型性能优化提供了实用指导。
NPU上如何使能pytorch图模式
本文介绍了PyTorch的`torch.compile`技术和TorchAir的相关内容。`torch.compile`通过将动态图转换为静态图并结合JIT编译，提升模型推理和训练效率。示例代码展示了如何使用`torch.compile`优化模型。TorchAir是昇腾为PyTorch提供的图模式扩展库，支持在昇腾设备上进行高效训练和推理。它基于Dynamo特性，将计算图转换为Ascend IR，并通过图引擎优化执行。文章还提供了TorchAir的使用示例及功能配置方法。
国产NAS也支持本地部署DeepSeek了：极空间Z423上手
极空间Z423 NAS新增本地部署DeepSeek大模型功能，支持7B和14B两种参数量级模型。本文通过实际测试展示了其性能表现：14B模型运行缓慢，Token输出速度低于每秒10个，而7B模型速度稍快但仍不理想。硬件资源占用高，温度显著上升，风扇噪音增大。作者建议优化交互逻辑、提供局域网接口及更好GPU支持，并预测未来NAS可能加入GPU或NPU以提升推理能力。此功能目前更像战略布局，为后续硬件升级铺垫。
NPU上运行onnxruntime
在Ascend环境下使用onnxruntime推理时，若安装了GPU版本的onnxruntime（`onnxruntime-gpu`），可能会因缺少CUDA组件报错。正确做法是卸载`onnxruntime-gpu`，并根据官方文档适配NPU，通过源码构建支持CANN的onnxruntime whl包。具体步骤为克隆onnxruntime源码，使用`--use_cann`参数构建，并安装生成的whl包。最后，配置CANNExecutionProvider进行推理。
万亿参数模型训练神器：Kubeflow 2025量子加速版下载与TPU集群配置详解
Kubeflow 2025 是一个云原生机器学习操作系统，实现了四大突破性创新：量子混合训练（支持经典-量子混合神经网络协同计算）、神经符号系统集成（融合深度学习与逻辑推理引擎）、边缘智能联邦（5G MEC节点自动弹性扩缩容）和因果可解释性框架（集成Pearl、DoWhy等工具链）。该平台通过混合计算架构、先进的硬件配置矩阵和量子增强型安装流程，提供了从基础设施预配置到核心组件安装和安全加固的完整部署方案。此外，Kubeflow 2025 还涵盖全生命周期开发实战案例、智能运维监控体系、安全与合规框架以及高阶调试技巧，帮助用户高效构建和管理复杂的机器学习项目。