【AI系统】动手实现自动微分
本章介绍如何实现自动微分，重点讲解前向自动微分的原理及Python实现方法。通过操作符重载，将程序分解为基础表达式组合，利用链式法则计算导数。示例代码展示了如何使用自定义类`ADTangent`实现加、减、乘、log、sin等操作的自动微分，验证了与PyTorch和MindSpore等框架的一致性。
【AI系统】自动微分引言
本文聚焦AI框架中的自动微分功能，探讨其重要性及其实现方式。自动微分是AI框架的核心，支持正向和反向传播，确保模型的有效训练。文中介绍了微分的基本概念、自动微分的两种主要模式（前向和后向微分），以及其实现方法，包括表达式图、操作符重载和源码转换。此外，文章还展望了自动微分技术的未来发展与挑战，鼓励读者深入学习AI框架及其背后的原理。
【AI系统】推理文件格式
本文介绍了神经网络模型的序列化与反序列化技术，涵盖跨平台通用序列化方法（如 Protobuf 和 FlatBuffers）、模型自定义序列化方法、语言级通用序列化方法等，重点讨论了这两种流行文件格式的特点、使用场景及其在模型部署中的作用。
【AI系统】模型转换流程
本文详细介绍了AI模型在不同框架间的转换方法，包括直接转换和规范式转换两种方式。直接转换涉及从源框架直接生成目标框架的模型文件，而规范式转换则通过一个中间标准格式（如ONNX）作为桥梁，实现模型的跨框架迁移。文中还提供了具体的转换流程和技术细节，以及模型转换工具的概览，帮助用户解决训练环境与部署环境不匹配的问题。
【AI系统】模型转换基本介绍
模型转换技术旨在解决深度学习模型在不同框架间的兼容性问题，通过格式转换和图优化，将训练框架生成的模型适配到推理框架中，实现高效部署。这一过程涉及模型格式转换、计算图优化、算子统一及输入输出支持等多个环节，确保模型能在特定硬件上快速、准确地运行。推理引擎作为核心组件，通过优化阶段和运行阶段，实现模型的加载、优化和高效执行。面对不同框架的模型文件格式和网络结构，推理引擎需具备高度的灵活性和兼容性，以支持多样化的应用场景。
【AI系统】感知量化训练 QAT
本文介绍感知量化训练（QAT）流程，旨在减少神经网络从FP32量化至INT8时的精度损失。通过在模型中插入伪量化节点（FakeQuant）模拟量化误差，并在训练中最小化这些误差，使模型适应量化环境。文章还探讨了伪量化节点的作用、正向与反向传播处理、TensorRT中的QAT模型高效推理，以及QAT与PTQ的对比，提供了实践技巧，如从良好校准的PTQ模型开始、采用余弦退火学习率计划等。
深入解析图神经网络：Graph Transformer的算法基础与工程实践
Graph Transformer是一种结合了Transformer自注意力机制与图神经网络（GNNs）特点的神经网络模型，专为处理图结构数据而设计。它通过改进的数据表示方法、自注意力机制、拉普拉斯位置编码、消息传递与聚合机制等核心技术，实现了对图中节点间关系信息的高效处理及长程依赖关系的捕捉，显著提升了图相关任务的性能。本文详细解析了Graph Transformer的技术原理、实现细节及应用场景，并通过图书推荐系统的实例，展示了其在实际问题解决中的强大能力。
【AI系统】ESPNet 系列
本文介绍了ESPNet系列，专注于高分辨率图像的语义分割，强调了其高效的计算性能和低内存、功耗特性。ESPNet V1提出了ESP模块，通过分解标准卷积为point-wise卷积和空洞卷积金字塔，大幅减少了参数量和计算成本。ESPNet V2则进一步优化，采用了分组卷积和深度空洞分离卷积，增强了模型的有效感受野，同时降低了浮点计算量，适用于多种视觉任务。
【AI系统】昇腾推理引擎 MindIE
本文详细介绍华为昇腾推理引擎 MindIE，涵盖其基本介绍、关键功能特性及三大组件：MindIE-Service、MindIE-Torch 和 MindIE-RT。文章深入探讨了各组件在服务化部署、大模型推理和推理运行时方面的功能和应用场景，旨在帮助读者全面了解 MindIE 如何支持 AI 业务的高效运行和模型的快速部署。
AscendC从入门到精通系列（四）使用Pybind调用AscendC算子
本文介绍了如何通过Pybind11在PyTorch框架中调用自定义的Ascend C算子。首先，通过编写算子的C++实现和pybind11封装，将算子功能暴露给Python。接着，构建Python调用脚本，利用torch接口生成数据并调用封装好的算子模块。最后，通过CMake配置文件编译整个项目，实现从算子开发到测试的完整流程。