【AI系统】动手实现 PyTorch 微分
本文介绍了使用操作符重载（OO）编程方式实现的自动微分，特别是采用反向模式（Reverse Mode）的实现方法。文中详细解释了操作符重载的基本概念及其在自动微分中的应用，以及反向模式的工作原理。通过 Python 示例代码，演示了如何手动实现类似 PyTorch 中自动微分的核心机制，包括定义 `Variable` 类、`Tape` 结构以及实现基本的数学运算符重载。最后，通过一个具体的数学函数示例展示了如何利用上述机制计算梯度，帮助读者理解反向模式自动微分的全过程。
【AI系统】动手实现自动微分
本章介绍如何实现自动微分，重点讲解前向自动微分的原理及Python实现方法。通过操作符重载，将程序分解为基础表达式组合，利用链式法则计算导数。示例代码展示了如何使用自定义类`ADTangent`实现加、减、乘、log、sin等操作的自动微分，验证了与PyTorch和MindSpore等框架的一致性。
《TensorFlow 的基本概念和使用场景》
TensorFlow是由Google开发的开源机器学习框架，支持灵活构建与训练各类模型。其核心概念包括张量、计算图、变量和会话，广泛应用于机器学习、数据处理、分布式计算及模型部署等领域，具备高效计算与部署能力。
【AI系统】框架编程范式
编程范式是软件工程中一类典型的编程风格，如函数式、命令式、声明式、面向对象等。它们影响着开发者对程序执行的理解。本文探讨了两种主要的编程范式——声明式编程与命令式编程，特别是在AI框架中的应用，如TensorFlow的声明式编程和PyTorch的命令式编程，分析了这两种范式对AI框架架构设计的影响及主流AI框架在这两种范式上的差异。
【AI系统】AI 框架基础介绍
本文介绍了AI算法、神经网络及AI框架的基础概念，探讨了神经网络的作用、训练目的以及AI框架如何简化模型设计、训练与验证过程。文章还概述了AI框架的发展历程和技术演进，强调了国内外主要AI框架的特点及其对AI技术发展的推动作用。
【AI系统】卷积操作原理
本文详细介绍了卷积的数学原理及其在卷积神经网络（CNN）中的应用。卷积作为一种特殊的线性运算，是CNN处理图像任务的核心。文章从卷积的数学定义出发，通过信号处理的例子解释了卷积的过程，随后介绍了CNN中卷积计算的细节，包括卷积核、步长、填充等概念。文中还探讨了卷积的物理意义、性质及优化手段，如张量运算和内存布局优化。最后，提供了基于PyTorch的卷积实现示例，帮助读者理解和实现卷积计算。
【AI系统】推理文件格式
本文介绍了神经网络模型的序列化与反序列化技术，涵盖跨平台通用序列化方法（如 Protobuf 和 FlatBuffers）、模型自定义序列化方法、语言级通用序列化方法等，重点讨论了这两种流行文件格式的特点、使用场景及其在模型部署中的作用。
【AI系统】模型转换流程
本文详细介绍了AI模型在不同框架间的转换方法，包括直接转换和规范式转换两种方式。直接转换涉及从源框架直接生成目标框架的模型文件，而规范式转换则通过一个中间标准格式（如ONNX）作为桥梁，实现模型的跨框架迁移。文中还提供了具体的转换流程和技术细节，以及模型转换工具的概览，帮助用户解决训练环境与部署环境不匹配的问题。