PyTorch 与 ONNX：模型的跨平台部署策略
【8月更文第27天】深度学习模型的训练通常是在具有强大计算能力的平台上完成的，比如配备有高性能 GPU 的服务器。然而，为了将这些模型应用到实际产品中，往往需要将其部署到各种不同的设备上，包括移动设备、边缘计算设备甚至是嵌入式系统。这就需要一种能够在多种平台上运行的模型格式。ONNX（Open Neural Network Exchange）作为一种开放的标准，旨在解决模型的可移植性问题，使得开发者可以在不同的框架之间无缝迁移模型。本文将介绍如何使用 PyTorch 将训练好的模型导出为 ONNX 格式，并进一步探讨如何在不同平台上部署这些模型。
大语言模型中常用的旋转位置编码RoPE详解：为什么它比绝对或相对位置编码更好?
Transformer的基石自2017年后历经变革，2022年RoPE引领NLP新方向，现已被顶级模型如Llama、Llama2等采纳。RoPE融合绝对与相对位置编码优点，解决传统方法的序列长度限制和相对位置表示问题。它通过旋转矩阵对词向量应用角度与位置成正比的旋转，保持向量稳定，保留相对位置信息，适用于长序列处理，提升了模型效率和性能。RoPE的引入开启了Transformer的新篇章，推动了NLP的进展。[[1](https://avoid.overfit.cn/post/9e0d8e7687a94d1ead9aeea65bb2a129)]
面向大规模分布式训练的资源调度与优化策略
【8月更文第15天】随着深度学习模型的复杂度不断提高，对计算资源的需求也日益增长。为了加速训练过程并降低运行成本，高效的资源调度和优化策略变得至关重要。本文将探讨在大规模分布式训练场景下如何有效地进行资源调度，并通过具体的代码示例来展示这些策略的实际应用。
【AI系统】计算图基本介绍
近年来，AI框架如TensorFlow和PyTorch通过计算图描述神经网络，推动了AI技术的发展。计算图不仅抽象了神经网络的计算表达，还支持了模型算子的高效执行、梯度计算及参数训练。随着模型复杂度增加，如MOE、GAN、Attention Transformer等，AI框架需具备快速分析模型结构的能力，以优化训练效率。计算图与自动微分紧密结合，实现了从前向计算到反向传播的全流程自动化。