PyTorch深度学习实战 |手算U-net
本文详细解析了U-Net网络架构及其在医学图像分割中的应用。重点对比了U-Net与FCN的核心区别：U-Net采用特征拼接(Concat)保留所有层级信息，而FCN使用特征相加(Add)进行融合。文章深入剖析了U-Net的编码器-瓶颈-解码器结构，解释了其独特的裁剪拼接机制和Overlap-tile策略，并提供了完整的PyTorch实现代码。现代U-Net通过SamePadding实现了输入输出尺寸一致，显著提升了分割精度。文章还探讨了弹性形变数据增强和带空间权重的损失函数设计，为医学图像分析提供了实用解决
PyTorch深度学习实战 |多头注意力机制
摘要：本文详细介绍了Transformer中的多头自注意力机制，从整体结构到实现细节，包括四部分内容：(1)多头自注意力的基本架构；(2)内部计算流程解析；(3)注意力计算公式详解；(4)代码实现。重点阐述了多头并行的计算方式、缩放点积注意力的计算步骤（QK转置、缩放、softmax和加权求和），以及残差连接和层归一化的作用。通过"Are you OK?"示例展示了输入张量如何经过8个64维注意力头处理后拼接成512维输出。文章最后提供了完整的PyTorch实现代码，并附测试用例验证模型
PyTorch深度学习实战 |层归一化层和FeedForward
本文介绍了PyTorch深度学习中Add&Norm层和FeedForward层的实现原理。Add&Norm层由残差连接(Add)和层归一化(Norm)组成，能加速模型收敛并稳定训练。层归一化会对神经网络每层的输出进行归一化处理，文中详细展示了其计算方法和PyTorch实现代码。FeedForward层是一个两层的全连接网络，通过线性变换提取更深层次特征。文章还分析了Transformer模型中使用层归一化的原因，并提供了完整的代码实现，包括参数初始化和前向传播过程。
PyTorch深度学习实战 | 标准化和归一化
本文介绍了数据预处理中的标准化和归一化方法，包括计算过程、特性对比及实际应用。以波士顿房价数据集为例，展示了原始数据、标准化和归一化后的模型效果差异。同时讲解了深度学习中常用的层归一化(LN)和批量归一化(BN)技术，分别适用于文本和图像处理任务，并给出了PyTorch实现示例。LN通过调整词向量分布缓解梯度消失等问题，而BN则对图像各通道单独处理。两种技术都能提升模型训练效果，但适用场景不同。
PyTorch深度学习实战 |损失函数
本文介绍了PyTorch深度学习中四种核心损失函数及其应用场景。交叉熵损失(CrossEntropyLoss)适用于多分类任务，二进制交叉熵损失(BCELoss)专用于二分类问题，KL散度损失(KLDivLoss)用于衡量概率分布差异（如VAE模型），均方误差(MSELoss)则是回归任务的基础损失函数。通过具体代码示例（如图像分类、广告点击预测、房价预测等），文章展示了每种损失函数的PyTorch实现方式，并比较了不同损失函数的适用场景和计算特点，帮助读者根据任务需求选择合适的损失函数。
手算循环神经网络（RNN）和LSTM
本文介绍了循环神经网络(RNN)和长短期记忆网络(LSTM)的原理与PyTorch实现。主要内容包括： RNN基础：解释RNN处理序列数据的机制，展示输入/隐藏层维度关系，并通过"不好看"情感分析示例演示数据预处理和前向传播过程。 PyTorch实现：详细构建SimpleRNN类，包含RNN层和全连接层，实现正向传播、损失计算和参数更新完整流程。 LSTM原理：对比RNN的不足，说明LSTM通过输入门、遗忘门和输出门解决长序列梯度消失问题。 LSTM实践：修改RNN代码为SimpleLS
PyTorch深度学习实战 | 基于LSTM的时间序列预测任务
本文介绍了使用LSTM模型预测印度德里市平均温度的两个项目。项目1对温度数据进行归一化处理，采用滑动窗口法构建监督学习样本，设计5层LSTM网络结构，并详细说明了模型训练过程及评估方法。项目2在数据处理上增加了标准化和周期性特征，改进了网络架构，引入了学习率调整和早停机制优化训练过程。两个项目均通过可视化对比预测值和真实值，验证了LSTM模型在时间序列预测中的有效性。文章从数据处理、模型构建到训练优化，完整呈现了温度预测的实现流程，为时序预测任务提供了实用参考。
PyTorch深度学习实战 |SegNet
CamVid_11是面向自动驾驶的语义分割数据集，含700+张精准标注图像，划分为训练/验证/测试集。涵盖道路、车辆、行人等11类场景目标（含背景共12类），支持SegNet等模型训练与评估。
