lorelai_个人页

2025年04月

• 04.05 17:21:13
  发表了文章 2025-04-05 17:21:13

  【pytorch】【202504】关于torch.nn.Linear

  小白从开始这段代码展示了`nn.Linear`的使用及其背后的原理。 此外，小白还深入研究了PyTorch的核心类`torch.nn.Module`以及其子类`torch.nn.Linear`的源码。`grad_fn`作为张量的一个属性，用于指导反向传播 进一步地，小白探讨了`requires_grad`与叶子节点（leaf tensor）的关系。叶子节点是指在计算图中没有前驱操作的张量，只有设置了`requires_grad=True`的叶子节点才会在反向传播时保存梯度。 最后，小白学习了PyTorch中的三种梯度模式 通过以上学习小白对PyTorch的自动求导机制有了更深刻的理解。