模型能装进显存，训练为什么还是 OOM？把 PyTorch 显存拆成 5 笔账
模型权重能够装进显存，不代表训练就能正常运行。本文拆解 PyTorch 训练中的参数、梯度、优化器状态、激活值和临时工作区，并给出显存监测代码及 OOM 排查顺序，覆盖梯度累积、混合精度、Gradient Checkpointing 和 LoRA 等常用方案。
157
1
1
更多版块
活跃用户
我要发布