原帖在 Transformers Trainer 中训练 Swinv2,错误落在 patch embedding 的 Conv2d;此前还混合执行过多个安装命令:
RuntimeError: GET was unable to find an engine to execute this computation
引擎选择失败,先还原算子的实际条件
原题在 Swinv2 patch embedding 卷积中失败,最终状态不能单独区分输入、精度、资源或动态库冲突。安装历史只是线索,需读取最终包版本和当前进程真正使用的构建。先把 Trainer 外壳缩成同一批 pixel_values 的直接前向。
GET 的最终状态不能说明 Trainer 参数一定错误,也不能直接证明 cuDNN 版本冲突。先从 trainer 取一个真实 batch,在相同设备与精度条件下缩小前向。
import os
import torch
batch = next(iter(trainer.get_train_dataloader()))
print("josh050608")
print("versions:", torch.__version__, torch.version.cuda, torch.backends.cudnn.version())
print("pixels:", batch["pixel_values"].shape, batch["pixel_values"].dtype)
print("library path:", os.environ.get("LD_LIBRARY_PATH"))
检查 pixel_values 为 [N,C,H,W],通道与模型配置一致,处理器来自配套 checkpoint。把同一小批先在 CPU/float32 前向,再在 CUDA/float32 前向;若仅混合精度失败,再核对该设备和后端支持。不要一次改变图片、模型、精度与安装包。
如果仅 CUDA 后端失败,在新进程中记录首条完整错误、GPU/驱动和包版本,检查库搜索路径是否优先加载系统另一套 cuDNN。可以临时关闭 cuDNN 做对照;能运行只说明缩小到该路径,还不是永久修复。
原帖使用 transformers 4.26.0,同时给 torch 安装加了 extra-index-url,又升级 TensorFlow。先用 python -m pip check 与实际元数据确认最终解析结果,再在独立环境按兼容组合重建;不要仅凭安装命令猜最终版本。
验证原批次前向与反向,再恢复 Trainer 的精度选项。原文没给最终 torch/cuDNN/驱动组合,无法提供已证实的单一降级命令。
用同一批数据分层做对照
从 trainer 取出的 pixel_values 先保留 CPU 副本,记录 shape/dtype、模型参数类型和处理器来源。按 CPU float32 → CUDA float32 → 原混合精度的顺序测试,每次保留完整首错。若只在某一层失败,可以给那个 Conv2d 挂前置 hook,打印实际输入与卷积配置。
下面是可独立运行的 CPU patch embedding 形状示例,不下载 Swin,不验证原 CUDA 引擎错误:
import torch
from torch import nn
patch_projection = nn.Conv2d(3, 8, kernel_size=4, stride=4)
pixel_values = torch.randn(2, 3, 32, 32)
projected = patch_projection(pixel_values)
tokens = projected.flatten(2).transpose(1, 2)
assert projected.shape == (2, 8, 8, 8)
assert tokens.shape == (2, 64, 8)
tokens.square().mean().backward()
assert patch_projection.weight.grad is not None
print("patches/tokens:", projected.shape, tokens.shape)
若这个逻辑在 CPU 正常,真实 CUDA 小卷积却失败,再查 cuDNN、驱动、显存与库搜索路径。临时关闭 cuDNN 只能提供后端对照;不能凭这一项就指定降级版本。若出现更早的 libcupti 或 cuDNN 动态库错误,先处理首错,而非只搜索最终 GET 句子。
对原题混合安装历史,在目标解释器运行 python -m pip show torch torchvision transformers tensorflow 与 python -m pip check,记录实际结果。独立环境重建时一次固定一组兼容依赖,先跑同一批前向和 backward,再恢复 Trainer 的全部精度配置。短 CPU 示例通过不等于原 GPU 运行时已修复。
参考:原始求助帖;技术依据:PyTorch 后端设置(2.5)、PyTorch CUDA 语义(2.5)、Transformers Trainer(4.46)、Conv2d(2.5)。