【已解决】RuntimeError: CuDA error: no kernel image is available for execution on the device

简介: 【已解决】RuntimeError: CuDA error: no kernel image is available for execution on the device

问题:根本原因是之前装的cuda和torch版本和显卡不适配(开始以为4090可以兼容很多版本就没管)

解决方法:卸载之前的cuda和torch,找到适配的cuda和troch版本,安装--然后就没问题了。


我的配置

GPU 10张4090

CUDA 11.8(4090最低能跑的版本说是)

python 3.12

问题分析


其实就是4090算力和cuda不兼容,pytorch所依赖的cuda只支持比他小的,所以尽量装新一点的cuda版本。


装好后可以测试cuda是否能用

torch.cuda.is_available()
True

这样就算可以了。

查看cuda version  nvidia-smi  

解决办法      

1.查看显卡算力

CUDA GPUs - Compute Capability | NVIDIA Developer

找到你的显卡对应算力,如4090对应8.9

2.算力对应的cuda版本

NVIDIA Datacenter Drivers :: NVIDIA Data Center GPU Driver Documentation

对应8.9是cuda11.8,只能高不能低

相关文章
|
并行计算 PyTorch Linux
幸福的烦恼:显卡算力太高而pytorch版本太低不支持
幸福的烦恼:显卡算力太高而pytorch版本太低不支持
3270 0
|
JSON 数据格式 Python
对Labelme标注图像,进行90、180、270的旋转,实现标注数据的扩充。
对Labelme标注图像,进行90、180、270的旋转,实现标注数据的扩充。
1543 0
对Labelme标注图像,进行90、180、270的旋转,实现标注数据的扩充。
|
并行计算 Linux PyTorch
RuntimeError: CUDA error: device-side assert triggered
我在运行PyG和transformers代码时两次遇到了这一问题,在此加以记录。
|
9月前
|
机器学习/深度学习 并行计算 PyTorch
英伟达新一代GPU架构(50系列显卡)PyTorch兼容性解决方案
本文记录了在RTX 5070 Ti上运行PyTorch时遇到的CUDA兼容性问题,分析其根源为预编译二进制文件不支持sm_120架构,并提出解决方案:使用PyTorch Nightly版本、更新CUDA工具包至12.8。通过清理环境并安装支持新架构的组件,成功解决兼容性问题。文章总结了深度学习环境中硬件与框架兼容性的关键策略,强调Nightly构建版本和环境一致性的重要性,为开发者提供参考。
5147 64
英伟达新一代GPU架构(50系列显卡)PyTorch兼容性解决方案
|
机器学习/深度学习 并行计算 PyTorch
【已解决】RuntimeError: CUDA error: device-side assert triggeredCUDA kernel errors might be asynchronous
【已解决】RuntimeError: CUDA error: device-side assert triggeredCUDA kernel errors might be asynchronous
10821 2
|
并行计算 PyTorch Linux
大概率(5重方法)解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB
大概率(5重方法)解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB
10483 0
|
并行计算 PyTorch 算法框架/工具
阿里云PAI-部署Qwen2-VL-72B
阿里云PAI-部署Qwen2-VL-72B踩坑实录
4832 1
|
并行计算 异构计算
卸载原有的cuda,更新cuda
本文提供了一个更新CUDA版本的详细指南,包括如何查看当前CUDA版本、检查可安装的CUDA版本、卸载旧版本CUDA以及安装新版本的CUDA。
12478 3
卸载原有的cuda,更新cuda