开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

ModelScope 如何使用 GPU 加载模型?

ModelScope 如何使用 GPU 加载模型?另外lQLPJx5jqnKwm4vNBAvNB4CwdEw8zk5Oh2sFXoHMPwwWAA_1920_1035.png这参数为device='gpu,为什么输出提示还是使用得 cpu?

展开
收起
陈幕白 2023-12-13 12:50:59 161 0
2 条回答
写回答
取消 提交回答
  • 如果你在设置pipeline参数时指定了device="GPU",但实际运行过程中仍然使用的是CPU,那么可能存在以下几种情况:

    1. 没有可用的GPU:检查你的系统是否真的有可使用的GPU。你可以通过命令行工具(如nvidia-smi)来查看当前的GPU状态。

    2. 未安装GPU驱动或CUDA库:确保你已经正确安装了与你的GPU兼容的NVIDIA GPU驱动以及CUDA库。如果没有安装或者版本不匹配,GPU可能无法被识别和使用。

    2023-12-13 13:39:53
    赞同 1 展开评论 打赏
  • pipeline推理时指定device='gpu'或'cuda:0' ;按照cuda版本重装一下torch,nvcc --version可以查看cuda版本 。此回答整理自钉群 “魔搭ModelScope开发者联盟群 ①”

    2023-12-13 13:34:01
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

热门讨论

热门文章

相关电子书

更多
DeepStream: GPU加速海量视频数据智能处理 立即下载
阿里巴巴高性能GPU架构与应用 立即下载
GPU在超大规模深度学习中的发展和应用 立即下载