开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

ModelScope怎么释放一下 GPU?

ModelScope怎么释放一下 GPU?
15188b9a3998f726ac08cb42e30d159c.png

展开
收起
青城山下庄文杰 2023-08-12 09:23:28 113 0
1 条回答
写回答
取消 提交回答
  • 可以使用以下命令释放 GPU:

    nvidia-smi -q -d MEMORY | grep 'Used' | awk '{print $6}' | xargs nvidia-smi -s -g 0,1,2,3,4,5,6,7 -i all
    这条命令将会列出所有 GPU 的当前内存使用情况,并将使用率最高的 GPU 的 ID 列出来。然后,可以使用以下命令释放该 GPU 的内存:

    nvidia-smi -s -g 0,1,2,3,4,5,6,7 -i --gpu-mem=0
    是您在前一条命令中得到的 GPU ID。

    需要注意的是,此命令仅会释放 GPU 上的显存,不会释放 CPU 上的内存。如果您想释放 CPU 上的内存,则需要使用其他方法。

    2023-09-22 16:25:11
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

相关电子书

更多
DeepStream: GPU加速海量视频数据智能处理 立即下载
阿里巴巴高性能GPU架构与应用 立即下载
GPU在超大规模深度学习中的发展和应用 立即下载