ModelScope一台机器上多卡，推理时，如何指定某一张卡？

为了在一台多卡机器上指定 GPU，请使用以下命令：

CUDA_VISIBLE_DEVICES='0,1' python script.py

这将让脚本仅使用第一张和第二张卡进行计算。您还可以使用 CUDA 环境变量 CUDA_VISIBLE_DEVICES 来指定 GPU 设备编号，或者在 script.py 中加入 device="cuda:0"。

在ModelScope中，你可以通过设置CUDA_VISIBLE_DEVICES环境变量来指定哪些GPU应该被用于计算。以下是如何操作的步骤：

1. 打开你的终端。

2. 输入export CUDA_VISIBLE_DEVICES=<gpu-id>，其中<gpu-id>是你想要使用的GPU的ID。例如，如果你的GPU的ID是0，那么你应该输入export CUDA_VISIBLE_DEVICES=0。

3. 重启你的ModelScope服务。

这样，ModelScope就会只使用你指定的GPU进行计算了。请注意，这种方法可能需要你的系统支持CUDA，并且你的GPU必须已经被正确地安装了和配置了。

初始化pipeline时指定，比如：ocr_detection = pipeline(Tasks.ocr_detection, model='damo/cv_resnet18_ocr-detection-line-level_damo',device='cuda:0')，此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”