热门
在modelscope-funasr我有多卡的机器,想在一个web应用里启用多条子进程分别跑不同的卡,应该如何实现?我在不同的子进程里使用os.environ['CUDA_VISIBLE_DEVICES']设置环境变量,然后加载模型的时候报错了,报错信息如图
如果想在一个Web应用里启用多条子进程,并让它们分别运行在不同的GPU卡上,可以借助Python的multiprocessing库和CUDA环境变量来实现。
设置环境变量之前不要import其他的torch。此回答整理自钉群“modelscope-funasr社区交流”
包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域