开发者社区 > ModelScope模型即服务 > 自然语言处理 > 正文

在modelscope-funasr想一个web应用里启用多条子进程分别跑不同的卡,如何实现?

在modelscope-funasr我有多卡的机器,想在一个web应用里启用多条子进程分别跑不同的卡,应该如何实现?我在不同的子进程里使用os.environ['CUDA_VISIBLE_DEVICES']设置环境变量,然后加载模型的时候报错了,报错信息如图eb7b2cdb5188ec751a695ee525fb76e9.png

展开
收起
三分钟热度的鱼 2024-01-24 17:17:17 86 0
2 条回答
写回答
取消 提交回答
  • 如果想在一个Web应用里启用多条子进程,并让它们分别运行在不同的GPU卡上,可以借助Python的multiprocessing库和CUDA环境变量来实现。

    2024-01-26 07:40:17
    赞同 展开评论 打赏
  • 设置环境变量之前不要import其他的torch。此回答整理自钉群“modelscope-funasr社区交流”

    2024-01-24 18:03:49
    赞同 展开评论 打赏

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

热门讨论

热门文章

相关电子书

更多
Web应用系统性能优化 立即下载
高性能Web架构之缓存体系 立即下载
PWA:移动Web的现在与未来 立即下载