AI 助理
备案控制台
开发者社区 ModelScope模型即服务 自然语言处理 正文

在modelscope-funasr想一个web应用里启用多条子进程分别跑不同的卡，如何实现？

在modelscope-funasr我有多卡的机器，想在一个web应用里启用多条子进程分别跑不同的卡，应该如何实现？我在不同的子进程里使用os.environ['CUDA_VISIBLE_DEVICES']设置环境变量，然后加载模型的时候报错了，报错信息如图eb7b2cdb5188ec751a695ee525fb76e9.png

展开
收起
三分钟热度的鱼 2024-01-24 17:17:17 101 分享 版权
2 条回答
写回答
取消 提交回答
  • Skyund

    如果想在一个Web应用里启用多条子进程，并让它们分别运行在不同的GPU卡上，可以借助Python的multiprocessing库和CUDA环境变量来实现。

    2024-01-26 07:40:17
    赞同 展开评论
  • 圆不溜秋的小猫猫

    设置环境变量之前不要import其他的torch。此回答整理自钉群“modelscope-funasr社区交流”

    2024-01-24 18:03:49
    赞同 展开评论
相关问答
"ModelScope需要用web-ui进行微调，如何指定外部数据集呢 ？
75
1
0
ModelScope中，在web页面部署的时候提示GBK报错，怎么解决？
43
1
0
modelscope-funasr启动web时如何修改监听地址？
55
1
0
应用研发平台EMAS如何手动检测更新，但强制更新时，如何在应用内自己控制要不要弹窗、下载、重启进程？
43
1
0
modelscope-funasr同时支持http和websocker协议，是不是要启动两个进程？
72
0
0
ModelScope进行推理的时候，进程还是使用第0块显卡， device参数没有生效，怎么解决？
74
1
0
ModelScope进程就不能运行了，怎么处理？
72
1
0
"ModelScope中，web UI 样式错误怎么解决？
60
0
0
应用研发平台EMAS中uniapp接入阿里云推送，现在手机锁屏或者杀掉进程没法收到通知需要再配置吗？
56
1
0
应用研发平台EMAS中uniapp接入阿里云推送，现在手机锁屏或者杀掉进程没法收到通知吗？
60
0
0
ModelScope模型即服务

自然语言处理

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

我要提问

相关文章

  • 谷歌开源多智能体开发框架 Agent Development Kit：百行代码构建复杂AI代理，覆盖整个开发周期！
  • GLM-4-32B：智谱开源新一代基座模型，代码生成与推理能力全面升级
  • 32B参数碾压千亿模型？GLM-Z1-32B：智谱开源新一代推理模型，数学代码逻辑全制霸
  • 测试工程师要失业？Magnitude：开源AI Agent驱动的端到端测试框架，让Web测试更智能，自动完善测试用例！
  • 医学AI推理新突破！MedReason：这个AI把医学论文变「会诊专家」，8B模型登顶临床问答基准

    • 热门讨论

    热门文章

  • 关于“[WinError 183] 当文件已存在时，无法创建该文件。” 问题。
  • modelscope-funasr在AutoModel里设置了关闭了，结果还是会打日志，为什么？
  • modelscope-funasr的python websocket怎么实现多用户并发啊？
  • modelscope-funasr有没有docker镜像能支持角色分离的？
  • modelscope-funasr实时设别，mode:2pass 还是online，2个有啥不一样？
  • modelscope-funasr针对默认参数CHUNK_SIZE=[5,10,5]，怎么办？
  • modelscope-funasr的github上介绍支持多个说话人识别，请问有代码样例吗？
  • 请问微调开元模型qwe1.5b 和 7b 分别支持数据集的上下文长度是多少个汉字/token？
  • modelscope-funasr的html客户端的地址如何更改？
  • modelscope-funasr的 sense voice和funasr的底层asr能力是一样吗？
    • 展开全部
  • 科研论文翻译神器！BabelDOC：开源AI工具让PDF论文秒变双语对照，公式图表全保留
  • 智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
  • ChatMCP：基于 MCP 协议开发的 AI 聊天客户端，支持多语言和自动化安装 MCP 服务器
  • RuoYi AI：1人搞定AI中台！开源全栈式AI开发平台，快速集成大模型+RAG+支付等模块
  • 32.7K Star！Awesome MCP Servers：开源MCP资源聚合平台，覆盖20+垂直领域
  • 超越 DeepSeek-R1！Seed-Thinking-v1.5：字节跳动开源MoE架构推理模型，200B总参数仅激活20B，推理效率提升5倍
  • 32B模型性能直逼671B的DeepSeek-R1！Skywork-OR1：昆仑万维开源推理模型，突破数学与代码双极限
  • 推理速度开挂！谷歌推出 Gemini 2.5 Flash：在保持Gemini 2.5精度的同时，延迟降低到竞品的1/3
  • Cline：29.7K Star！一文详解VSCode最强开源AI编程搭子：一键生成代码+自动跑终端+操控浏览器...
  • AI竟能独立完成顶会论文！The AI Scientist-v2：开源端到端AI自主科研系统，自动探索科学假设生成论文
    • 展开全部
    还有其他疑问?
    咨询AI助理