AI 助理
备案控制台
开发者社区 ModelScope模型即服务 正文

ModelScope这个模型不支持GPU多卡吗？这里设置2，但是从nVidia-smi上看，只有一张

问题1：https://modelscope.cn/models/damo/nlp_csanmt_translation_en2zh/summary ModelScope这个模型不支持GPU多卡吗？2ad90c3c217fced85296ffedc3f98bc0.png 这里设置2，但是从nVidia-smi上看，只有一张卡在跑。是不是因为使用的是导出的savedmodel？ 问题2：352575920baf74b22566822a3d84f734.png 这个参数仅限于train时吧？推导时不能用多卡？

展开
收起
真的很搞笑 2023-06-04 20:30:58 329 分享 版权
1 条回答
写回答
取消 提交回答
  • 芯在这

    回答1：从代码上看似乎是支持多GPU的。 这个模型是支持多GPU的，应该是基于tf_ckpts目录下的checkpoint跑，num_gpus=2指的就是2卡跑任务。 回答2：多卡仅限于训练，不支持多卡推理，此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2023-06-04 20:46:51
    赞同 展开评论
相关问答
Qwen2.5-14B-Instruct-GPTQ-Int4量化模型是只能在GPU上运行吗？
37
0
0
求助，人工智能平台 PAI-DSW运行模型时，找不到 GPU
103
0
0
modelscope-funasr怎么设置使得模型可以用CUDA0以外的其他gpu？
33736
1
0
modelscope-funasr目前只能用给的两个paraformer模型吗？
66
0
0
modelscope-funasr能支持用gpu来做实时转写吗？
58
0
0
modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的参数量是一样的么？
74
0
0
modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的是一样的么？
73
0
0
ModelScope没有看见复制，模型选择、cpu/GPU选择有特别要求吗，有详细说明吗？
66
1
0
modelscope-funasr的多说话人语音识别模型 支持实时听写吗？
101
0
0
modelscope中请问下载模型有IP限制吗？
55
1
0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

相关文章

  • 《深度剖析：BERT与GPT——自然语言处理架构的璀璨双星》
  • 《揭开多头注意力机制的神秘面纱：解锁自然语言处理的超能力》
  • 《自然语言处理架构的隐秘力量：FFN深度揭秘》
  • 《探寻计算图奥秘：动态与静态在自然语言处理中的分野》
  • Orpheus TTS：开源语音克隆王炸！200ms延迟+情感操控，Llama3引爆音效革命

    • 热门讨论

    热门文章

  • ModelScope中，模型下载默认路径在哪个路径？
  • ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
  • lmstudio拉起qwq-32b-q3_k_m.gguf模型报错？
  • 我希望通过damo-YOLO训练1500*1500的图片
  • 无法导入 modelscope，已经pip install了
  • 关于wan2.1显存占用的问题
  • 在魔塔社区-模型服务 里面一键部署的deepseek模型怎么使用？
  • llama factory微调报错CUDA未被检测！
  • 关于 Windows平台上 ttsfrd 库的问题。
  • ModelScope有部署qwen2-72b的么，正常推理需要多大的显存？
    • 展开全部
  • 中企投资印度新能源“有戏”吗？
  • 高效部署通义万相Wan2.1：ComfyUI文生/图生视频实战，工作流直取！
  • Heygem：开源数字人克隆神器！1秒视频生成4K超高清AI形象，1080Ti显卡也能轻松跑
  • Botgroup.chat：超有趣的开源 AI 聊天室！多个 AI 在线互怼，一键搭建你的专属 AI 社群
  • vanna+qwen实现私有模型的SQL转换
  • CosyVoice 2.0：阿里开源升级版语音生成大模型，支持多语言和跨语言语音合成，提升发音和音色等的准确性
  • Browser Use：40.7K Star！一句话让AI完全接管浏览器！自动规划完成任务，多标签页同时管理
  • Trae 接入 Claude 3.7：AI 编程工具界的“卷王”，完全免费使用！
  • WeaveFox：蚂蚁集团推出 AI 前端智能研发平台，能够根据设计图直接生成源代码，支持多种客户端和技术栈
  • ChatMCP：基于 MCP 协议开发的 AI 聊天客户端，支持多语言和自动化安装 MCP 服务器
    • 展开全部
    还有其他疑问?
    咨询AI助理