AI 助理
备案控制台
开发者社区 ModelScope模型即服务 正文

ModelScope中,以上代码,依然只用了一个gpu 吗?

"b3d9bae95080669a82f2cb6a380e9df6.png
os.environ['CUDA_VISIBLE_DEVICES']= '0,1' ModelScope中,以上代码,依然只用了一个gpu 吗?"

展开
收起
小小爱吃香菜 2024-05-01 10:36:39 62 分享 版权
1 条回答
写回答
取消 提交回答
  • 为了利利

    get vllm engine加一下tensor_parallel_size=2 。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-05-01 16:01:46
    赞同 1 展开评论
相关问答
modelscope-funasr服务端部署的话，推荐什么样的GPU？
185
0
0
modelscope-funasr的GPU调用失败了，是什么原因？
133
0
0
modelscope-funasr的GPU离线转写服务的说话人识别模块要怎么配置啊？
208
0
0
modelscope-funasr能支持用gpu来做实时转写吗？
132
0
0
modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的参数量是一样的么？
153
0
0
modelscope-funasr最新的gpu高吞吐服务用的模型和原来cpu的是一样的么？
119
0
0
机器学习PAI报错的代码没有配 gpu，把 gpu 设为 0 就行？
89
0
0
modelscope-funasr有没有GPU docker直接安装啊？
98
0
0
modelscope-funasr使用gpu转写服务部署指南，asr模型还是会需要导出为onnx吗？
133
0
0
ModelScope的 EchoMimic 开源代码可以商用吗？
254
1
0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

相关文章

  • 【状态估计】非线性受控动力系统的线性预测器——Koopman模型预测MPC（Matlab代码实现）
  • 【创新未发表！】基于BKA算法优化-BP、HO算法优化-BP、CP算法优化-BP、GOOSE算法优化-BP、NRBO算法优化-BP神经网络回归预测比较研究（Matlab代码）
  • 【多目标优化算法比较】MOFPA、MOFA、MOCS、MOBA、MOHHO五种多目标优化算法性能对比研究（Matlab代码实现）
  • 基于MATLAB的NSCT（非下采样轮廓波变换）实现
  • 基于YOLOv8的茶叶病害识别项目｜完整源码数据集+图形化界面+训练教程

    • 热门讨论

    热门文章

  • dataset的版本问题导致与modelscope不兼容
  • ModelScope中，模型下载默认路径在哪个路径？
  • 我希望通过damo-YOLO训练1500*1500的图片
  • com/action/joingroup?code=v1是什么意思
  • cpu部署报错 Torch not compiled with CUDA enabled
  • ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
  • 如何下载modelscope模型？
  • ModelScope下载速度慢怎么解决？
  • modelscope-funasr实时设别，mode:2pass 还是online，2个有啥不一样？
  • 从modelscope下载模型失败，怎么回事？
    • 展开全部
  • B站开源IndexTTS2，用极致表现力颠覆听觉体验
  • 智能体（AI Agent）搭建全攻略：从概念到实践的终极指南
  • AgentScope：阿里开源多智能体低代码开发平台，支持一键导出源码、多种模型API和本地模型部署
  • FastAPI开发者福音！FastAPI-MCP：将FastAPI秒变MCP服务器的开源神器，无需配置自动转换！
  • MNN-LLM App：在手机上离线运行大模型，阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
  • 智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
  • 免费！文本表格不会总结、分析？文本表格可视化！帮你轻松解决困扰，保姆级级教程。【附Coze工作流】
  • AI创作更自由: 魔搭FLowBench云端工作流上线AIGC专区！支持QwenImageEdit免费出图！
  • 拿下30个第1名的腾讯混元翻译模型，开源！
  • 【SpringBoot】OAuth 2.0 授权码模式 + JWT 令牌自动续签 的终极落地指南，包含 深度技术细节、生产环境配置、安全加固方案 和 全链路监控
    • 展开全部
    还有其他疑问?
    咨询AI助理