ModelScope中有没有办法在一个docker是让多个模型在多张显卡上做推理呢？
ModelScope中有没有办法在一个docker是让多个模型在多张显卡上做推理呢？同一进程能做到吗？
展开
收起
1
条回答
写回答
写回答
-
能想到的办法启动多个推理命令，NVIDIA_VISIBLE_DEVICES=0;python inference.py NVIDIA_VISIBLE_DEVICES=1;python inference.py 代码里推理应该可以传递参数device pipeline参数: device设置'gpu:0'
2022-09-26 17:34:52赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
来源圈子
更多
收录在圈子:
+ 订阅
技术图谱：由专家组参与技术图谱的绘制与编写，知识与实践的结合让开发者们掌握学习路线与逻辑，快速提升技能
电子书：电子书由阿里内外专家打造，供开发者们下载学习，更与课程相结合，使用户更易理解掌握课程内容
训练营：学习训练营 深入浅出，专家授课，带领开发者们快速上云
精品课程：汇集知识碎片，解决技术难题，体系化学习场景，深入浅出，易于理解
技能自测：提供免费测试，摸底自查
体验实验室：学完即练，云资源免费使用
问答排行榜
最热
最新
推荐问答
