ModelScope中好像把gpu内存拉满，和只占用3g的单卡跑用时都是一样的。这是什么原因呢？
ModelScope中好像把gpu内存拉满，还有调用双gpu，和只占用3g的单卡跑用时都是一样的。这是什么原因呢？
另外推理单张确实不会重复加载。但是我推理的是一个dataset数据集，每跑一张图好像都重新输出一次双卡资源信息。直接设置tf，下面直接用的with调用strategy然后在with下面写具体业务流程，跑的时候就是双卡并且显存都满。
展开
收起
1
条回答
写回答
写回答
-
如果一个显卡足够处理远不到利100%，即使双卡使用，如果一个显存处理，另外一个是不会参与推理的，即使你使用with strategy.scope():，with strategy.scope():是tf策略。此答案整理自钉钉群“ModelScope开发者联盟群 ①”
2022-11-28 22:55:49赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
来源圈子
更多
收录在圈子:
+ 订阅
技术图谱：由专家组参与技术图谱的绘制与编写，知识与实践的结合让开发者们掌握学习路线与逻辑，快速提升技能
电子书：电子书由阿里内外专家打造，供开发者们下载学习，更与课程相结合，使用户更易理解掌握课程内容
训练营：学习训练营 深入浅出，专家授课，带领开发者们快速上云
精品课程：汇集知识碎片，解决技术难题，体系化学习场景，深入浅出，易于理解
技能自测：提供免费测试，摸底自查
体验实验室：学完即练，云资源免费使用
问答排行榜
最热
最新
相关课程
更多
推荐问答
