开发者社区> 问答> 正文

请问ModelScope为什么每推理一次,都要重新加载一次gpu呢?

请问ModelScope为什么每推理一次,都要重新加载一次gpu呢?scanmt中译英或者英译中模型,直接使用modelscape(0.4.7)按照模型介绍的代码规范在rtx2080上跑,每翻译一个句子,都重新加载gpu是为什么呢?

展开
收起
fuxixi 2022-10-24 16:09:13 433 0
0 条回答
写回答
取消 提交回答
来源圈子
更多
收录在圈子:
+ 订阅
技术图谱:由专家组参与技术图谱的绘制与编写,知识与实践的结合让开发者们掌握学习路线与逻辑,快速提升技能 电子书:电子书由阿里内外专家打造,供开发者们下载学习,更与课程相结合,使用户更易理解掌握课程内容 训练营:学习训练营 深入浅出,专家授课,带领开发者们快速上云 精品课程:汇集知识碎片,解决技术难题,体系化学习场景,深入浅出,易于理解 技能自测:提供免费测试,摸底自查 体验实验室:学完即练,云资源免费使用
问答排行榜
最热
最新

相关电子书

更多
DeepStream: GPU加速海量视频数据智能处理 立即下载
阿里巴巴高性能GPU架构与应用 立即下载
GPU在超大规模深度学习中的发展和应用 立即下载