开发者社区 问答 正文

【ModelScope】内存比较有限有什么可以帮助我们在模型推理的时候,节省内存呀?

【ModelScope】我们这个另外购买的阿里云GPU服务器,内存比较有限,有没有什么参数,可以帮助我们在模型推理的时候,节省内存呀?

展开
收起
fuxixi 2022-12-02 14:32:30 270 分享 版权
1 条回答
写回答
取消 提交回答
  • GitHub https://github.com/co63oc/cloud

    减小数据集,但是结果匹配也降低

    2022-12-23 17:11:40
    赞同 展开评论
收录在圈子:
+ 订阅
技术图谱:由专家组参与技术图谱的绘制与编写,知识与实践的结合让开发者们掌握学习路线与逻辑,快速提升技能 电子书:电子书由阿里内外专家打造,供开发者们下载学习,更与课程相结合,使用户更易理解掌握课程内容 训练营:学习训练营 深入浅出,专家授课,带领开发者们快速上云 精品课程:汇集知识碎片,解决技术难题,体系化学习场景,深入浅出,易于理解 技能自测:提供免费测试,摸底自查 体验实验室:学完即练,云资源免费使用
还有其他疑问?
咨询AI助理