OFA文生图模型,显存空间不足的问题如何解决

当我使用OFA文生图模型使用CPU时,模型写出速度非常缓慢,当我更新torch为GPU版本后,会报错torch.cuda.OutOfMemoryError: CUDA out of memory 显存的内存空间不够的问题,请问这种问题如何去解决? GPU至少需要多大的内存空间 image.png

我的torch版本为1.13.0 torch.cuda.is_available() # TRUE 显卡为GTX1060 6G版本

展开
收起
aliyun9665825026 2022-11-24 11:01:17 1763 发布于福建 分享
分享
版权
举报
1 条回答
写回答
取消 提交回答
  • 您好,目前CPU版本确实非常慢,GPU需要16G以上显存才能得到一个相对较好的效果。这主要是因为图片本身相当于极长的序列,生成长序列需要很大的显存。

    2022-11-25 11:38:49 发布于北京 举报
    赞同 1

    评论

    全部评论 (1)

    登录后可评论
    头像
    你好,请问目前如何修改可将CPU版本的ofa图文生成代码转换为可在GPU上运行的模型?
    2023-01-19 17:18:50发布于 安徽
    赞同回复举报

包含图像描述、文本生成图片、版面分析、多模态表征、视觉问答、文档理解等多个领域

收录在圈子:
+ 订阅

热门讨论

热门文章

还有其他疑问?
咨询AI助理
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等