OFA文生图模型，显存空间不足的问题如何解决
当我使用OFA文生图模型使用CPU时，模型写出速度非常缓慢，当我更新torch为GPU版本后，会报错torch.cuda.OutOfMemoryError: CUDA out of memory 显存的内存空间不够的问题，请问这种问题如何去解决？ GPU至少需要多大的内存空间 
我的torch版本为1.13.0 torch.cuda.is_available() # TRUE 显卡为GTX1060 6G版本
展开
收起
1
条回答
写回答
写回答
-
您好，目前CPU版本确实非常慢，GPU需要16G以上显存才能得到一个相对较好的效果。这主要是因为图片本身相当于极长的序列，生成长序列需要很大的显存。
2022-11-25 11:38:49赞同 展开评论 打赏
相关问答
热门讨论
热门文章
为什么用vllm部署qwen2-2b-vl，传输2张照片却，只回答一张照片的问题？
141
【求助】关于使用Qwen2-7B-VL多模型模型识别图片某个元素的坐标的问题
55
StableDiffusion 报错，prompt_embeds
1648
请问Qwen-VL怎么用自己的数据集微调
1237
mPLUG图像描述模型是什么？
2137
!pip install open_clip_torch !pip install pytorch-
419
当下载大模型时，出现过慢的情况，有什么更好的方式解决
3839
18领域的文本分类模型在什么场景使用呢？
1673
OFA文生图模型，显存空间不足的问题如何解决
1731
对于ofa 6b en 模型，当我们使用pipline时能否一张图片生成多个句子？
1358
展开全部
AI Agents Loop异步执行可视化Tutorial 借助AgentBoard工具可视化工作流
49
OmniSearch：阿里巴巴通义推出的多模态检索增强生成框架
58
Documind：开源 AI 文档处理工具，将 PDF 转换为图像提取结构化数据
55
ACE：阿里通义实验室推出的全能图像生成和编辑模型
25
LazyGraphRAG：微软推出的图形增强生成增强检索框架
16
ebook2audiobookXTTS：开源电子书转有声书 AI 工具，支持 16 种语言
15
MuCodec：清华、腾讯AI、港中文共同推出的超低比特率音乐编解码器
13
StoryTeller：字节、上海交大、北大共同推出的全自动长视频描述生成一致系统
13
EvolveDirector：阿里联合南洋理工推出文本到图像生成模型的高效训练技术
12
视觉问答
1563
展开全部
