AI 助理
备案控制台
开发者社区 ModelScope模型即服务 多模态 正文

OFA文生图模型，显存空间不足的问题如何解决

当我使用OFA文生图模型使用CPU时，模型写出速度非常缓慢，当我更新torch为GPU版本后，会报错torch.cuda.OutOfMemoryError: CUDA out of memory 显存的内存空间不够的问题，请问这种问题如何去解决？ GPU至少需要多大的内存空间 image.png

我的torch版本为1.13.0 torch.cuda.is_available() # TRUE 显卡为GTX1060 6G版本

展开
收起
aliyun9665825026 2022-11-24 11:01:17 1779 分享 版权
1 条回答
写回答
取消 提交回答
  • ModelScope多模态小助手

    您好，目前CPU版本确实非常慢，GPU需要16G以上显存才能得到一个相对较好的效果。这主要是因为图片本身相当于极长的序列，生成长序列需要很大的显存。

    2022-11-25 11:38:49
    赞同 展开评论
相关问答
多模态
Sora视频模型与传统的文生图模型在结构上有什么区别？
73
2
0
“AIGC Stable Diffusion文生图Lora模型微调实现虚拟上装”Lora微调训练问题
243
1
0
在函数计算FC我想用ai绘画设计衣服，请问我应该用什么模型？
108
1
0
AIGC Stable Diffusion文生图Lora模型微调 问题
308
1
0
小白一枚，想要学习大模型的微调，主要是文生图大模型，但不知道从何开始，恳请赐教
182
2
0
“AIGC Stable Diffusion文生图Lora模型微调实现虚拟上装”教程问题请教
983
2
0
如何通过API调用Stable Diffusion文生图模型？
249
3
0
扩散模型在AI绘画中是如何应用的？
76
1
0
在视觉智能平台中文生图，底层模型用得是 SD ，还是自研的其他模型？
67
1
0
视觉智能平台现在文生图已经下架 还有其他模型可以生产吗？
71
1
0
ModelScope模型即服务

多模态

包含图像描述、文本生成图片、版面分析、多模态表征、视觉问答、文档理解等多个领域

我要提问
收录在圈子:
多模态模型
171
+ 订阅

相关文章

  • RAGEN：RL训练LLM推理新范式！开源强化学习框架让Agent学会多轮决策
  • 在AMD GPU上部署AI大模型：从ROCm环境搭建到Ollama本地推理实战指南
  • 阿里云GPU服务器gn6v、gn7i、gn6i性能特点、区别及选择参考
  • 阿里云服务器X86/ARM/GPU/裸金属/超算五大架构技术特点、场景适配参考
  • 一文搞懂 GPU 共享方案： NVIDIA Time Slicing

    • 热门讨论

    热门文章

  • 怎么修改model scope的默认存储位置
  • 请问Qwen-VL怎么用自己的数据集微调
  • Modelscope下载Youku-mPLUG出现oss2.exceptions.NoSuchKey
  • 为什么用vllm部署qwen2-2b-vl，传输2张照片却，只回答一张照片的问题？
  • 如何本地化（局域网内）部署Qwen的多模态大模型，用作推理 并自有程序调用
  • 请帮我看看以下模型评估的文档说明
  • 3D-Speaker怎么使用自己的声纹音频文件进行训练，研究好久了，一直没有思路
  • 关于qwen2-vl微调最佳实践
  • 图文匹配：Clip模型介绍
  • !pip install open_clip_torch !pip install pytorch-
    • 展开全部
  • FilmAgent：多智能体共同协作制作电影，哈工大联合清华推出 AI 驱动的自动化电影制作工具
  • Open Avatar Chat：阿里开源实时数字人对话系统，让AI对话实现2.2秒低延迟交互
  • PPTAgent：中科院开源AI工具，自动将文档转化为高质量PPT
  • 重定义数字人交互！OmniTalker：阿里推出实时多模态说话头像生成框架，音视频实现唇语级同步
  • MNN-LLM App：在手机上离线运行大模型，阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
  • GLM-4V-Flash：智谱 AI 免费开放的图像理解大模型 API 接口
  • AstrBot：轻松将大模型接入QQ、微信等消息平台，打造多功能AI聊天机器人的开发框架，附详细教程
  • Heygem：开源数字人克隆神器！1秒视频生成4K超高清AI形象，1080Ti显卡也能轻松跑
  • AnythingLLM：34K Star！一键上传文件轻松打造个人知识库，构建只属于你的AI助手，附详细部署教程
  • Mobile-Agent：通过视觉感知实现自动化手机操作，支持多应用跨平台
    • 展开全部
    还有其他疑问?
    咨询AI助理