AI 助理
备案控制台
开发者社区 ModelScope模型即服务 计算机视觉 正文

ModelScope-Agent-7B本地加载模型，需要多少gpu显存呢？

ModelScope-Agent-7B本地加载模型，需要多少gpu显存呢？

展开
收起
小小爱吃香菜 2024-01-16 22:36:28 1230 分享 版权
1 条回答
写回答
取消 提交回答
  • 为了利利

    7b模型至少需要17g显存，或者int8量化，大概9g。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-01-16 22:54:55
    赞同 展开评论
相关问答
Qwen2.5-14B-Instruct-GPTQ-Int4量化模型是只能在GPU上运行吗？
281
0
0
如何用python 加载ModelScope中的模型
422
1
0
求助，人工智能平台 PAI-DSW运行模型时，找不到 GPU
191
0
0
modelscope-funasr怎么设置使得模型可以用CUDA0以外的其他gpu？
33936
1
0
modelscope-funasr目前只能用给的两个paraformer模型吗？
151
0
0
modelscope-funasr服务端部署的话，推荐什么样的GPU？
195
0
0
llamaindex整合modelscope本地模型，启动报错
453
1
0
modelscope-funasr这个模型的训练语音数据以及命令词列表有开源吗？
119
0
0
modelscope-funasr的多说话人语音识别模型 支持实时听写吗？
227
0
0
在modelscope-funasr中请问vad模型是只能用16k采样率的音频吗？
139
0
0
ModelScope模型即服务

计算机视觉

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

我要提问

相关文章

  • 阿里云服务器多少钱一年？亲测ECS、轻量、GPU服务器收费价格整理
  • 阿里云AI基础设施成果入选顶级学术会议，显著提升GPU利用率
  • 阿里云服务器实例规格选型解析：不同类型实例的性能特点、匹配场景与选型策略参考
  • 《让青岚剑影有国漫分镜感：RPG特效粒子技术实战指南》
  • 沐曦 GPU 融入龙蜥，共筑开源 AI 基础设施新底座

    • 热门讨论

    热门文章

  • ModelScope中，模型下载默认路径在哪个路径？
  • 我希望通过damo-YOLO训练1500*1500的图片
  • ModelScope下载速度慢怎么解决？
  • ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？
  • 如何下载modelscope模型？
  • cpu部署报错 Torch not compiled with CUDA enabled
  • 在ModelScope中，下载模型时的ssl问题怎么解决？!
  • ModelScope API 400 怎么办？
  • 服务器上onnxruntime-gpu 调用结束，如何释放显存
  • com/action/joingroup?code=v1是什么意思
    • 展开全部
  • Qwen2.5-VL：阿里通义千问最新开源视觉语言模型，能够理解超过1小时的长视频
  • X-AnyLabeling：开源的 AI 图像标注工具，支持多种标注样式，适于目标检测、图像分割等不同场景
  • Manga Image Translator：开源的漫画文字翻译工具，支持多语言翻译并嵌入原图，保持漫画的原始风格和布局
  • video-analyzer：开源视频分析工具，支持提取视频关键帧、音频转录，自动生成视频详细描述
  • RF-DETR：YOLO霸主地位不保？开源 SOTA 实时目标检测模型，比眨眼还快3倍！
  • SNOOPI：创新 AI 文本到图像生成框架，提升单步扩散模型的效率和性能
  • LHM：单图生成3D动画人！阿里开源建模核弹，高斯点云重构服装纹理
  • InvSR：开源图像超分辨率生成模型，提升分辨率，修复老旧照片为超清图像
  • OOTDiffusion：开源AI虚拟试衣工具，智能适配性别和体型自动调整衣物
  • ColorFlow：腾讯和清华大学联合推出的图像序列着色模型，通过参考图像的颜色对黑白漫画进行着色生成彩色漫画
    • 展开全部
    还有其他疑问?
    咨询AI助理