AI 助理
备案控制台
开发者社区 ModelScope模型即服务 正文

您好，请问ModelScope：我使用魔塔平台提供的模型，运行，出现内存不够，请问如何操作？最大16

您好，请问ModelScope：我使用魔塔平台提供的模型，运行，出现内存不够，请问如何操作？最大16G显存不够用？是需要自动搭建更大显存的服务器吗？b016bdbd444c91aa5071ef9f81791f28.png 模型，使用官方推荐的免费试用服务器，显示内存不够，可以自定义这个显卡内存吗？ 1e56005982630ea577ca72d7e049a7d8.jpg

展开
收起
真的很搞笑 2023-05-20 17:00:31 256 分享 版权
1 条回答
写回答
取消 提交回答
  • 芯在这

    是的 现在大模型，几十亿，百亿参数的模型，确实可能出现显存不够的情况（CUDA out of memory），目前官方的免费服务器只有16G显存的暂时不可以自定义，此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2023-05-20 17:16:07
    赞同 展开评论
相关问答
modelscope-funasr在windows(cpu)上跑要多大的内存?
92
0
0
modelscope-funasr在安卓平台可以集成sense voice吗？
493
11
0
PoNet模型是如何解决Transformer在长序列上的时间和内存复杂度问题的？
45
1
0
ModelScope使用魔搭来组建多租户的模型开发平台，是否需要购买授权？
59
1
0
在modelscope-funasr中使用cpu运行需要多大内存？
122
0
0
想在ModelScope平台跑llama405B的话，得需要多少张a100或h100呀？
74
1
0
阿里云提供的流水线，基于镜像运行，内存是多大？
50
1
0
在大数据计算MaxCompute一个SQL节点运行多个SQL语句，是所有SQL语句共用一个内存？
59
0
0
ModelScope模型可以迁移到昇腾平台上吗？
75
1
0
ModelScope中，qwen有零代码搭建智能体的平台吗？
45
1
0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

热门讨论

热门文章

  • modelscope-funasr==1.0.5依赖的torch版本是多少？
  • ModelScope中，模型下载默认路径在哪个路径？
  • 在魔塔社区-模型服务 里面一键部署的deepseek模型怎么使用？
  • 我希望通过damo-YOLO训练1500*1500的图片
  • ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
  • ModelScope下载速度慢怎么解决？
  • 关于wan2.1显存占用的问题
  • lmstudio拉起qwq-32b-q3_k_m.gguf模型报错？
  • 无法导入 modelscope，已经pip install了
  • modelscope上跑报错，提示要pip install ttsfrd，搞不定
    • 展开全部
  • 高效部署通义万相Wan2.1：ComfyUI文生/图生视频实战，工作流直取！
  • Trae 接入 Claude 3.7：AI 编程工具界的“卷王”，完全免费使用！
  • WeaveFox：蚂蚁集团推出 AI 前端智能研发平台，能够根据设计图直接生成源代码，支持多种客户端和技术栈
  • 阿里云通义千问向全社会开放！
  • 高效部署通义万相Wan2.1：使用Gradio搭建WebUI体验实战
  • 本地部署DeepSeek模型
  • 通义万相Wan2.1视频模型开源！视频生成模型新标杆，支持中文字效+高质量视频生成
  • WhisperChain：开源 AI 实时语音转文字工具！自动消噪优化文本，效率翻倍
  • 千问团队开源会思考的QwQ模型，这模型成精了！
  • 还在蹲Manus的邀请码？别等了！开源版Manus为你快速创建AI工位，给AI一台电脑，然后你就玩去吧！
    • 展开全部
    还有其他疑问?
    咨询AI助理