备案控制台
探索云世界
开发者社区 > ModelScope模型即服务 > 正文

您好，请问ModelScope：我使用魔塔平台提供的模型，运行，出现内存不够，请问如何操作？最大16

您好，请问ModelScope：我使用魔塔平台提供的模型，运行，出现内存不够，请问如何操作？最大16G显存不够用？是需要自动搭建更大显存的服务器吗？b016bdbd444c91aa5071ef9f81791f28.png 模型，使用官方推荐的免费试用服务器，显示内存不够，可以自定义这个显卡内存吗？ 1e56005982630ea577ca72d7e049a7d8.jpg

展开
收起
cuicuicuic 2023-05-20 17:00:31 168 0
1 条回答
写回答
取消 提交回答
  • xin在这

    是的 现在大模型，几十亿，百亿参数的模型，确实可能出现显存不够的情况（CUDA out of memory），目前官方的免费服务器只有16G显存的暂时不可以自定义，此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2023-05-20 17:16:07
    赞同 展开评论 打赏
相关问答
ModelScope中,如果让大模型喂几万个PDF，怎么设置目标值？
5
1
0
大数据计算MaxCompute的这个maxframe有没有运行内存限制的呀？
17
1
0
部署ModelScope默认直接填满第一个GPU，导致内存溢出，这个有解决办法吗？
8
1
0
请问在Modelscope的notebook里面运行facechain报了以上错误要怎么调试？
23
1
0
modelscope提示报错，无法运行，怎么处理？
7
0
0
Java程序在它们开始运行之前是否会被完全加载到内存中？
4
1
0
modelscope-funasr中，不用uniasr，fuasr小语种，有模型吗？
18
1
0
为什么Java程序占用的内存经常比实际应用运行产生的对象占用要多？
14
1
0
modelscope-funasr中，之前运行都没问题，今天出现的，是说key太小了吗？
12
0
0
modelscope-funasr中，运行没有问题，但是每一轮acc都是0，这里不太对吧？
15
1
0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！

我要提问

热门讨论

热门文章

  • com/action/joingroup?code=v1是什么意思
    2450
  • ModelScope中，模型下载默认路径在哪个路径？
    1935
  • 在ModelScope中，想了解一下Qwen-14B微调用的训练数据该如何处理？
    592
  • ModelScope的Qwen1.5-14B-Chat需要多少大显存？
    1221
  • 请问ModelScope中，怎么修改本地运行，模型自动下载到 c 盘下？
    2646
  • ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
    403
  • ModelScope中，请问Qwen-14B-Chat-Int4运行最少需要多少内存？
    1019
  • 我希望通过damo-YOLO训练1500*1500的图片
    6564
  • 如何训练属于自己的“通义千问”呢？
    4524
  • 从魔塔领取gpu免费资源 无法连接huggingface.co
    759
    • 展开全部
  • 手把手教你捏一个自己的Agent
    103024
  • 阿里云通义千问向全社会开放！
    16087
  • Llama 3开源！魔搭社区手把手带你推理，部署，微调和评估
    1466
  • 通义千问72B、1.8B、Audio模型开源！魔搭社区最佳实践来啦！
    3307
  • 社区供稿 | Llama3-8B中文版！OpenBuddy发布新一代开源中文跨语言模型
    487
  • Phi-3：小模型，大未来！（附魔搭社区推理、微调实战教程）
    257
  • Qwen1.5开源！魔搭最佳实践来啦！
    2245
  • Llama3 中文通用Agent微调模型来啦！（附手把手微调实战教程）
    307
  • 社区供稿 | FunASR 语音大模型在 Arm Neoverse 平台上的优化实践
    108471
  • ChatGPT中文版杀疯了,已登录AI模型市场
    11522
    • 展开全部

    相关课程

    更多
  • 个性化语音合成模型微调
    40
    1
    去学习
  • ModelScope社区Library技术架构介绍
    174
    1
    去学习

    • 相关电子书

    更多
    • 视觉AI能力的开放现状及ModelScope实战 立即下载
    ModelScope助力语音AI模型创新与应用 立即下载
    低代码开发师（初级）实战教程 立即下载