AI 助理
备案控制台
开发者社区 ModelScope模型即服务 正文

ModelScope中Qwen-7B-Instruct支持的显卡有哪些呢 ？

"ModelScope中Qwen-7B-Instruct支持的显卡有哪些呢 ？ 运行一直有报错：
Some parameters are on the meta device device because they were offloaded to the cpu.
Special tokens have been added in the vocabulary, make sure the associated word embeddings are fine-tuned or trained."

展开
收起
小小爱吃香菜 2024-07-23 22:09:52 142 分享 版权
1 条回答
写回答
取消 提交回答
  • 为了利利

    显存不够。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-07-24 15:58:13
    赞同 展开评论
相关问答
ModelScope接口访问qwen-coder，报错409
48
0
0
ModelScope如何用英特尔显卡进行推理，目前pytorch已经支持，求大神帮帮忙。
122
1
0
在4卡4090（24G）服务器上利用modelscope离线部署Qwen2vl-Flux时报错
205
1
0
modelscope微调后的多模态大模型Qwen-VL和graghrag相结合构建知识库的案例有嘛？
160
0
0
ModelScope我微调Qwen2-7B-Instruct,loss一直不变是什么原因？
171
1
0
ModelScope中，qwen2-72b-instruct-awq 支持 json模式吗？
117
0
0
modelscope中，为什么用结构的数据集训练qwen-7b-chat后没效果呢？
93
1
0
ModelScope微调qwen2不同参数的模型，分别需要的最低硬件要求是多少？
164
1
0
modelscope-funasr的语音转文字AI,主要用显卡还是cpu计算啊？
154
1
0
modelscope-funasr这个1200+的测试结果，是不是用了2张A10的显卡呀？
102
1
0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

热门讨论

热门文章

  • cpu部署报错 Torch not compiled with CUDA enabled
  • dataset的版本问题导致与modelscope不兼容
  • ModelScope中，模型下载默认路径在哪个路径？
  • 我希望通过damo-YOLO训练1500*1500的图片
  • 如何下载modelscope模型？
  • ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
  • com/action/joingroup?code=v1是什么意思
  • 我正在搭建智能体，遇到下图问题，不知道怎么解决
  • DeepSeek V3.1 昨天还能用tool，今天怎么就用不了了？
  • ModelScope下载速度慢怎么解决？
    • 展开全部
  • 轻量高效，8B 性能强劲书生科学多模态模型Intern-S1-mini开源
  • 📊 Quick BI 真实体验评测：小白也能快速上手的数据分析工具！
  • Cline：29.7K Star！一文详解VSCode最强开源AI编程搭子：一键生成代码+自动跑终端+操控浏览器...
  • FastAPI开发者福音！FastAPI-MCP：将FastAPI秒变MCP服务器的开源神器，无需配置自动转换！
  • 智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐
  • Qwen-Image-Edit：全能图像编辑，驱动内容创作提质增效
  • 魔搭社区模型速递（8.17-8.23）
  • AgentScope：阿里开源多智能体低代码开发平台，支持一键导出源码、多种模型API和本地模型部署
  • MNN-LLM App：在手机上离线运行大模型，阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
  • ModelScope体验人像卡通化模型
    • 展开全部
    还有其他疑问?
    咨询AI助理