ModelScope中Qwen-7B-Instruct支持的显卡有哪些呢 ？
"ModelScope中Qwen-7B-Instruct支持的显卡有哪些呢 ？ 运行一直有报错：
Some parameters are on the meta device device because they were offloaded to the cpu.
Special tokens have been added in the vocabulary, make sure the associated word embeddings are fine-tuned or trained."
展开
收起
相关问答
ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352
热门讨论
热门文章
ModelScope中，模型下载默认路径在哪个路径？
7264
ModelScope默认的下载位置是在哪里？
1060
ModelScope有部署qwen2-72b的么，正常推理需要多大的显存？
2782
ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？
3237
modelscope-funasr的FunClip怎么安装的？
323
请问ModelScope中，怎么修改本地运行，模型自动下载到 c 盘下？
4441
服务器上onnxruntime-gpu 调用结束，如何释放显存
4607
ModelScope下载速度慢怎么解决？
773
无法导入 modelscope，已经pip install了
2684
com/action/joingroup?code=v1是什么意思
6058
展开全部
阿里云通义千问向全社会开放！
24877
Llama 3开源，魔搭社区手把手带你推理，部署，微调和评估
9922
multi-agent：多角色Agent协同合作，高效完成复杂任务
31386
NPU推理&微调大模型实战
1330
从RMSE和MSE到更多选择：探索机器学习模型性能指标
2854
社区供稿 | 10G显存，通义千问-7B-int4消费级显卡最佳实践
26335
【RAG实践】Rerank，让RAG更近一步
2180
vanna+qwen实现私有模型的SQL转换
4146
开源版图生视频I2VGen-XL：单张图片生成高质量视频
3249
【机器学习技巧】回归模型的几个常用评估指标（R2、Adjusted-R2、MSE、RMSE、MAE、MAPE）及其在sklearn中的调用方式
3955
展开全部
