备案控制台

开发者社区 ModelScope模型即服务正文

Modelscope通义千问 GPU上是不是不支持?

Modelscope通义千问-1_8B-Chat-Int4 在NVIDIA TITAN X (Pascal) 和P100 GPU上是不是不支持? 运行提示下面错误：

展开

收起

小小爱吃香菜 2024-04-24 08:20:47 105 版权

1 条回答

写回答

取消提交回答

为了利利

您用python脚本跑一下看看。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

2024-04-24 11:53:20

赞同 1 展开评论

相关问答

千问Qwen3 32B大模型部署需要什么配置的GPU服务器？

952

1

0

ModelScope接口访问qwen-coder，报错409

142

0

0

千问Qwen3 14B大模型部署最低配置GPU服务器要求？

931

1

0

在4卡4090（24G）服务器上利用modelscope离线部署Qwen2vl-Flux时报错

241

1

0

modelscope微调后的多模态大模型Qwen-VL和graghrag相结合构建知识库的案例有嘛？

184

0

0

在modelscope-funasr如果使用GPU的话这个编译需要改什么？

371

0

0

modelscope-funasr的GPU离线转写服务的说话人识别模块要怎么配置啊？

247

0

0

modelscope-funasr的 docker gpu1.1 容器中启动服务时，报这个是啥问题？

194

1

0

modelscope-funasr能支持用gpu来做实时转写吗？

152

0

0

ModelScope中这个是从哪里下载模型的啊，感觉比下载其他模型慢的多啊？

237

1

0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

相关文章

解决方案体验 | 基于 GPU 云服务器微调 Qwen3 模型

现在选购阿里云服务器有哪些优惠政策？最新包年包月与按量付费优惠和活动价格参考

TensorRT 和 ONNX Runtime 推理优化实战：10 个降低延迟的工程技巧

Transformer参数规模深度解析：从模型聪明说到实际影响

最新：阿里云服务器租用费用，个人、学生和企业账号价格清单

热门讨论

热门文章

如何训练属于自己的AI大模型呢？有没有大佬有相关文档参考学习下

dataset的版本问题导致与modelscope不兼容

ModelScope下载速度慢怎么解决？

我希望通过damo-YOLO训练1500*1500的图片

qwen3-32b和qwen-2.5-32b-Instruct有什么区别

ModelScope中，模型下载默认路径在哪个路径？

com/action/joingroup?code=v1是什么意思

ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？

如何下载modelscope模型？

从modelscope下载模型失败，怎么回事？

展开全部

中企投资印度新能源“有戏”吗？

Qwen3-VL新成员 2B、32B来啦！更适合开发者体质

嵌入式开发必看！Keil uVision5 MDK 5.39 详细安装步骤+汉化+安装包

MNN-LLM App：在手机上离线运行大模型，阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用

AgentScope：阿里开源多智能体低代码开发平台，支持一键导出源码、多种模型API和本地模型部署

嵌入式开发必备！Keil uVision5 C51 V9.61 安装激活 + 汉化完整教程, 含（Keil MDK 5.39）

Manga Image Translator：开源的漫画文字翻译工具，支持多语言翻译并嵌入原图，保持漫画的原始风格和布局

智胜未来：国内大模型+Agent应用案例精选，以及主流Agent框架开源项目推荐

UI-Ins：让 GUI 智能体真正“看懂”用户指令的新范式

Dolphin：40语种+22方言！清华联合海天瑞声推出的语音识别大模型，识别精度超Whisper两代

展开全部

还有其他疑问?