AI 助理
文档备案控制台
开发者社区 ModelScope模型即服务 正文

我的显卡有20G左右的显存,想部署一个支持多模态的量化版的qwen3.5模型,请各位给个建议。

我的显卡有20G左右的显存,想部署一个支持多模态的量化版的qwen3.5模型,请各位给个建议部署哪个版本合适，其他模型能部署也可以推荐。

展开
收起
千问3.5-27B
聆风听海 2026-03-10 16:04:34 112 分享 版权
0 条回答
写回答
取消 提交回答
相关问答
访问ECS服务器的网站提示“由于你访问的URL可能对网站造成安全威胁，您的访问被阻断”，这是什么原因？
136735
16
0
#支付宝 身份验证失败（人气大爆发，一会再试试）？
11268
2
0
支付宝H5 下载的时候，提示 【请确保该下载文件来源安全,如需浏览,请长按网址复制后使用浏览器访问】
268716
11
0
#支付宝 授权提示请在支付宝客户端打开链接
18937
19
0
购买阿里国外的云服务器是否可以访问谷歌？
87487
49
0
this xml file does not appear to have any style in
55100
11
0
今天刚刚买的阿里云香港服务器，国内无法访问，坑啊
35766
17
0
哪位有编译好的cdc 2.2.0版本能能试用flink 1.14.2的包呀？
3269
18
0
轻量级应用服务器端口问题（打不开）
32408
21
0
LoRa的网络覆盖能力范围是怎么样的？
4312
1
0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉答疑群：44837352

我要提问

相关解决方案

更多
  • OpenAI 重磅开源，快速部署GPT-OSS模型
  • 一键训练模型及部署GPU共享推理服务
  • 部署Qwen2.5-Omni，畅享多模态交互
  • 快速部署DeepSeek-OCR
  • 5 分钟轻松部署专属 CoPaw

    • 热门讨论

    热门文章

  • CoPAW配置后，对话，出现 AGENT_UNKNOWN_ERROR 如何解决
  • 部署coclaw，报错如下，怎么办？应该点击哪里？
  • 云端部署coclaw报错
  • copaw安装后，出现这个情况，在设置模型的过程中出现这个问题，如何解决
  • com/action/joingroup?code=v1是什么意思
  • ModelScope中，模型下载默认路径在哪个路径？
  • 我的显卡有20G左右的显存,想部署一个支持多模态的量化版的qwen3.5模型,请各位给个建议。
  • 我下载的gguf文件，最新的LMSTUDIO仍然无法识别什么问题
  • 请问去哪里找ModelScope里面各个模型的id？
  • dataset的版本问题导致与modelscope不兼容
    • 展开全部
  • OpenClaw（原 Clawdbot）钉钉对接保姆级教程 手把手教你打造自己的 AI 助手
  • 保姆级 OpenClaw （原 Clawdbot）飞书对接教程 手把手教你搭建 AI 助手
  • 中企投资印度新能源“有戏”吗？
  • Qwen3.5 中等规模模型系列正式开源：更强智能，更低算力
  • MiniMax M2.5 开源，低成本Agent时代来了！社区Day0部署、工具调用、推理&提示词参数实战来啦！
  • Qwen3.5：迈向原生多模态智能体
  • 嵌入式开发必备！Keil uVision5 C51 V9.61 安装激活 + 汉化完整教程, 含（Keil MDK 5.39）
  • [大模型实战 01] 本地大模型初体验：Ollama 部署与 Python 调用指南
  • MNN-LLM App：在手机上离线运行大模型，阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
  • OpenClaw 注册 Moltbook 教程 让你的个人 OpenClaw Agent 加入全球最大 AI 社区
    • 展开全部
    还有其他疑问?
    咨询AI助理