AI 助理
文档备案控制台
开发者社区 ModelScope模型即服务 正文

魔搭创空间使用vllm，如何不从modelscope下载模型而是加载本地上传的模型

我在魔搭的创空间里部署了一个模型，并使用了正常的vllm来加载模型，但是他每次都会从modelscope里下载模型，但我已经在创空间里上传了模型，我希望他可以直接加载本地模型，该怎么设置参数

展开
收起
happyzzm-30416 2024-05-08 16:50:04 738 分享 版权
1 条回答
写回答
取消 提交回答
相关问答
使用modelscope下载开源大模型时出错
297
0
0
为什么modelscope模型库里面chinese-hubert-base 页面是错误，是模型下架吗
214
0
0
如何解决：modelscope 上下载模型失败，报：10022
542
0
0
如何用python 加载ModelScope中的模型
583
1
0
modelscope官方docker镜像下载后在windows下如何运行
1049
2
0
想请问下ModelScope里Vllm部署了qwen1.5-32B之后，它无限输出日志 怎么解决？
528
0
0
modelscope 已建的公开创空间，想不定期增加附加知识库，怎样重新上传新？
158
0
0
modelscope空间未能成功发布怎么回事
153
1
0
modelscope-funasr这个量化模型在哪里下载？
245
0
0
您好我想问一下，在modelscope用OneKE模型去做知识图谱应该用re 还是ner 呀？
158
0
0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉答疑群：44837352

我要提问

热门讨论

热门文章

  • CoPAW配置后，对话，出现 AGENT_UNKNOWN_ERROR 如何解决
  • copaw安装后，出现这个情况，在设置模型的过程中出现这个问题，如何解决
  • 部署coclaw，报错如下，怎么办？应该点击哪里？
  • 云端部署coclaw报错
  • com/action/joingroup?code=v1是什么意思
  • copaw安装后选择ollma为啥报错不能安装相关模型？
  • ModelScope中，模型下载默认路径在哪个路径？
  • 我下载的gguf文件，最新的LMSTUDIO仍然无法识别什么问题
  • dataset的版本问题导致与modelscope不兼容
  • ModelScope中apikey在哪申请？
    • 展开全部
  • OpenClaw（原 Clawdbot）钉钉对接保姆级教程 手把手教你打造自己的 AI 助手
  • 保姆级 OpenClaw （原 Clawdbot）飞书对接教程 手把手教你搭建 AI 助手
  • 中企投资印度新能源“有戏”吗？
  • Qwen3.5 中等规模模型系列正式开源：更强智能，更低算力
  • Qwen3.5：迈向原生多模态智能体
  • MiniMax M2.5 开源，低成本Agent时代来了！社区Day0部署、工具调用、推理&提示词参数实战来啦！
  • MNN-LLM App：在手机上离线运行大模型，阿里巴巴开源基于 MNN-LLM 框架开发的手机 AI 助手应用
  • 嵌入式开发必备！Keil uVision5 C51 V9.61 安装激活 + 汉化完整教程, 含（Keil MDK 5.39）
  • [大模型实战 01] 本地大模型初体验：Ollama 部署与 Python 调用指南
  • 别再用 LangChain 搭 RAG 了：Dify 和 n8n 哪个才是你真正需要的
    • 展开全部
    还有其他疑问?
    咨询AI助理