备案控制台登录注册

开发者社区 ModelScope模型即服务正文

请问ModelScope的模型合并是必须的吗，训练Qwen 1.5 7B chat的作用是什么呢？

请问ModelScope的模型合并是必须的吗，训练Qwen 1.5 7B chat的作用是什么呢？

收起

小小爱吃香菜 2024-05-15 16:16:17 68 发布于江西版权

举报

1 条回答

写回答

取消提交回答

为了利利

如果用的lora微调，vllm推理加速时需要合并。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

2024-05-15 22:07:06 举报

赞同 1 评论

评论
全部评论 (0)
登录后可评论

相关问答

ModelScope中qwen为什么不支持寻常其他大模型都支持的特殊字符？

63

1

0

下拉框选择的ModelScope在线模型还没一个成功的，怎么解决？

34

1

0

modelscope训练mossformer2模型时出现错误，该如何解决？

65

1

0

ModelScope模型下载下来后，.git太占空间了，删除掉不影响使用吧？

89

1

0

ModelScope中，想建立一个自己的客服ai，qwen如何集成知识库呀？

59

1

0

ModelScope中，为啥使用qwen function call调用插件？

87

1

0

modelscope-funasr这个中文模型在使用过程中推理结果会识别出现英文，为什么？

54

1

0

modelscope-funasr的SenseVoice 模型时间戳什么时候能支持？

145

0

0

modelscope-funasr的paraformer-zh模型现在推理输出，是带时间戳的吗？

145

1

0

请问modelscope上的语音合成模型可以流式输出吗？

73

1

0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

热门讨论

热门文章

ModelScope中，模型下载默认路径在哪个路径？

我希望通过damo-YOLO训练1500*1500的图片

ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？

ModelScope下载速度慢怎么解决？

在魔塔社区-模型服务里面一键部署的deepseek模型怎么使用？

无法导入 modelscope，已经pip install了

modelscope上跑报错，提示要pip install ttsfrd，搞不定

com/action/joingroup?code=v1是什么意思

ModelScope有没有人知道windows安装ttsfrd的方法或者ttsfrd源码？

ModelScope有部署qwen2-72b的么，正常推理需要多大的显存？

展开全部

阿里云通义千问向全社会开放！

通义万相Wan2.1视频模型开源！视频生成模型新标杆，支持中文字效+高质量视频生成

高效部署通义万相Wan2.1：ComfyUI文生/图生视频实战，工作流直取！

WeaveFox：蚂蚁集团推出 AI 前端智能研发平台，能够根据设计图直接生成源代码，支持多种客户端和技术栈

Trae 接入 Claude 3.7：AI 编程工具界的“卷王”，完全免费使用！

Qwen2.5-Max：阿里通义千问超大规模 MoE 模型，使用超过20万亿tokens的预训练数据

阿里开源AI视频生成大模型 Wan2.1：14B性能超越Sora、Luma等模型，一键生成复杂运动视频

深度评测 | 仅用3分钟，百炼调用满血版 Deepseek-r1 API，百万Token免费用，简直不要太爽。

高效部署通义万相Wan2.1：使用Gradio搭建WebUI体验实战

DeepSeek开源周第五弹之一！3FS：支撑V3/R1模型数据访问的高性能分布式文件系统

展开全部

还有其他疑问?

你好，我是AI助理

可以解答问题、推荐解决方案等