备案控制台

开发者社区 > ModelScope模型即服务 > 正文

请问ModelScope中有没有啥方法能加快微调速度呢？

"用V100 32G的卡，微调qwen1half-0_5b-chat，数据集用的DAMO_NLP/lcsts_test_set，查看显存占用2G，训练需要10h+,请问ModelScope中有没有啥方法能加快微调速度呢？提交的脚本
"

展开

收起

小小爱吃香菜 2024-07-09 08:25:25 16 0

1 条回答

写回答

取消提交回答

为了利利

batch size大一些呢。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

2024-07-09 21:53:42

赞同 1 展开评论打赏

相关问答

ModelScope我微调Qwen2-7B-Instruct,loss一直不变是什么原因？

6

0

0

在modelscope-funasr中请问sensevoice微调时，训练数据怎么准备？

9

0

0

ModelScope有啥方法提高一下呢？

6

0

0

ModelScope中，微调参数里面有可能会导致模型回复中断的参数或者是数据里面没有长文本的数据？

6

1

0

ModelScope有没有对各种大模型使用各种微调方法所需要显存的统计？

7

1

0

modelscope-funasr的kantts装不上，有没有什么方法？

14

0

0

modelscope-funasr的双声道的音频文件，想在识别结果上标记左右声道，有建议的方法吗？

7

0

0

modelscope中，swift支持57b-14b混合专家的微调吗？

12

1

0

为什么modelscope微调半天出不来东西要么就是一直再说同一句话？

8

1

0

ModelScope微调qwen2不同参数的模型，分别需要的最低硬件要求是多少？

15

1

0

ModelScope模型即服务

ModelScope旨在打造下一代开源的模型即服务共享平台，为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品，让模型应用更简单！欢迎加入技术交流群：微信公众号：魔搭ModelScope社区，钉钉群号：44837352

我要提问

热门讨论

热门文章

ModelScope中，模型下载默认路径在哪个路径？

com/action/joingroup?code=v1是什么意思

ModelScope默认的下载位置是在哪里？

ModelScope有部署qwen2-72b的么，正常推理需要多大的显存？

ModelScope qwen7b、14b、72b lora微调分别需要的显存和cpu内存是多少？

服务器上onnxruntime-gpu 调用结束，如何释放显存

无法导入 modelscope，已经pip install了

请问ModelScope中，怎么修改本地运行，模型自动下载到 c 盘下？

modelscope上跑报错，提示要pip install ttsfrd，搞不定

是modelscope版本不对还是哪个模块没装？

展开全部

未来语音交互新纪元：FunAudioLLM技术揭秘与深度评测

multi-agent：多角色Agent协同合作，高效完成复杂任务

Llama 3开源！魔搭社区手把手带你推理，部署，微调和评估

阿里云通义千问向全社会开放！

vanna+qwen实现私有模型的SQL转换

开源版图生视频I2VGen-XL：单张图片生成高质量视频

大模型时代，还缺一只雨燕｜ SWIFT：魔搭社区轻量级微调推理框架

多模态AI单词助记模型体验

Phi-3：小模型，大未来！（附魔搭社区推理、微调实战教程）

【RAG实践】Rerank，让RAG更近一步

展开全部

相关课程

更多

个性化语音合成模型微调

242

1

去学习

ModelScope社区Library技术架构介绍

219

1

去学习

相关电子书

更多

视觉AI能力的开放现状及ModelScope实战 立即下载

ModelScope助力语音AI模型创新与应用 立即下载

低代码开发师（初级）实战教程 立即下载