开发者社区 > ModelScope模型即服务 > 正文

ModelScope中我实现了在windows上,怎么实现通义千问呢?

ModelScope中我实现了在windows上,实现了通义千问的Qwen-7B-Chat的离线部署多轮对话和流式输出之后,想对模型进行微调,想问一下哪里可以找到相关的资料呢?

展开
收起
小小鹿鹿鹿 2024-03-03 19:20:12 106 0
3 条回答
写回答
取消 提交回答
  • 看下ms-swift,参考:
    https://github.com/modelscope/swift/tree/main
    ,目前绝大多数LLM和多模态LLM的训练都支持。此回答来自钉群魔搭ModelScope开发者联盟群 ①。

    2024-03-05 17:40:20
    赞同 展开评论 打赏
  • 十分耕耘,一定会有一分收获!

    楼主你好,看了你的描述,如果你想对阿里云ModelScope中的Qwen-7B-Chat模型进行微调,你可以参考阿里云的官方文档和教程,以了解更多关于模型微调的细节和步骤。据我所知阿里云官方文档中有关于模型迁移学习和微调的章节,详细介绍了模型微调的流程和方法。

    2024-03-03 23:27:52
    赞同 1 展开评论 打赏
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    在ModelScope中对通义千问的Qwen-7B-Chat模型进行微调,您可以参考以下几个资源:

    1. 官方文档与代码库:您可以从Qwen-7B-Chat的GitHub仓库获取详细的微调指导和相关代码实现。这通常是获取模型微调信息的最直接和最可靠的来源。
    2. 社区分享与教程:一些技术社区和博客可能会分享他们微调Qwen-7B-Chat模型的经验和结果,例如Firefly团队分享的关于Qwen-7B模型简单微调的效果。
    3. 在线课程与工具:阿里云的PAI平台提供了快速开始和交互式建模工具PAI-DSW,其中包含了高效微调千问大模型的教程,您可以在这里学习和实践如何微调Qwen-72B-Chat模型。
    4. 学术论文与实例:研究论文和案例分析也是了解微调技术的好途径。例如,有研究者构造了修改大模型自我认知的数据集,并使用QLoRA算法在短短5分钟内完成了对Qwen7b-Chat模型的微调。
    5. 技术论坛与问答:在一些技术论坛和问答平台上,如Stack Overflow或Reddit的相关子版块,您可以找到其他开发者和研究者关于模型微调的讨论和问题解答。
    6. 专业书籍与资料:关于自然语言处理和机器学习的专业书籍通常会包含模型微调和优化的理论知识,这些资料可以帮助您更深入地理解微调的技术细节。
    2024-03-03 19:58:22
    赞同 1 展开评论 打赏

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
《云服务器运维之Windows篇》 立即下载
TAKING WINDOWS 10 KERNEL 立即下载
ECS运维指南之Windows系统诊断 立即下载