1
条回答
写回答
写回答
-
可以确认，百炼（QLoRA）支持Qwen1.5系列模型的微调。
在文档中提到，Qwen1.5系列模型可以通过QLoRA轻量化微调方式进行训练任务的运行。
不过请注意，具体的资源配置要求会根据模型规模有所不同。 例如：- 对于qwen1.5-0.5b/1.8b/4b/7b模型，要求使用V100/P00/T4（16 GB显存）及以上卡型运行训练任务。
- 对于qwen1.5-14b模型，则需要使用V100（32 GB显存）/A10及以上卡型运行训练任务。
https://help.aliyun.com/zh/pai/user-guide/deploy-and-fine-tune-qwen-1-5-models?spm=5176.28508143.0.0.1fb6154a55wx7g&scm=20140722.S_help@@%E6%96%87%E6%A1%A3@@2708742@@1.S_llmOS0.ID_901869-RL_%E7%99%BE%E7%82%BC%E6%94%AF%E6%8C%81qwen15%E5%BE%AE%E8%B0%83-LOC_chatllm-OR_ser-V_3-P0_0
2024-07-26 14:01:37赞同 6 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
问答排行榜
最热
最新
推荐问答
