想问一下modelscope验证集可以自己添加一个路径他就能在训练的时候用到吗？
想问一下modelscope验证集可以自己添加一个路径他就能在训练的时候用到吗？因为它原本是没有验证集这个路径的 
是infer.sh和sft.sh这两个版本吗？有在模型后面➕全连接层做分类的吗？可以给一个具体的路径吗？另外，如果使用官网的finetune_lora_single_gpu.sh微调方法，是在qwen模型的class QWenAttention(nn.Module):这个类中加全连接层吗？
展开
收起
1
条回答
写回答
-
"请参考此链接： https://github.com/modelscope/swift/tree/main/examples/pytorch/llm/scripts
sft.sh是微调用的，infer.sh推理用 docs下有文档，里面有微调和推理。文本分类的模型一般相对较小，您在modelscope模型库中点文本分类可以看到 ，请参考此链接： https://modelscope.cn/docs/%E6%96%87%E6%9C%AC%E5%88%86%E7%B1%BB%E4%BB%BB%E5%8A%A1您用了这个脚本微调https://github.com/QwenLM/Qwen/blob/main/finetune/finetune_lora_single_gpu.sh 。qwen微调用刚才发您的swift比较方便，--lora_target_modules可以配置，也有详细的文档说明。
此回答整理自钉群“魔搭ModelScope开发者联盟群 ①” "2023-12-18 22:08:35赞同 展开评论
相关问答
相关文章
热门讨论
热门文章
展开全部
展开全部
还有其他疑问?
咨询AI助理