ModelScope调优好qwen-7b 模型后重新跑推理但参数找不到，怎么解决？
问题1：ModelScope调优好qwen-7b 模型后，重新跑推理，这个参数找不到，怎么解决？
，
问题2：https://github.com/modelscope/modelscope/blob/master/examples/pytorch/llm/llm_infer.py#L83
我用了魔塔里的notebook 也可以复现这个问题？
为什么这行的这个key 不存在？
展开
收起
1
条回答
写回答
写回答
-
回答1：看看路径是否存在，我估计你这Lora权重文件保存到其他地方了 ，然后qwen微调您参考这里的脚本，参考链接：https://github.com/modelscope/swift/tree/main/examples/pytorch/llm/scripts
回答2：发一下您的run_sft.sh，modelscope版本，ms-swift版本，我这边debug看一下。此回答整理自钉群 “魔搭ModelScope开发者联盟群 ①”2023-12-13 17:43:04赞同 展开评论 打赏
相关问答
热门讨论
热门文章
ModelScope中，模型下载默认路径在哪个路径？
9575
com/action/joingroup?code=v1是什么意思
7051
我希望通过damo-YOLO训练1500*1500的图片
8618
服务器上onnxruntime-gpu 调用结束，如何释放显存
5186
请问在 ModelScope 上的模型断网使用报这个错误啥原因了?
2179
modelscope cache 环境变量是啥？
2719
请问modelscope中，有一个依赖，kantts，要怎么安装？
1957
ModelScope中我尝试使用这个模型搭建了一个推理服务，然后报错了怎么办？
3443
ttsfrd 如何在windows安装
953
ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？
1915
展开全部
