ModelScope调优好qwen-7b 模型后重新跑推理但参数找不到,怎么解决?

问题1:ModelScope调优好qwen-7b 模型后,重新跑推理,这个参数找不到,怎么解决?11bc2c0fbf94c66bb57522838c09103f.png35bcac9a046bafaed9fe33c22fa3475d.png问题2:https://github.com/modelscope/modelscope/blob/master/examples/pytorch/llm/llm_infer.py#L83
31009f3821e9a34f6cfc4b058d5c5323.png我用了魔塔里的notebook 也可以复现这个问题?
为什么这行的这个key 不存在?

展开
收起
陈幕白 2023-12-13 17:28:49 160 分享 版权
1 条回答
写回答
取消 提交回答
  • 回答1:看看路径是否存在,我估计你这Lora权重文件保存到其他地方了 ,然后qwen微调您参考这里的脚本,参考链接:https://github.com/modelscope/swift/tree/main/examples/pytorch/llm/scripts
    回答2:发一下您的run_sft.sh,modelscope版本,ms-swift版本,我这边debug看一下。此回答整理自钉群 “魔搭ModelScope开发者联盟群 ①”

    2023-12-13 17:43:04
    赞同 展开评论

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

热门讨论

热门文章

还有其他疑问?
咨询AI助理