开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

ModelScope调优好qwen-7b 模型后重新跑推理但参数找不到,怎么解决?

问题1:ModelScope调优好qwen-7b 模型后,重新跑推理,这个参数找不到,怎么解决?11bc2c0fbf94c66bb57522838c09103f.png35bcac9a046bafaed9fe33c22fa3475d.png问题2:https://github.com/modelscope/modelscope/blob/master/examples/pytorch/llm/llm_infer.py#L83
31009f3821e9a34f6cfc4b058d5c5323.png我用了魔塔里的notebook 也可以复现这个问题?
为什么这行的这个key 不存在?

展开
收起
陈幕白 2023-12-13 17:28:49 71 0
1 条回答
写回答
取消 提交回答
  • 回答1:看看路径是否存在,我估计你这Lora权重文件保存到其他地方了 ,然后qwen微调您参考这里的脚本,参考链接:https://github.com/modelscope/swift/tree/main/examples/pytorch/llm/scripts
    回答2:发一下您的run_sft.sh,modelscope版本,ms-swift版本,我这边debug看一下。此回答整理自钉群 “魔搭ModelScope开发者联盟群 ①”

    2023-12-13 17:43:04
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

相关电子书

更多
视觉AI能力的开放现状及ModelScope实战 立即下载
ModelScope助力语音AI模型创新与应用 立即下载
低代码开发师(初级)实战教程 立即下载