AI 助理
备案控制台
开发者社区 ModelScope模型即服务 计算机视觉 正文

ModelScope调优好qwen-7b 模型后重新跑推理但参数找不到，怎么解决？

问题1：ModelScope调优好qwen-7b 模型后，重新跑推理，这个参数找不到，怎么解决？11bc2c0fbf94c66bb57522838c09103f.png，35bcac9a046bafaed9fe33c22fa3475d.png问题2：https://github.com/modelscope/modelscope/blob/master/examples/pytorch/llm/llm_infer.py#L83
31009f3821e9a34f6cfc4b058d5c5323.png我用了魔塔里的notebook 也可以复现这个问题？
为什么这行的这个key 不存在？

展开
收起
陈幕白 2023-12-13 17:28:49 163 分享 版权
1 条回答
写回答
取消 提交回答
  • 顾九思

    回答1：看看路径是否存在，我估计你这Lora权重文件保存到其他地方了 ，然后qwen微调您参考这里的脚本，参考链接：https://github.com/modelscope/swift/tree/main/examples/pytorch/llm/scripts
    回答2：发一下您的run_sft.sh，modelscope版本，ms-swift版本，我这边debug看一下。此回答整理自钉群 “魔搭ModelScope开发者联盟群 ①”

    2023-12-13 17:43:04
    赞同 展开评论
相关问答
使用 dashscope-sdk-java 调用qwen3-max-preview模型回答问题，没有
5
0
0
千问大模型Qwen3-8B、4B、32B、235B、0.6B参数含义，需要什么配置的服务器部署？
344
1
0
部署大模型Qwen3 32B,14B,8B参数的大模型部署分别需要多少显存？
1694
1
0
vsCode今天更新之后,使用代码处的通义灵码一键修复,会自动变换模型
146
2
0
Qwen3大模型中0.6B 4B 32B 235B参数是什么意思？
128
1
0
怎么使用vllm部署最新的qwen3的mbedding 和reranker模型呢
706
0
0
千问模型写文案，有一定概率出现生成的文案缺少标点符号的情况
48
0
0
通义灵码能不能自定义LLM模型？
281
1
0
通义灵码插件对话生成响应延迟严重（DeepSeek模型尤为明显）
797
2
0
通义灵码使用deepseek-r1模型，思考都没完成还没正式回答，就中断了
230
2
0
ModelScope模型即服务

计算机视觉

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

我要提问

相关文章

  • PyTorch学习实战：AI从数学基础到模型优化全流程精解
  • 编码器-解码器架构详解：Transformer如何在PyTorch中工作
  • AI Ping：精准可靠的大模型服务性能评测平台
  • Python图片上采样工具 - RealESRGANer

    • 热门讨论

    热门文章

  • ModelScope中，模型下载默认路径在哪个路径？
  • cpu部署报错 Torch not compiled with CUDA enabled
  • 我希望通过damo-YOLO训练1500*1500的图片
  • com/action/joingroup?code=v1是什么意思
  • ModelScope下载速度慢怎么解决？
  • 如何下载modelscope模型？
  • 服务器上onnxruntime-gpu 调用结束，如何释放显存
  • 在ModelScope中，下载模型时的ssl问题怎么解决？!
  • ModelScope魔搭上的可以直接调用api用吗？
  • ModelScope中，大佬们4卡跑lora时，遇到这样的错，怎么解决？
    • 展开全部
  • X-AnyLabeling：开源的 AI 图像标注工具，支持多种标注样式，适于目标检测、图像分割等不同场景
  • Qwen2.5-VL：阿里通义千问最新开源视觉语言模型，能够理解超过1小时的长视频
  • video-analyzer：开源视频分析工具，支持提取视频关键帧、音频转录，自动生成视频详细描述
  • Cobalt：开源的流媒体下载工具，支持解析和下载全平台的视频、音频和图片，支持多种视频质量和格式，自动提取视频字幕
  • LHM：单图生成3D动画人！阿里开源建模核弹，高斯点云重构服装纹理
  • RF-DETR：YOLO霸主地位不保？开源 SOTA 实时目标检测模型，比眨眼还快3倍！
  • STAR：南京大学联合字节开源视频超分辨率增强生成框架，视频清晰度一键提升，支持从低分辨率视频生成高分辨率视频
  • EchoMimicV2：阿里推出的开源数字人项目，能生成完整数字人半身动画
  • InvSR：开源图像超分辨率生成模型，提升分辨率，修复老旧照片为超清图像
  • SNOOPI：创新 AI 文本到图像生成框架，提升单步扩散模型的效率和性能
    • 展开全部
    还有其他疑问?
    咨询AI助理