多卡训练得到的GPT3-2.7B模型，推理pipeline加载模型时报错size mismatch
使用官网镜像registry.cn-hangzhou.aliyuncs.com/modelscope-repo/modelscope:ubuntu20.04-cuda11.3.0-py37-torch1.11.0-tf1.15.5-1.3.0 4卡V100 finetune GPT3-2.7B得到output模型文件后，用
报错模型size mismatch，刚好差了4倍 
展开
收起
3
条回答
写回答
写回答
-
尝试一下我修复的bug的版本
https://github.com/zhangzhenyu13/modelscope-debugged
2023-03-16 17:35:02赞同 1 展开评论 打赏 -
您好，给您带来的不便深表歉意，在1.3.0版本中存在GPT3存储checkpoint的一个bug，建议更新至1.3.2版本进行训练和推理
2023-03-08 21:26:21赞同 展开评论 打赏 -
相关问答
热门讨论
热门文章
modelscope-funasr大规模asr训练的话，还是用audio_datasets吗？
76
modelscope-funasr怎么使用 gpu 加速啊？
59
modelscope-funasr“实时语音识别”是可以流式输入语音然后进行识别吗？
58
官方示例报错，用funasr就正常，请问什么原因呢？
55
在modelscope-funasr我按官方的示例代码运行的，报这个错，是什么原因呀？
55
modelscope-funasr的ASR 示例代码里报这个错误，如何解决？
55
modelscope-funasr的funclip的cam++可以转成onnx吗？
51
modelscope-funasr剪片子提示这个是什么原因？
46
如何提高qwen-7b-chat-int4的并行处理能力
1164
modelscope-funasr runtime的代码是没有后处理部分吗？
44
展开全部
检索增强生成(RAG)实践：基于LlamaIndex和Qwen1.5搭建智能问答系统
427
LLM 大模型学习必知必会系列(一)：大模型基础知识篇
414
基于LangChain-Chatchat实现的本地知识库的问答应用-快速上手（检索增强生成(RAG)大模型）
441
DashVector&千问7B模型，打造极简RAG 之 基于专属知识的问答服务实践
434
RAG：AI大模型联合向量数据库和 Llama-index，助力检索增强生成技术
264
LLM 大模型学习必知必会系列(二)：提示词工程-Prompt Engineering 以及实战闯关
274
ModelScope X 昇腾910快速上手
275
使用ModelScope社区搭建OCR应用
1257
高通量基因测序在药物研发和靶向治疗中的应用（一）
769
中文竞技场（MS）大模型评测
97043
展开全部
