GPT3-2.7B用8卡训练时意外中断，如何恢复训练
用8卡拉起来的训练，ckpt被分成很多个，如下， 
目前官网看到恢复训练的代码是load .pth文件。
这么多个分片的参数文件如何加载？
展开
收起
1
条回答
写回答
写回答
-
您好，与文档中load模型类似，checkpoint_path 只需填写到 os.path.join(self.tmp_dir, 'epoch_1')，或是 iter_xxx 这一级即可，不用添加 .pth 后缀，读取过程后面会自动拼接文件名
2023-03-22 22:42:09赞同 展开评论 打赏
相关问答
热门讨论
热门文章
请问微调开元模型qwe1.5b 和 7b 分别支持数据集的上下文长度是多少个汉字/token？
386
如何提高qwen-7b-chat-int4的并行处理能力
923
如何下载llama模型到本地？
1975
Distributed package doesn't have NCCL built in
692
本地运行示例报错No module named 'deepspeed'
2603
modelscope-funasr这个是说明已经支持GPU了吗？
27
第二次modelscope-funasr调用的时候，明显变慢了，而且 cpu 消耗变大了，怎么回事？
23
关于通义千问Qwen-7B-Chat模型下载问题
1061
modelscope-funasr推理可以在gpu上运行么？
105
modelscope-funasr这个命令可以直接在win10系统下装docker吗？
23
展开全部
基于LangChain-Chatchat实现的本地知识库的问答应用-快速上手（检索增强生成(RAG)大模型）
124
检索增强生成(RAG)实践：基于LlamaIndex和Qwen1.5搭建智能问答系统
107
LLM 大模型学习必知必会系列(一)：大模型基础知识篇
93
RAG：AI大模型联合向量数据库和 Llama-index，助力检索增强生成技术
65
LLM 大模型学习必知必会系列(二)：提示词工程-Prompt Engineering 以及实战闯关
65
DashVector&千问7B模型，打造极简RAG 之 基于专属知识的问答服务实践
218
使用ModelScope社区搭建OCR应用
1191
表格问答
553
ModelScope X 昇腾910快速上手
173
AI + 分子模拟，赋能药物发现新源头（三）
511
展开全部
