开发者社区 > ModelScope模型即服务 > 自然语言处理 > 正文

modelscope如何加载pth文件?

训练晚1个epoch后主动停止,得到pth文件,没有output文件夹里的pytorch_model.bin之类的文件,如何处理才能像下面这种用法一样做推理?

text_generation_zh = pipeline(
    Tasks.text_generation, 
    model="./gpt3_poetry_base/output",
)

展开
收起
makerbi 2023-02-24 08:07:17 1198 1
5 条回答
写回答
取消 提交回答
  • modelscope如何加载pth文件? makerbi2023-02-24发布于江苏 自然语言处理 训练晚1个epoch后主动停止,得到pth文件,没有output文件夹里的pytorch_model.bin之类的文件,如何处理才能像下面这种用法一样做推理?

    text_generation_zh = pipeline(     Tasks.text_generation,      model="./gpt3_poetry_base/output", ) 展开 146 浏览1 关注 4条回答

    牧羊吖

    月移花影,暗香浮动 可以使用PyTorch的torch.save函数将训练后的模型保存为pytorch_model.bin文件,然后使用BertForSequenceClassification.from_pretrained函数从output/文件夹中加载模型,并将其设置为评估模式。

    model = BertForSequenceClassification.from_pretrained("output/") model.eval() 2023-02-24发布于四川 0 1

    魏红斌

    天下风云出我辈,一入江湖岁月催 我们可以使用模型的load _state_dict方法将它们加载到 resnet18 中。.pth文件报存了模型的权重,这个文件只是一个模型张量参数的pickle文件。

    2023-02-24发布于北京 0 0

    凌云Cloud

    发表文章、提出问题、分享经验、结交志同道合的朋友 你好,我最近也在接触 modelscope 训练模型 ,遇到过类似问题,希望对你有所帮助。

    需要将该.pth文件转换为 PyTorch 预训练模型的完整检查点。可以使用convert_gpt2_checkpoint_to_pytorch.py 脚本,然后将生成的文件夹作为模型路径传递给pipeline函数。

    python convert_gpt2_checkpoint_to_pytorch.py --model_type=gpt2 --checkpoint_path=path/to/checkpoint.pth --config_file=path/to/config.json --pytorch_dump_folder_path=path/to/pytorch_dump_folder

    2023-02-24发布于浙江 1 0

    凌云Cloud 转换完成后,得到一个包含完整的检查点文件的文件夹,其中包含pytorch_model.bin 等其他必要的文件,然后此文件夹路径传递给 pipeline 函数即可进行推理。 2023-02-24发布于浙江 0 0

    三掌柜666

    十分耕耘,一定会有一分收获! 楼主你好,你可以使用模型的load_state_dict方法将它们加载到resnet18中,因为.pth文件保存了模型的权重,但是该文件只是一个模型张量参数的pickle文件。

    2023-02-24发布于江苏 0 1 我到底啦~ + 关注问题 复制 举报 取消

    2023-02-25 17:33:27
    赞同 展开评论 打赏
  • 月移花影,暗香浮动

    可以使用PyTorch的torch.save函数将训练后的模型保存为pytorch_model.bin文件,然后使用BertForSequenceClassification.from_pretrained函数从output/文件夹中加载模型,并将其设置为评估模式。

    model = BertForSequenceClassification.from_pretrained("output/")
    model.eval()
    
    2023-02-24 10:26:00
    赞同 1 展开评论 打赏
  • 天下风云出我辈,一入江湖岁月催,皇图霸业谈笑中,不胜人生一场醉。

    我们可以使用模型的load _state_dict方法将它们加载到 resnet18 中。.pth文件报存了模型的权重,这个文件只是一个模型张量参数的pickle文件。

    2023-02-24 09:54:48
    赞同 展开评论 打赏
  • 发表文章、提出问题、分享经验、结交志同道合的朋友

    你好,我最近也在接触 modelscope 训练模型 ,遇到过类似问题,希望对你有所帮助。

    需要将该.pth文件转换为 PyTorch 预训练模型的完整检查点。可以使用convert_gpt2_checkpoint_to_pytorch.py 脚本,然后将生成的文件夹作为模型路径传递给pipeline函数。

    python convert_gpt2_checkpoint_to_pytorch.py --model_type=gpt2 --checkpoint_path=path/to/checkpoint.pth --config_file=path/to/config.json --pytorch_dump_folder_path=path/to/pytorch_dump_folder
    
    
    2023-02-24 09:36:29
    赞同 展开评论 打赏
  • 十分耕耘,一定会有一分收获!

    楼主你好,你可以使用模型的load_state_dict方法将它们加载到resnet18中,因为.pth文件保存了模型的权重,但是该文件只是一个模型张量参数的pickle文件。

    2023-02-24 09:01:48
    赞同 1 展开评论 打赏

包含命名实体识别、文本分类、分词、关系抽取、问答、推理、文本摘要、情感分析、机器翻译等多个领域

相关产品

  • 自然语言处理
  • 相关电子书

    更多
    视觉AI能力的开放现状及ModelScope实战 立即下载
    ModelScope助力语音AI模型创新与应用 立即下载
    低代码开发师(初级)实战教程 立即下载