ModelScope中,大佬们,我使用pipline进行推理时候,按照案例,执行报这个错该怎么解决呢
我用的模型是;openbuddy-mistral7b
根据您提供的错误信息,问题可能出在模型配置文件(configuration.json)中缺少"pipeline"属性。请检查您的模型配置文件,确保其中包含以下内容:
{
"framework": "pytorch",
"task": "text-generation",
"allow_remote": true,
"pipeline": {
"type": "TextGenerationPipeline",
"model": "openbuddy-mistral7b"
}
}
如果配置文件中已经包含了这些内容,但仍然出现错误,请尝试重新下载模型文件并确保路径正确。
像是configuration.json中缺少了pipeline,您先不用pipeline,用modelcard的代码推理,这边走了一遍是可以跑的。
https://modelscope.cn/models/OpenBuddy/openbuddy-mistral-7b-v13.1/summary
——此回答整理自钉群:魔搭ModelScope开发者联盟群 ①
为了解决这个问题,请按照以下步骤操作: