"ModelScope进入容器里的,执行 又报错 AssertionError: Attribute pipeline is missing from configuration.json. ,但是配置文件是存在的呢,怎么解决? modelscope 1.16.0 版本
"
"可以先用7b模型测一下 容器中新建/xxx/xxx/qwen2-57b-a14b-instruct
下载模型
from modelscope.hub.snapshot_download import snapshot_download
model_dir = snapshot_download('qwen/Qwen2-57B-A14B-Instruct',cache_dir='/xxx/xxx/qwen2-57b-a14b-instruct/hub')
启动模型服务
MODELSCOPE_CACHE=/xxx/xxx/qwen2-57b-a14b-instruct modelscope server --model_id=qwen/Qwen2-57B-A14B-Instruct --revision=master 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”"
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352