开发者社区 > ModelScope模型即服务 > 正文

"ModelScope进入容器里的,执行 又报错,但是配置文件是存在的呢,怎么解决?

"ModelScope进入容器里的,执行 又报错 AssertionError: Attribute pipeline is missing from configuration.json. ,但是配置文件是存在的呢,怎么解决? modelscope 1.16.0 版本 d4b807f4b1174615bb841359a97818f1.png
0ea220e0641ad44839e2f3b625c6fb1a.png
"

展开
收起
小小爱吃香菜 2024-07-24 08:30:25 26 0
1 条回答
写回答
取消 提交回答
  • "可以先用7b模型测一下 容器中新建/xxx/xxx/qwen2-57b-a14b-instruct
    下载模型
    from modelscope.hub.snapshot_download import snapshot_download
    model_dir = snapshot_download('qwen/Qwen2-57B-A14B-Instruct',cache_dir='/xxx/xxx/qwen2-57b-a14b-instruct/hub')
    启动模型服务
    MODELSCOPE_CACHE=/xxx/xxx/qwen2-57b-a14b-instruct modelscope server --model_id=qwen/Qwen2-57B-A14B-Instruct --revision=master 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”"

    2024-07-24 16:27:06
    赞同 3 展开评论 打赏

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
冬季实战营第四期:零基础容器技术实战 立即下载
使用CNFS搭建弹性Web服务 立即下载
阿里云文件存储 NAS 在容器场景的最佳实践 立即下载