"python -c ""from modelscope.hub.snapshot_download import snapshot_download;model_dir = snapshot_download('qwen/Qwen2-57B-A14B-Instruct',cache_dir='/data/lihongwei/modelscope/qwen2-57b-a14b-instruct/hub')""
docker run --rm --name Qwen2-57B-A14B-Instruct-server --gpus all -e MODELSCOPE_CACHE=/modelscope_cache -v /data/lihongwei/modelscope/qwen2-57b-a14b-instruct:/modelscope_cache -p 28000:8000 modelscope-registry.cn-beijing.cr.aliyuncs.com/modelscope-repo/modelscope:ubuntu22.04-cuda12.1.0-py310-torch2.3.0-tf2.16.1-1.16.0 modelscope server --model_id=qwen/Qwen2-57B-A14B-Instruct --revision=master
ModelScope中,以上执行的两条命令,依然报错,怎么解决? FileNotFoundError: [Errno 2] No such file or directory: 'qwen/Qwen2-57B-A14B-Instruct'"
"docker run --gpus all -p 8000:8000 -it -d --name ms registry.cn-beijing.aliyuncs.com/modelscope-repo/modelscope:ubuntu22.04-cuda12.1.0-py310-torch2.3.0-tf2.16.1-1.16.0 /bin/bash
然后再部署看看。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”"
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352