问题一:请问modelscope中在本地安装环境时候,官方提供了CPU环境镜像怎么使用呢
请问modelscope中在本地安装环境时候,官方提供了CPU环境镜像怎么使用呢
参考回答:
在pipeline构造参数时可选CPU
task: 任务名称,必填 model: 模型名称或模型实例,可选。不填时使用该任务默认模型 preprocessor: 预处理器实例,可选。不填时使用模型配置文件中的预处理器 device: 运行设备,可选。值为cpu, cuda, gpu, gpu:X or cuda:X,默认gpu
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/491704?spm=a2c6h.14164896.0.0.53bc26058D8QL6
问题二:这里的镜像部署,可以选择modelscope上的模型吗啊?
模型怎么部署在线服务?modelscope上的模型, 这里的镜像部署,可以选择modelscope上的模型吗啊?
参考回答:
https://modelscope.cn/docs/%E9%83%A8%E7%BD%B2EAS 目前好像还不可以,但是我们有计划推进
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/493120?spm=a2c6h.14164896.0.0.53bc26058D8QL6
问题三:ModelScope这个镜像部署过为啥我下载好了镜像,但是容器却起不起来啊?
ModelScope这个镜像部署过为啥我下载好了镜像,但是容器却起不起来啊?
参考回答:
windows什么x86?估计GPU环境很难启动起来,你可以试下CPU
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/484255?spm=a2c6h.14164896.0.0.53bc26058D8QL6
问题四:哈喽 请教下ModelScope把模型部署到EAS上 为什么镜像拉不下来 ?
哈喽 请教下ModelScope把模型部署到EAS上 为什么镜像拉不下来? 通过文档里https://modelscope.cn/docs/%E9%83%A8%E7%BD%B2EAS#%E6%A6%82%E8%A6%81 示例代码创建的 ? 镜像地址是:registry-vpc.cn-hangzhou.aliyuncs.com/modelscope-repo/modelscope:model_deploy-1.3.0_gpu
参考回答:
这个是磁盘不足了,这个问题我们内部讨论下怎么解决,能不能先用cpu版本部署下,有些体积比较大的模型用gpu部署会出现这个情况
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/493106?spm=a2c6h.14164896.0.0.46ad2605da7QxT
问题五:下载ModelScope的推荐的基础镜像失败,要怎么解决啊?
下载ModelScope的推荐的基础镜像失败,要怎么解决啊? [internal] load metadata for reg.docker.alibaba-inc.com/modelscope/ubuntu:20.04-cuda11.3.0-cudnn8-devel:
failed to solve with frontend dockerfile.v0: failed to create LLB definition: failed to do request: Head "https://reg.docker.alibaba-inc.com/v2/modelscope/ubuntu/manifests/20.04-cuda11.3.0-cudnn8-devel": unable to connect to 100.67.30.104:443
参考回答:
这个镜像目前没有上传,你可以参考ubuntu20.04安装cuda11.3.0和cudnn8
关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/484261?spm=a2c6h.14164896.0.0.46ad2605da7QxT