ModelScope问题之加载模型时报错size mismatch如何解决

本文涉及的产品
交互式建模 PAI-DSW,5000CU*H 3个月
简介: ModelScope镜像是指用于在ModelScope平台上创建和管理的容器镜像,这些镜像包含用于模型训练和推理的环境和依赖;本合集将说明如何使用ModelScope镜像以及管理镜像的技巧和注意事项。

问题一:ModelScope魔搭镜像封装之后也是需要联网才能调用的吗?


ModelScope魔搭镜像封装之后也是需要联网才能调用的吗?


参考回答:

https://modelscope.cn/docs/%E5%B8%B8%E8%A7%81%E9%97%AE%E9%A2%98 q5 镜像上不包括模型文件。如果模型文件已经下载到本地可以不联网(虽然还是推荐联网)


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/493679?spm=a2c6h.14164896.0.0.53bc26058D8QL6


问题二:请问ModelScope创空间上线环境镜像是固定的吗?如果想用其他的python版本可以吗?


请问ModelScope创空间上线环境镜像是固定的吗?如果想用其他的python版本可以吗?


参考回答:

可以的,具体需要哪个?python3.8以上? deployspec: image_id: "mshub-registry.cn-zhangjiakou.cr.aliyuncs.com/modelscope-repo/studio-service-cpu:ubuntu20.04-py38-torch1.11.0-tf2.5.3-1.4.3-gr3.20.1-0.7.4"

在readme.md文件中的deployspec配置下, 加一个image_id字段。 后续我们会提供更加方便的配置方法。 如果是gpu创空间,需要使用这个镜像 mshub-registry-vpc.cn-zhangjiakou.cr.aliyuncs.com/modelscope-repo/studio-service-gpu:ubuntu20.04-cuda11.3.0-py38-torch1.11.0-tf2.5.3-1.4.3-gr3.20.1-0.7.4


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/505694?spm=a2c6h.14164896.0.0.53bc26058D8QL6


问题三:ModelScope使用镜像难道不是应该一键运行的吗?怎么下载完镜像还得改镜像里的配置文件啊


ModelScope使用镜像难道不是应该一键运行的吗?怎么下载完镜像还得改镜像里的配置文件啊


参考回答:

容器没有预置命令,从结果看,容器跑了,没有要跑的东西直接就退出了


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/484257?spm=a2c6h.14164896.0.0.53bc26058D8QL6


问题四:ModelScope文档上的镜像要怎么使用?


ModelScope文档上的镜像要怎么使用?


参考回答:

docker pull


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/493166?spm=a2c6h.14164896.0.0.53bc26058D8QL6


问题五:多卡训练得到的GPT3-2.7B模型,推理pipeline加载模型时报错size mismatch


使用官网镜像registry.cn-hangzhou.aliyuncs.com/modelscope-repo/modelscope:ubuntu20.04-cuda11.3.0-py37-torch1.11.0-tf1.15.5-1.3.0 4卡V100 finetune GPT3-2.7B得到output模型文件后,用

报错模型size mismatch,刚好差了4倍


参考回答:

尝试一下我修复的bug的版本

https://github.com/zhangzhenyu13/modelscope-debugged

目录
相关文章
|
1月前
|
API 语音技术
ModelScope-FunASR**有支持热词又支持时间戳的模型**。
【2月更文挑战第30天】ModelScope-FunASR**有支持热词又支持时间戳的模型**。
27 2
|
1月前
|
人工智能 API 决策智能
Modelscope结合α-UMi:基于Modelscope的多模型协作Agent
基于单个开源小模型的工具调用Agent,由于模型容量和预训练能力获取的限制,无法在推理和规划、工具调用、回复生成等任务上同时获得比肩大模型等性能。
|
2月前
|
文字识别 并行计算 语音技术
ModelScope问题之下载模型文件报错如何解决
ModelScope模型报错是指在使用ModelScope平台进行模型训练或部署时遇到的错误和问题;本合集将收集ModelScope模型报错的常见情况和排查方法,帮助用户快速定位问题并采取有效措施。
218 3
|
1月前
|
人工智能 达摩院 自然语言处理
超好用的开源模型平台,ModelScope阿里达摩院
超好用的开源模型平台,ModelScope阿里达摩院
|
2月前
|
人工智能 自然语言处理 搜索推荐
魔搭ModelScope社区作为一个AI模型开源平台,提供了丰富的模型资源和便捷的服务
【2月更文挑战第9天】魔搭ModelScope社区作为一个AI模型开源平台,提供了丰富的模型资源和便捷的服务
162 3
|
2月前
|
API
使用ModelScope平台进行模型验证时
【2月更文挑战第9天】使用ModelScope平台进行模型验证时
59 4
|
1月前
modelscope-funasr怎么拿验证集评估微调后的模型效果呢
【2月更文挑战第19天】modelscope-funasr怎么拿验证集评估微调后的模型效果呢
25 1
|
2月前
|
并行计算 计算机视觉 异构计算
ModelScope问题之官方模型demo运行时候报错如何解决
ModelScope模型报错是指在使用ModelScope平台进行模型训练或部署时遇到的错误和问题;本合集将收集ModelScope模型报错的常见情况和排查方法,帮助用户快速定位问题并采取有效措施。
75 3
|
2月前
|
缓存 自然语言处理 大数据
ModelScope问题之运行模型报错如何解决
ModelScope模型报错是指在使用ModelScope平台进行模型训练或部署时遇到的错误和问题;本合集将收集ModelScope模型报错的常见情况和排查方法,帮助用户快速定位问题并采取有效措施。
74 0
|
2月前
|
编解码 自然语言处理 API
ModelScope问题之翻译模型给的例子报错如何解决
ModelScope模型报错是指在使用ModelScope平台进行模型训练或部署时遇到的错误和问题;本合集将收集ModelScope模型报错的常见情况和排查方法,帮助用户快速定位问题并采取有效措施。
49 2

热门文章

最新文章