ModelScope问题之加载模型时报错size mismatch如何解决

本文涉及的产品
模型训练 PAI-DLC,5000CU*H 3个月
交互式建模 PAI-DSW,每月250计算时 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
简介: ModelScope镜像是指用于在ModelScope平台上创建和管理的容器镜像,这些镜像包含用于模型训练和推理的环境和依赖;本合集将说明如何使用ModelScope镜像以及管理镜像的技巧和注意事项。

问题一:ModelScope魔搭镜像封装之后也是需要联网才能调用的吗?


ModelScope魔搭镜像封装之后也是需要联网才能调用的吗?


参考回答:

https://modelscope.cn/docs/%E5%B8%B8%E8%A7%81%E9%97%AE%E9%A2%98 q5 镜像上不包括模型文件。如果模型文件已经下载到本地可以不联网(虽然还是推荐联网)


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/493679?spm=a2c6h.14164896.0.0.53bc26058D8QL6


问题二:请问ModelScope创空间上线环境镜像是固定的吗?如果想用其他的python版本可以吗?


请问ModelScope创空间上线环境镜像是固定的吗?如果想用其他的python版本可以吗?


参考回答:

可以的,具体需要哪个?python3.8以上? deployspec: image_id: "mshub-registry.cn-zhangjiakou.cr.aliyuncs.com/modelscope-repo/studio-service-cpu:ubuntu20.04-py38-torch1.11.0-tf2.5.3-1.4.3-gr3.20.1-0.7.4"

在readme.md文件中的deployspec配置下, 加一个image_id字段。 后续我们会提供更加方便的配置方法。 如果是gpu创空间,需要使用这个镜像 mshub-registry-vpc.cn-zhangjiakou.cr.aliyuncs.com/modelscope-repo/studio-service-gpu:ubuntu20.04-cuda11.3.0-py38-torch1.11.0-tf2.5.3-1.4.3-gr3.20.1-0.7.4


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/505694?spm=a2c6h.14164896.0.0.53bc26058D8QL6


问题三:ModelScope使用镜像难道不是应该一键运行的吗?怎么下载完镜像还得改镜像里的配置文件啊


ModelScope使用镜像难道不是应该一键运行的吗?怎么下载完镜像还得改镜像里的配置文件啊


参考回答:

容器没有预置命令,从结果看,容器跑了,没有要跑的东西直接就退出了


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/484257?spm=a2c6h.14164896.0.0.53bc26058D8QL6


问题四:ModelScope文档上的镜像要怎么使用?


ModelScope文档上的镜像要怎么使用?


参考回答:

docker pull


关于本问题的更多回答可点击原文查看:https://developer.aliyun.com/ask/493166?spm=a2c6h.14164896.0.0.53bc26058D8QL6


问题五:多卡训练得到的GPT3-2.7B模型,推理pipeline加载模型时报错size mismatch


使用官网镜像registry.cn-hangzhou.aliyuncs.com/modelscope-repo/modelscope:ubuntu20.04-cuda11.3.0-py37-torch1.11.0-tf1.15.5-1.3.0 4卡V100 finetune GPT3-2.7B得到output模型文件后,用

报错模型size mismatch,刚好差了4倍


参考回答:

尝试一下我修复的bug的版本

https://github.com/zhangzhenyu13/modelscope-debugged

相关文章
|
6月前
|
自然语言处理
在ModelScope中,你可以通过设置模型的参数来控制输出的阈值
在ModelScope中,你可以通过设置模型的参数来控制输出的阈值
162 1
|
6月前
|
API 语音技术
ModelScope-FunASR**有支持热词又支持时间戳的模型**。
【2月更文挑战第30天】ModelScope-FunASR**有支持热词又支持时间戳的模型**。
214 2
|
6月前
|
人工智能 API 决策智能
Modelscope结合α-UMi:基于Modelscope的多模型协作Agent
基于单个开源小模型的工具调用Agent,由于模型容量和预训练能力获取的限制,无法在推理和规划、工具调用、回复生成等任务上同时获得比肩大模型等性能。
|
6月前
|
人工智能 达摩院 自然语言处理
超好用的开源模型平台,ModelScope阿里达摩院
超好用的开源模型平台,ModelScope阿里达摩院
470 1
|
3月前
|
人工智能 开发框架 物联网
赢万元奖金 | 第七届CCF开源创新大赛ModelScope开源模型应用挑战赛开启报名!
第七届CCF开源创新大赛(后简称“大赛”) 由中国计算机学会(CCF)主办,长沙理工大学、CCF开源发展委员会联合承办。
|
6月前
|
人工智能 自然语言处理 搜索推荐
魔搭ModelScope社区作为一个AI模型开源平台,提供了丰富的模型资源和便捷的服务
【2月更文挑战第9天】魔搭ModelScope社区作为一个AI模型开源平台,提供了丰富的模型资源和便捷的服务
452 3
|
5月前
|
人工智能 开发工具 Swift
ModelScope联手OpenDataLab:直接调用7000+开源数据集,赋能AI模型加速研发
魔搭社区和OpenDatalab浦数合作,共同开启一场模型与数据的深度融合,旨在为中国开发者打造更加高效、开放的AI体验。
|
6月前
|
机器学习/深度学习 人工智能 Swift
PAI x ModelScope: 在PAI使用ModelScope模型
在当前的人工智能领域,特别是大语言模型、文生图等领域,基于预训练模型完成机器学习模型的开发部署已成为重要的应用范式,开发者们依赖于这些先进的开源预训练模型,以简化机器学习应用的开发并加速创新。
|
6月前
|
机器学习/深度学习 测试技术 TensorFlow
ModelScope模型使用与EAS部署调用
本文以魔搭数据的模型为例,演示在DSW实例中如何快速调用模型,然后通过Python SDK将模型部署到阿里云PAI EAS服务,并演示使用EAS SDK实现对服务的快速调用,重点针对官方关于EAS模型上线后示例代码无法正常调通部分进行了补充。
229 2
|
6月前
modelscope-funasr怎么拿验证集评估微调后的模型效果呢
【2月更文挑战第19天】modelscope-funasr怎么拿验证集评估微调后的模型效果呢
88 1

热门文章

最新文章

下一篇
无影云桌面