"modelscope的.Qwen1.5-7B无法推理吗?
"
device_map='auto'后面加一下torch_dtype=torch.float16、torch.bfloat16或'auto'. 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”
阿里云ModelScope(魔搭)是一个模型开放平台,模型是否能够推理取决于该平台当前提供的服务状态和具体模型的支持情况。关于.Qwen1.5-7B
模型,我无法找到直接对应的信息,可能是因为模型名称有误或者是尚未公开上线的模型。
为了确认.Qwen1.5-7B
模型在ModelScope上是否可以进行推理,请您:
.Qwen1.5-7B
功能相似或名称相近的大规模预训练模型,并查看其使用文档及支持的功能。如果需要得到准确答案,请直接在阿里云ModelScope官方平台上查询或者联系阿里云技术支持获取帮助。
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352