modelscope的.Qwen1.5-7B无法推理吗?

"modelscope的.Qwen1.5-7B无法推理吗? cea84dc12588114036546422418821a9.png

e7d46a794fba666d35e9fd3f27706583.png

43086d2a2856dd0c614ca335cb0b5643.png
"

展开
收起
小小爱吃香菜 2024-03-17 21:31:38 108 分享 版权
2 条回答
写回答
取消 提交回答
  • device_map='auto'后面加一下torch_dtype=torch.float16、torch.bfloat16或'auto'. 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-03-18 20:32:00
    赞同 展开评论
  • 将军百战死,壮士十年归!

    阿里云ModelScope(魔搭)是一个模型开放平台,模型是否能够推理取决于该平台当前提供的服务状态和具体模型的支持情况。关于.Qwen1.5-7B模型,我无法找到直接对应的信息,可能是因为模型名称有误或者是尚未公开上线的模型。

    为了确认.Qwen1.5-7B模型在ModelScope上是否可以进行推理,请您:

    1. 访问阿里云ModelScope官方网站或控制台查看最新上线的模型列表。
    2. 搜索与.Qwen1.5-7B功能相似或名称相近的大规模预训练模型,并查看其使用文档及支持的功能。
    3. 如果确实存在这个模型并且无法推理,请检查您的账号权限、模型的状态以及是否有足够的计算资源进行推理。

    如果需要得到准确答案,请直接在阿里云ModelScope官方平台上查询或者联系阿里云技术支持获取帮助。

    2024-03-18 16:09:53
    赞同 展开评论

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

热门讨论

热门文章

还有其他疑问?
咨询AI助理