开发者社区 > ModelScope模型即服务 > 正文

加载ModelScope模型以后,为什么调用,model.chat()会提示错误?

"加载ModelScope模型以后,为什么调用,model.chat()会提示错误?AttributeError: 'Qwen2ForCausalLM' object has no attribute 'chat'呀[捂脸哭];model = AutoModelForCausalLM.from_pretrained(
""E:/work/git_repo/Qwen1.5-7B-Chat"",
device_map=""auto"",
trust_remote_code=True
).eval()"

展开
收起
Lucidly 2024-03-27 08:50:07 473 0
4 条回答
写回答
取消 提交回答
  • 根据您提供的信息,出现错误提示AttributeError: 'Qwen2ForCausalLM' object has no attribute 'chat'可能是因为您加载的模型没有包含名为chat的方法。

    在ModelScope中,每个模型都有其特定的功能和接口,因此需要确保您加载的模型包含了您想要调用的方法。在这种情况下,您可能需要检查您的代码以及所使用的模型是否具有chat方法。

    另外,如果您使用的是自定义的模型,并且该模型没有实现chat方法,那么您需要自行实现该方法。您可以查看ModelScope提供的文档和示例代码,了解如何为自定义模型添加新的方法。

    最后,建议您仔细检查您的代码和模型配置,确保它们与ModelScope的要求和规范一致。如果问题仍然存在,您可以尝试联系ModelScope的技术支持团队,以获取更详细的帮助和支持。

    2024-03-29 16:28:26
    赞同 29 展开评论 打赏
  • 根据您提供的信息,出现错误提示“AttributeError: 'Qwen2ForCausalLM' object has no attribute 'cht'”可能是因为您加载的模型没有包含名为“cha方法或属性。

    在odelScope中,不同的模型可能具有不同的功能和接口。如果您加载的模型是用于生成对话的模型,那么它可能不包含名为“chat”的方法或属性。

    为了解决这个问题,您可以查看该模型的文档或源代码,了解其提供的方法和属性,并使用正确的方法来调用模型。另外,您还可以尝试使用其他可用的方法或属性来与模型进行交互。

    希望这些信息对您有所帮助!

    2024-03-27 18:22:41
    赞同 26 展开评论 打赏
  • 升级个最新试试。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-03-27 12:46:45
    赞同 27 展开评论 打赏
  • 阿里云大降价~

    根据您提供的信息出现错误提示“AttributeError: 'Qwen2ForC

    2024-03-27 09:18:21
    赞同 25 展开评论 打赏

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
视觉AI能力的开放现状及ModelScope实战 立即下载
ModelScope助力语音AI模型创新与应用 立即下载
低代码开发师(初级)实战教程 立即下载