下载模型时报错:RuntimeError: Failed to import modelscope.models.nlp.llama2 because of the following error (look up to see its traceback):
cannot import name 'LlamaTokenizer' from 'transformers.models.llama' 我用的是nlp_seqgpt-560m模型,但是加载时报错,请问是什么问题?
看起来报错是因为无法导入LlamaTokenizer。这可能是因为您使用的transformers库版本不支持该模型,或者存在其他依赖问题。建议检查一下transformers库的版本,并确保安装了所有必要的依赖项。如果问题仍然存在,尝试更新或降级transformers库,或者查阅相关项目的GitHub页面以获取帮助和解决方案。
尝试将modelscope/models/nlp/llama/init.py中import修改为
from transformers import LlamaTokenizer
from transformers.models.llama import (LlamaConfig, LlamaTokenizerFast)
后问题解决
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352