ModelScope报错怎么解决? :TypeError: init() got an unexpected keyword argument 'device'
创建模型时,为模型的初始化函数传递了不必要的“device”关键字参数。为了解决这个问题,请尝试以下方法:
model = AutoModelForCausalLM.from_pretrained(pretrained_model_name)
torch.set_default_tensor_type('torch.FloatTensor')
这将在创建模型时使用CPU而非GPU。但是请注意,这将导致模型的性能下降。
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352