这个错误提示 "AttributeError:'BitsAndBytesConfig' object has no attribute'get_loading_attributes'" 通常出现在你尝试使用一个名为 "BitsAndBytesConfig" 的对象,但是这个对象并没有定义 "get_loading_attributes" 这个属性。
解决这个问题的方法是检查你的代码,确保你在正确的地方使用了正确的对象和方法。在这个错误提示中,"BitsAndBytesConfig" 可能是你的自定义类,你需要检查这个类的定义,看看是否确实包含了 "get_loading_attributes" 这个方法。如果没有,你需要添加这个方法;如果有,你需要检查你的代码,看看是否在错误的地方调用了这个方法。
另外,这个错误提示中还包含了一个关于 "torch.distributed.elastic.multiprocessing.api" 的错误信息,这可能是由于你的 PyTorch 环境配置不正确导致的。你需要检查你的 PyTorch 环境,确保你已经正确地安装了 PyTorch,并且正确地配置了分布式训练的环境。
bitsandbytes 0.41.1
transformers您看一下4.34.1
我这边也是官方镜像,然后
git clone https://github.com/modelscope/swift.git
cd swift
pip install -e .
应该和您的环境一样。,此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”