"modelscope微调后模型量化的时候,用qwen1half-14b-chat-awq 微调的 swift是源码部署的报错怎么处理?,用这个:CUDA_VISIBLE_DEVICES=0 swift export \ --ckpt_dir 'output/qwen1half-4b-chat/vx-xxx/checkpoint-xxx' \ --merge_lora true --quant_bits 4 \ --load_dataset_config true --quant_method awq报这个错:
"
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352