热门
ModelScope服务器上做模型量化,报了这个错?v100,bnb装了
直接不量化好了, 用lora好了, 别用qlora了,建议用3090, A10的机器,V100有点老了,你试试lora_ddp_ds的微调版本,lora效果比qlora好。建议用lora_ddp_ds的微调脚本, 不需要装bnb, 效果好, 显存估计20GB左右,此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”
包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域