开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

ModelScope服务器上做模型量化,报了这个错?

ModelScope服务器上做模型量化,报了这个错?de9d4b5443c54025a444a8b840bfa957.png
v100,bnb装了

展开
收起
真的很搞笑 2023-10-24 16:44:45 88 0
1 条回答
写回答
取消 提交回答
  • 直接不量化好了, 用lora好了, 别用qlora了,建议用3090, A10的机器,V100有点老了,你试试lora_ddp_ds的微调版本,lora效果比qlora好。建议用lora_ddp_ds的微调脚本, 不需要装bnb, 效果好, 显存估计20GB左右,此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2023-10-24 21:28:02
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

热门讨论

热门文章

相关电子书

更多
云服务器可观测能力的探索与实践 立即下载
大规模云服务器高效使用及管理最佳实践 立即下载
如何运维千台以上游戏云服务器 立即下载