怎么ModelScope如果没有模型并行的话,目前直接ddp,会报oom?

怎么ModelScope如果没有模型并行的话,目前直接ddp,会报oom?

展开
收起
青城山下庄文杰 2023-08-26 12:59:09 163 分享 版权
1 条回答
写回答
取消 提交回答
  • 嗯嗯是的,是存在这个问题。qlora是可以的。
    模型并行+DDP的问题我们尽快解决掉哈-此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2023-08-29 15:52:28
    赞同 展开评论

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

热门讨论

热门文章

还有其他疑问?
咨询AI助理