在ModelScope中,有没有计划出多机多节点的全量?

在ModelScope中,有没有计划出多机多节点的全量,lora微调llama70b,bloom 176b,falcon180b的代码呢?

展开
收起
LLLA 2023-09-19 22:08:53 106 分享 版权
1 条回答
写回答
取消 提交回答
  • 可以试试 MP+DDP的版本。 可以参考 qwen 7b chat的full mp ddp那个文件夹的sh 此回答来自“魔搭ModelScope开发者联盟群 ①”

    2023-09-19 23:14:59
    赞同 展开评论

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

热门讨论

热门文章

还有其他疑问?
咨询AI助理