gpt-3是基于megetron训练的?ModelScope模型文件可以拆分,或者按照张量并行8

gpt-3是基于megetron训练的?ModelScope模型文件可以拆分,或者按照张量并行8、流水并行2吗?

展开
收起
鸡蛋灌饼儿 2023-02-19 12:19:48 305 分享 版权
1 条回答
写回答
取消 提交回答
  • 模型是可以拆分的,目前在 modelscope 中只支持张量并行和数据并行,流水并行我们计划后续支持——该回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2023-02-19 20:43:07
    赞同 展开评论

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

收录在圈子:
+ 订阅

热门讨论

热门文章

还有其他疑问?
咨询AI助理