开发者社区 > ModelScope模型即服务 > 计算机视觉 > 正文

ModelScope Swift支持yi-34b的多卡分布式微调吗?

ModelScope Swift支持yi-34b的多卡分布式微调吗?

展开
收起
小小爱吃香菜 2024-01-09 19:08:36 141 0
2 条回答
写回答
取消 提交回答
  • 面对过去,不要迷离;面对未来,不必彷徨;活在今天,你只要把自己完全展示给别人看。

    是的,ModelScope Swift支持yi-34b的多卡分布式微调。您可以使用ModelScope提供的分布式训练功能,将模型的训练任务分配到多个GPU上进行加速。具体来说,您可以使用--distributed参数来指定分布式训练的相关配置,例如使用多少个GPU、每个GPU的显存大小等。此外,您还可以使用--device_target参数来指定使用的设备类型,以确保您的代码能够正确地在目标设备上运行。

    2024-01-13 19:38:30
    赞同 展开评论 打赏
  • 支持,https://github.com/modelscope/swift/tree/main/examples/pytorch/llm/scripts 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-01-09 23:14:01
    赞同 展开评论 打赏

包含图像分类、图像生成、人体人脸识别、动作识别、目标分割、视频生成、卡通画、视觉评价、三维视觉等多个领域

相关电子书

更多
基于社区的分布式 风险感知模型 立即下载
如何利用Redisson分布式化传统Web项目 立即下载
FLASH:大规模分布式图计算引擎及应用 立即下载

相关实验场景

更多