lora_ddp_ds还是lora_ddps_zero3,两种Modelscope的方式有什么区别?

lora_ddp_ds还是lora_ddps_zero3,这两种Modelscope的方式有什么区别吗?

展开
收起
小小爱吃香菜 2024-04-24 08:19:21 61 分享 版权
1 条回答
写回答
取消 提交回答
  • zero3更省显存,但慢一些。您可以查阅deepspeed zero相关资料看下。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-04-24 12:20:46
    赞同 展开评论

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

热门讨论

热门文章

还有其他疑问?
咨询AI助理