开发者社区 > ModelScope模型即服务 > 正文

modelscope中,单卡4090参数建议打开吗?

"24890b82b41c330a5edf0ecf627a5335.png
modelscope中,单卡4090参数建议打开吗?"

展开
收起
小小爱吃香菜 2024-03-17 12:50:37 89 0
2 条回答
写回答
取消 提交回答
  • 单卡不用。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-03-18 20:39:34
    赞同 展开评论 打赏
  • 十分耕耘,一定会有一分收获!

    楼主你好,据我所知在阿里云ModelScope中,单卡4090参数指的是使用单个显卡训练时的参数设置,建议根据具体情况来确定是否打开该参数。

    由于单卡4090参数的作用是在单个显卡上实现更高效的训练性能,默认情况下,ModelScope会在单卡上使用较小的batch size进行训练,以适应显存的限制,而打开单卡4090参数后,ModelScope会尝试通过更高效的显存管理策略来实现更大的batch size,从而提高训练性能。

    2024-03-17 17:51:33
    赞同 展开评论 打赏

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
视觉AI能力的开放现状及ModelScope实战 立即下载
ModelScope助力语音AI模型创新与应用 立即下载
低代码开发师(初级)实战教程 立即下载