开发者社区> 问答> 正文

DeepRec在分布式训练方面有哪些优化?

DeepRec在分布式训练方面有哪些优化?

展开
收起
不吃核桃 2024-08-07 18:15:53 34 0
1 条回答
写回答
取消 提交回答
  • DeepRec对分布式策略进行了深度优化,包括异步训练、同步训练、半同步训练等。特别地,GPU同步训练支持HybridBackend以及NVIDIA HugeCTR-SOK。此外,StarServer作为异步训练框架,通过图、线程调度、执行引擎以及内存等优化,显著提高了并发执行子图的效率,支持3000worker规模的线性分布式扩展。
    image.png

    2024-08-07 18:41:00
    赞同 2 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
基于社区的分布式 风险感知模型 立即下载
如何利用Redisson分布式化传统Web项目 立即下载
FLASH:大规模分布式图计算引擎及应用 立即下载

相关实验场景

更多