开发者社区> 问答> 正文

为什么TensorFlow-XLA在稀疏模型训练中的优化效果不明显?

为什么TensorFlow-XLA在稀疏模型训练中的优化效果不明显?

展开
收起
不吃核桃 2024-08-07 18:17:08 22 0
1 条回答
写回答
取消 提交回答
  • 在Wide and Deep模型这样的稀疏场景下,Embedding阶段的算子往往具有dynamic shape的特点,即算子尺寸在TensorFlow静态构图阶段无法准确获取。这导致类似TensorFlow-XLA这样的基于编译技术的优化手段无法有效进行算子合并,因此优化效果不明显。

    2024-08-07 20:18:33
    赞同 2 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
大规模机器学习在蚂蚁+阿里的应用 立即下载
阿里巴巴机器学习平台AI 立即下载
机器学习及人机交互实战 立即下载