开发者社区 问答 正文

造成了梯度消失和梯度膨胀是什么呢?

造成了梯度消失和梯度膨胀是什么呢?

展开
收起
游客5ixw6pdymb5xs 2022-03-15 00:09:44 470 分享 版权
1 条回答
写回答
取消 提交回答
  • 深度网络的链式连乘法则,使得反向传播时到达前几层时,权值更新值非常小或非常大。可以通过ReLU解决一部分。

    2022-03-15 00:10:09
    赞同 展开评论
问答地址: