开发者社区> 问答> 正文

神经网络训练的动量是什么?

神经网络训练的动量是什么?

展开
收起
鲁花花生油 2021-10-29 16:00:34 1018 0
来自:华章出版社
1 条回答
写回答
取消 提交回答
  • 动量仅将先前权重更新的一小部分添加到当前权重更新中。动量用于防止系统收敛于局部最小值而非全局最小值。高动量可帮助提高系统的收敛速度,然而,你必须小心,因为将此参数设置得太高会造成超出最小值的风险,导致系统不稳定。另一方面,过低的动量无法有效地避免局部最小值,并且会减慢系统的训练速度。因此,设置合适的动量值对于成功至关重要,并且你需要花费大量时间对其进行调参。

    资料来源:《C#神经网络编程》,文章链接:https://developer.aliyun.com/article/726786

    2021-10-29 16:04:48
    赞同 展开评论 打赏
来源圈子
更多
收录在圈子:
+ 订阅
问答排行榜
最热
最新

相关电子书

更多
可预期数据中心网络 立即下载
可编程网络视角的网络创新研究 立即下载
机器能理解上下文吗-RNN和LSTM神经网络的原理及应用 立即下载