1.3 神经网络的 BP 算法
它描述了网络输出和目标输出之间的距离,刻画了网络性能的好坏。显然,J越小,网络性能越好。寻求J的极小点是BP算法的目标。
这一关系式表明只要能计算出敏感性,即可据此计算出梯度。
删除中间过程,有
通过计算网络最后一层神经元的敏感性,然后在网络中反向逐层计算其他层神经元敏感性,这就是所谓BP。
图4非常容易记忆和理解,这就是我们所谓的一张图看懂BP算法。
它描述了网络输出和目标输出之间的距离,刻画了网络性能的好坏。显然,J越小,网络性能越好。寻求J的极小点是BP算法的目标。
这一关系式表明只要能计算出敏感性,即可据此计算出梯度。
删除中间过程,有
通过计算网络最后一层神经元的敏感性,然后在网络中反向逐层计算其他层神经元敏感性,这就是所谓BP。
图4非常容易记忆和理解,这就是我们所谓的一张图看懂BP算法。