请问人工神经网络中为什么ReLu要好过于tanh和sigmoid function？

激活函数是为了增加非线性因素, 但tanh和sigmoid到训练末尾会有导数趋于0的情况, 相当于限制了模型的优化上限. ReLU有非线性, 大于0的时候导数为1, 就大概率避免了tanh一样的梯度消失. ReLU的非线性是靠(0,0)点的那一折, 把所有(负值, 0)的点都当作(0,0)点训练, 有点反直觉, 转变的也很硬, 最难受的是万一某个神经元值一直是负值, 经过ReLU永远是0, 有没有它没区别了, 所以会有各种各样的改进ReLU.

由于relu函数的激活特点，在反向传播中，在激活值大于0时，梯度为常数，不容易出现梯度消失，从而形成深层网络的训练。

而sigmoid和tanh函数的敏感区域较小，如[-1,1]，在敏感区域内，具有较好的激活性，但超过敏感区域时，函数激活处于饱和状态，不利于后向传播中的误差梯度求导，从而影响神经网络的参数更新和神经网络的最终精度。