当我们使用一些波动幅度较大的数据做预测分析时,我们需要对它进行标准化、归一化、滑动窗口等方式做预处理,这样不仅可以提高计算速度,还可以一定程度上提高结果的准确度。这一点在深度神经网络中同样适用,批量归一化(Batch Normalization, BN)就是其中用于数据归一化的一种非常常用的算法,在tensorflow、mxnet这些知名的机器学习框架中都对BN进行了实现,它不仅能够加快训练过程,同时还具备一些正则化功能,对防止过拟合具有一定作用。下面就来详细介绍一下这个算法。
备注:在有些文章中Batch Normalization也有被译作批量标准化