【吴恩达深度学习笔记-改善深层神经网络】——第一周深度学习的实用层面(1.3)
1.3机器学习基础
训练神经网络的基本方法:
初识模型训练完成后,要看下算法的偏差高不高,如果较高,就试着评估训练集或训练数据的性能,如果的确很高,甚至无法拟合训练集,那就选择一个新的网络(含有更多隐藏层或隐藏单元的神经网络),或者花费更多的时间来训练网络,训练算法,尝试更先进的优化算法。采用新的网络架构,采用更大规模的神经网络通常会有所帮助。然后反复尝试,扩大网络规模,直到这个模型可以拟合训练集数据时。
如果偏差下降一点了,接着就看一下方差,通过查看验证集的性能。如果方差高,可以通过增加数据量来减少,或者通过正则化减少过拟合。
总之就是不断的尝试,寻找到一个低偏差低方差的神经网路框架。