欠拟合
欠拟合与过拟合一直是机器学习训练过程中的难题,在训练模型的过程中往往要对二者进行权衡,使得模型在训练数据集和测试数据集上也有很好的表现。
欠拟合(Under Fitting)是由于特征维度过少,模型过于简单,使神经网络没办法完全满足数据集的特征提取要求,体现在训练以及预测时表现不佳、成功率低。欠拟合解决方法介绍如下。
(1)将模型复杂化。可以将原算法复杂化,例如,在神经网络中增加隐藏层和隐藏单元,在回归模型中增加更多的高次项。可以更换算法,使用更加复杂的算法代替现有算法,例如,使用神经网络代替线性回归。
(2)增加更多特征,使输入数据的特征更明显。
(3)调整超参数。包括神经网络中的学习率、学习衰减率、神经网络隐藏层数、隐藏层的单元数等,以及其他算法中的正则化参数等。
(4)减弱正则化约束或者去掉正则化约束。