1 问题
我们在深度学习的过程中,开始对模型进行在测试集的精度进行预测时,最开始是全连接网络进行模型的精度预测,最后发现测试集的精度预测值不是很理想,就在想能不能换一种网络层提高测试集的精度?
2 方法
在后续的学习中,我们学习和了解了卷积网络,卷积神经网络也是通过一层一层的节点组织起来的。和全连接神经网络一样,卷积神经网络中的每一个节点就是一个神经元。在全连接神经网络中,每相邻两层之间的节点都有边相连,于是会将每一层的全连接层中的节点组织成一列,这样方便显示连接结构。而对于卷积神经网络,相邻两层之间只有部分节点相连,为了展示每一层神经元的维度,一般会将每一层卷积层的节点组织成一个三维矩阵。
全连接层的参数太多,对于MNIST数据,每一张图片的大小是28*28*1,其中28*28代表的是图片的大小,*1表示图像是黑白的,有一个色彩通道。有的图片会更大或者是彩色的图片,这时候参数将会更多。参数增多除了导致计算速度减慢,还很容易导致过拟合的问题。所以需要一个合理的神经网络结构来有效的减少神经网络中参数的个数。卷积神经网络就可以更好的达到这个目的。于是我们就用卷积神经网络替代了全连接神经网络进行测试,发现确实提高了测试集的精度。
这是全连接网络的网络层
这是卷积网络的网络层:
最后我们训练了五十个周期,得出对比:
这是卷积网络测试集的精度
这是全连接网络测试集的精度
3 结语
我们通过训练发现卷积网络确实提高了网络测试集的精度,而从中也发现了卷积神经网络的输入输出以及训练的流程和全连接神经网络基本一致,而他们两种网络唯一区别就是神经网络相邻两层的连接方式。