LeNet5模型与全连接模型的差异

简介: LeNet5模型与全连接模型的差异

1 问题

深度学习训练过程中,有很多的训练模型,我们组就在思考LeNet模型与之前运用的全连接模型在训练精度损失与验证精度损失上有什么差别?


2 方法

这是LeNet模型的主要代码,对数据进行两成卷积与两次池化之后再建立三成全连接即可。

class MyNet(nn.Module):
   def __init__(self):
       super().__init__()
       self.conv1 = nn.Conv2d(
           in_channels=1,
           out_channels=6,
           kernel_size=5,
           stride=1,
           padding=0
       )
       self.avg_pool_1 = nn.AvgPool2d(2)
       self.conv2 = nn.Conv2d(
           in_channels=6,
           out_channels=16,
           kernel_size=5,
           stride=1,
           padding=0
       )
       self.avg_pool_2 = nn.AvgPool2d(2)
       self.fc1 = nn.Linear(
           in_features=256,  
           out_features=120
       )
       self.fc2 = nn.Linear(
           in_features=120,
           out_features=84
       )
       self.fc3 = nn.Linear(
           in_features=84,
           out_features=10
       )
   def forward(self, x):
       x = self.conv1(x)
       x = self.avg_pool_1(x)
       x = self.conv2(x)
       x = self.avg_pool_2(x)
       x = torch.flatten(x, 1)  # ! [B,C,H,W]
       x = self.fc1(x)
       x = self.fc2(x)
       out = self.fc3(x)
       return out
LeNet模型结果如下:

全连接模型结果如下:


3 结语

对于LeNet模型与全连接模型结果比较分析,我训练了50个周期来相比较,可发现LeNet模型相比于全连接模型训练精度与验证精度上升地更快,且验证损失的下降也更快,说明LeNet模型有着更高的训练效率,能够运用更少的周期达到更高的精度与更少的损失。


目录
相关文章
|
3月前
|
机器学习/深度学习 存储 算法
模型部署系列 | 卷积Backbone量化技巧集锦
模型部署系列 | 卷积Backbone量化技巧集锦
42 0
|
9月前
|
机器学习/深度学习
使用传统全连接神经网络训练minist数据集(一)
使用传统全连接神经网络训练minist数据集(一)
|
6月前
|
机器学习/深度学习
时间序列预测模型 MLP DNN网络详解 完整代码
时间序列预测模型 MLP DNN网络详解 完整代码
72 0
|
12月前
|
机器学习/深度学习 人工智能 算法
【Pytorch神经网络理论篇】 31 图片分类模型:ResNet模型+DenseNet模型+EffcientNet模型
在深度学习领域中,模型越深意味着拟合能力越强,出现过拟合问题是正常的,训练误差越来越大却是不正常的。
247 0
|
12月前
|
机器学习/深度学习 人工智能 PyTorch
【Pytorch神经网络理论篇】 30 图片分类模型:Inception模型
原始的Inception模型采用多分支结构(见图1-1),它将1×1卷积、3×3卷积最大池化堆叠在一起。这种结构既可以增加网络的宽度,又可以增强网络对不同尺寸的适应性。
173 0
|
12月前
|
机器学习/深度学习 编解码 算法
【Pytorch神经网络理论篇】 32 PNASNet模型:深层可分离卷积+组卷积+空洞卷积
PNASNet模型是Google公司的AutoML架构自动搜索所产生的模型,它使用渐进式网络架构搜索技术,并通过迭代自学习的方式,来寻找最优网络结构。即用机器来设计机器学习算法,使得它能够更好地服务于用户提供的数据。该模型在ImageNet数据集上Top-1准确率达到82.9%,Top-5准确率达到96。2%,是目前最好的图片分类模型之一。
148 0
|
12月前
|
机器学习/深度学习 人工智能 PyTorch
【Pytorch神经网络理论篇】 34 样本均衡+分类模型常见损失函数
Sampler类中有一个派生的权重采样类WeightedRandomSampler,能够在加载数据时,按照指定的概率进行随机顺序采样。
261 0
|
机器学习/深度学习 数据可视化 Python
使用Python实现单隐藏层神经网络的训练(二)
使用Python实现单隐藏层神经网络的训练(二)
205 0
使用Python实现单隐藏层神经网络的训练(二)
|
机器学习/深度学习 算法 数据可视化
使用Python实现单隐藏层神经网络的训练(一)
使用Python实现单隐藏层神经网络的训练(一)
193 0
使用Python实现单隐藏层神经网络的训练(一)