LeNet5原理
Lenet5是一种深度学习模型，也是卷积神经网络（CNN）的一种。它是由Yann LeCun等人在1998年提出的，主要用于手写数字识别任务。
Lenet5的网络结构由七个层组成，包括两个卷积层、两个池化层和三个全连接层。其中，卷积层用于提取特征，池化层用于降低特征维度，全连接层用于进行分类。
具体来说，Lenet5的网络结构如下：
输入层：28*28的灰度图像（黑白图像）。
第一层卷积层：6个卷积核，每个卷积核的大小为5*5。采用sigmoid函数作为激活函数。
第一层池化层：2*2的最大池化，步长为2。
第二层卷积层：16个卷积核，每个卷积核的大小为5*5。采用sigmoid函数作为激活函数。
第二层池化层：2*2的最大池化，步长为2。
全连接层1：120个神经元，采用sigmoid函数作为激活函数。
全连接层2：84个神经元，采用sigmoid函数作为激活函数。
输出层：10个神经元，采用softmax函数作为激活函数，用于分类。
在训练过程中，Lenet5采用反向传播算法对网络中的权重进行更新，以提高模型的准确率。在手写数字识别任务中，Lenet5可以达到接近99%!的(MISSING)准确率。
总之，Lenet5是一种经典的卷积神经网络，它在深度学习领域有着广泛的应用。它的成功启示了后来更加深入的卷积神经网络的发展。
LeNet5源码（tensorflow版）
import tensorflow as tf
from tensorflow.keras.layers import Dense,Conv2D,MaxPooling2D,Flatten
from tensorflow.keras import utils,optimizers,losses,datasets,models,metrics
nb_output = 10
""""""
# 数据集
(train_x,train_y),(test_x,test_y) = datasets.mnist.load_data()
# 转换类型并归一化
train_x = train_x.reshape(-1,28,28,1).astype("float") / 255
test_x = test_x.reshape(-1,28,28,1).astype("float") / 255
#独热并分类
train_y = utils.to_categorical(train_y,nb_output)
test_y = utils.to_categorical(test_y,nb_output)
#创建类
class lenet5(models.Model):
def __init__(self,nb_output):
super(lenet5, self).__init__()
self.nb_output = nb_output
self.conv1 = Conv2D(6,(5,5),padding='same',activation='relu')
self.maxpool = MaxPooling2D()
self.conv2 = Conv2D(16,(5,5),activation='relu')
self.flatten = Flatten()
self.fc3 = Dense(120,activation='relu')
self.fc4 = Dense(84,activation='relu')
self.fc5 = Dense(self.nb_output,activation='softmax')
def call(self, x, training=None, mask=None):
x = self.conv1(x)#28-5+1 = 24
x = self.maxpool(x)#6*12*12
x = self.conv2(x)#12-5+1 = 8
x = self.maxpool(x)#16*4*4
x = self.flatten(x)
x = self.fc3(x)
x = self.fc4(x)
x = self.fc5(x)
return x
if __name__ == '__main__':
model = lenet5(nb_output)
model.build(input_shape=(None,28,28,1))
model.summary()
#模型编译
model.compile(optimizer=optimizers.Adam(0.001),
loss=losses.CategoricalCrossentropy(),
metrics=['accuracy'])
#模型训练
model.fit(train_x,train_y,batch_size=128,epochs=3)
#模型评估
score = model.evaluate(test_x,test_y)
print("loss:",score[0])
print("acc:",score[1])
效果
