用Excel理解神经网络

简介: 为了简化卷积神经网络这个概念,本文将试着基于excel针对在开发深度学习模型过程中所做的运算进行解释。
+关注继续查看

1.png

为了简化卷积神经网络这个概念,我将试着针对在开发深度学习模型过程中所做的运算进行解释。要查阅这方面更多的内容,我建议在线搜索,因为网上的信息很多很多(像这样视频)。本文的这个解释来源于fast.ai仓库。

这个简单的神经网络图片基本上代表了本案例中发生的事情。

2.jpeg
简单的神经网络

输入层

这个数字7的图像数据来自MNIST数据集,我们假设你正在使用预训练模型进行分类。

3.png
你可以在数据集中看到更大的数字7

隐藏层 1

隐藏层用于对输入进行转换,以便从输出层的数据中识别出更复杂的特征,从而做出更好的评估。

两个过滤器将呈现出不同的形状:第一个过滤器用于检测水平边缘,第二个过滤器检测垂直边缘。这个3x3的过滤器被称为卷积核。下图中的filter 1被激活用于检测输入中的水平边缘。Conv1展示了将输入分别乘以两个3x3卷积核之后的激活情况。下面的图片更形象地展示了这个过程。

4.png

虽然现在是以二维数组的形式来展示的,但它们其实应该被称为张量堆叠。每个矩阵表示张量中的一个切片。这些基本上都是线性代数中的行操作。

=SUM(F11:H13*$AD$11:$AF$13) 则是进行卷积运算。

该求和运算将根据输入中特定的3×3的部分计算得到激活数字3。

5.png
这代表了一个单一的层。

激活函数

6.png

接下来,我们将把非线性单元RELU作为激活函数来消除负数。在接下来的图片中,我们可以看到负数消失了。

隐藏层 2

接下来,我们要做另一个卷积。 Conv2将成为下一个隐藏层。我们要用Conv1同时乘以两个矩阵并取乘积之和。这里的卷积核用一个2X3X3的张量来表示。

在使用了RELU之后,我们现在创建了第二层。

7.png
第1层和第2层

最大池化

8.gif

最大池化是通过对Conv2取2x2部分的最大值来得到分辨率为原始矩阵宽度和高度的一半的图像。在Maxpool矩阵中,我们可以看到Conv2的2x2部分的最大值是33。池的计算速度比卷积更快。此外,它具有平移不变性

9.png

输出层

接下来,我们通过给Maxpool中的所有激活函数给予一个权重来建立完全连接层。这是通过矩阵乘法来实现的。在Excel中,我们将使用SUMPRODUCT函数。因此,不像以前那样需要在卷积层中解析每个部分,完全连接层将对由卷积层提取的特征执行分类,并通过最大池化层进行降采样。

10.png

文章原标题《Understanding Neural Networks Using Excel》,作者: Jean-Carlos Paredes,译者:夏天,审校:主题曲。

文章为简译,更为详细的内容请查看原文

本文由北邮@爱可可-爱生活老师推荐,阿里云云栖社区组织翻译。

相关文章
|
5月前
|
机器学习/深度学习 自然语言处理 算法
【Pytorch神经网络实战案例】31 TextCNN模型分析IMDB数据集评论的积极与消极
【Pytorch神经网络实战案例】31 TextCNN模型分析IMDB数据集评论的积极与消极
201 0
|
5月前
|
机器学习/深度学习 人工智能 数据可视化
【Pytorch神经网络实战案例】22 基于Cora数据集实现图注意力神经网络GAT的论文分类
有一个记录论文信息的数据集,数据集里面含有每一篇论文的关键词以及分类信息,同时还有论文间互相引用的信息。搭建AI模型,对数据集中的论文信息进行分析,使模型学习已有论文的分类特征,以便预测出未知分类的论文类别。
144 0
|
5月前
|
机器学习/深度学习 人工智能 数据可视化
【Pytorch神经网络实战案例】20 基于Cora数据集实现图卷积神经网络论文分类
CORA数据集里面含有每一篇论文的关键词以及分类信息,同时还有论文间互相引用的信息。搭建AI模型,对数据集中的论文信息进行分析,根据已有论文的分类特征,从而预测出未知分类的论文类别。
116 0
|
5月前
|
机器学习/深度学习 数据可视化 PyTorch
【Pytorch神经网络实战案例】06 逻辑回归拟合二维数据
【Pytorch神经网络实战案例】06 逻辑回归拟合二维数据
54 0
|
6月前
|
机器学习/深度学习 数据采集 监控
【数据挖掘实战】——基于水色图像的水质评价(LM神经网络和决策树)
项目地址:Datamining_project: 数据挖掘实战项目代码
205 0
|
8月前
|
机器学习/深度学习 算法
图神经网络学习笔记-04图神经网络算法(下)
图神经网络学习笔记-04图神经网络算法(下)
63 0
图神经网络学习笔记-04图神经网络算法(下)
|
8月前
|
机器学习/深度学习 算法
图神经网络学习笔记-03图神经网络算法(上)
图神经网络学习笔记-03图神经网络算法(上)
81 0
图神经网络学习笔记-03图神经网络算法(上)
|
9月前
|
机器学习/深度学习 监控 算法
训练神经网络的一些实用技巧
训练神经网络的一些实用技巧
训练神经网络的一些实用技巧
|
10月前
|
机器学习/深度学习 存储 PyTorch
NeuralProphet:基于神经网络的时间序列建模库
NeuralProphet:基于神经网络的时间序列建模库
354 0
NeuralProphet:基于神经网络的时间序列建模库
|
10月前
|
机器学习/深度学习 存储 自然语言处理
Google的神经网络表格处理模型TabNet介绍
Google的神经网络表格处理模型TabNet介绍
463 0
Google的神经网络表格处理模型TabNet介绍
相关产品
机器翻译
推荐文章
更多