CNN卷积神经网络

简介: 一、BP神经网络回顾人工全连接神经网络(1)每相邻两层之间的每个神经元之间都是有边相连的(2)当输入层的特征维度变得很高时,这时全连接网络需要训练              的参数就会增大很多,计算速度就会变得...

一、BP神经网络回顾


人工全连接神经网络
(1)每相邻两层之间的每个神经元之间都是有边相连的
(2)当输入层的特征维度变得很高时,这时全连接网络需要训练
              的参数就会增大很多,计算速度就会变得很慢
传统神经网络存在的问题:
(1)权值太多,计算量太大
(2)权值太多,需要大量样本进行训练

二、CNN卷积神经网络
1、CNN的主要概述
卷积层的神经元只与前一层的 部分神经元节点相连 ,即它的神经元间的连接是非全连接的,且同一层中某些神经元之间的连接的 权重w 偏置b 是共享的(即相同的)
      大量地减少了需要训练参数的数量
CNN主要特点 :减少权值,局部连接,权值共享
CNN通过 感受野 权值共享 减少了神经网络需要训练的参数的个数。
2、CNN的一般结构
输入层 :用于数据的输入
卷积层 :使用 卷积核 进行 特征提取 特征映射
激励层 :由于卷积也是一种线性运算,因此需要增加非线性映射
池化层 :压缩数据和参数的量,减小过拟合。
全连接层 :通常在 CNN 的尾部进行重新拟合,减少特征信息的损失
输出层 :用于输出结果
(1)输入层
在CNN的输入层中,(图片)数据输入的格式与全连接神经网络的输入格式(一维向量)不太一样。CNN的输入层的输入 格式保留了图片本身的结构
对于黑白的 28×28 的图片,CNN的输入是一个28×28 的的 二维神经元
对于RGB格式的28×28图片,CNN的输入则是一个 3×28×28 的 三维神经元 (RGB中的每一个颜色通道都有一个 28×28 的矩阵),如下图所示:

(2)卷积层
需要明确的几个概念:
感受视野(  local receptive fields
    即感受 上一层的部分特征。在卷积神经网络中,隐藏层中的神经元的感受视野比较小,只能看到上一次的 部分特征 ,上一层的其他特征可以通过 平移感受视野 来得到同一层的其他神经元。
卷积核
    感受视野中的 权重矩阵
共享权值( shared weights
步长( stride
    感受 视野对输入的扫描间隔称为 步长( stride
边界扩充( pad
     当 步长比较大时( stride>1 ),为了扫描到边缘的一些特征,感受视野可能会 “出界” ,这时需要对 边界扩充 (pad)
特征映射图( feature map
     通过一 个带有 卷积核 感受视野  扫描生成的下一层神经元矩阵 称为一个 特征映射图( feature map
通过以下图理解以上概念及卷积计算



(3)激励层
激励层主要对卷积层的输出进行一个 非线性映射 ,因为卷积层的计算还是一种线性计算。使用的激励函数一般为 ReLu 函数
      卷积 层和激励层通常合并在一起称为“卷积层”。
(4)池化层
当输入经过卷积层时,若感受视野比较小,布长 stride 比较小,得到的 feature map (特征映射图)还是比较大,可以通过池化层来对每一个 feature map 进行 降维操作 ,输出的深度还是不变的,依然为 feature map 的个数。
池化层也有一个“池化视野( filter )”来对 feature map 矩阵进行扫描,对“池化视野”中的 矩阵值进行计算 ,一般有两种计算方式:
   (1 Max pooling :取“池化视野”矩阵中的 最大值
   (2 Average pooling :取“池化视野”矩阵中的 平均值


(5)全连接层和输出层
全连接层 主要对特征进行重新拟合,减少特征信息的丢失。
输出层 主要准备做好最后目标结果的输出。
(6)中间还可以使用其他的功能层
归一化层 Batch Normalization ):在 CNN 中对特征的归一化
  切分层 :对某些(图片)数据的进行分区域的单独学习
   融合层 :对独立进行特征学习的分支进行融合



CNN卷积神经网络实现Mnist数据集:








参考博客资料:




相关文章
|
10天前
|
机器学习/深度学习 人工智能 算法
卷积神经网络深度解析:从基础原理到实战应用的完整指南
蒋星熠Jaxonic带你深入卷积神经网络(CNN)核心技术,从生物启发到数学原理,详解ResNet、注意力机制与模型优化,探索视觉智能的演进之路。
186 11
|
21天前
|
机器学习/深度学习 传感器 数据采集
基于贝叶斯优化CNN-LSTM混合神经网络预测(Matlab代码实现)
基于贝叶斯优化CNN-LSTM混合神经网络预测(Matlab代码实现)
130 0
|
24天前
|
机器学习/深度学习 传感器 数据采集
【故障识别】基于CNN-SVM卷积神经网络结合支持向量机的数据分类预测研究(Matlab代码实现)
【故障识别】基于CNN-SVM卷积神经网络结合支持向量机的数据分类预测研究(Matlab代码实现)
|
1月前
|
机器学习/深度学习 数据采集 TensorFlow
基于CNN-GRU-Attention混合神经网络的负荷预测方法(Python代码实现)
基于CNN-GRU-Attention混合神经网络的负荷预测方法(Python代码实现)
|
2月前
|
机器学习/深度学习 人工智能 PyTorch
零基础入门CNN:聚AI卷积神经网络核心原理与工业级实战指南
卷积神经网络(CNN)通过局部感知和权值共享两大特性,成为计算机视觉的核心技术。本文详解CNN的卷积操作、架构设计、超参数调优及感受野计算,结合代码示例展示其在图像分类、目标检测等领域的应用价值。
174 7
|
3月前
|
机器学习/深度学习 数据采集 监控
基于CNN卷积神经网络和GEI步态能量提取的步态识别算法matlab仿真,对比不同角度下的步态识别性能
本项目基于CNN卷积神经网络与GEI步态能量提取技术,实现高效步态识别。算法使用不同角度(0°、45°、90°)的步态数据库进行训练与测试,评估模型在多角度下的识别性能。核心流程包括步态图像采集、GEI特征提取、数据预处理及CNN模型训练与评估。通过ReLU等激活函数引入非线性,提升模型表达能力。项目代码兼容Matlab2022a/2024b,提供完整中文注释与操作视频,助力研究与应用开发。
|
3月前
|
机器学习/深度学习 算法 数据安全/隐私保护
基于WOA鲸鱼优化的TCN-GRU时间卷积神经网络时间序列预测算法matlab仿真
本内容包含时间序列预测算法的相关资料,涵盖以下几个方面:1. 算法运行效果预览(无水印);2. 运行环境为Matlab 2022a/2024b;3. 提供部分核心程序,完整版含中文注释及操作视频;4. 理论概述:结合时间卷积神经网络(TCN)与鲸鱼优化算法(WOA),优化TCN超参数以提升非线性时间序列预测性能。通过因果卷积层与残差连接构建TCN模型,并用WOA调整卷积核大小、层数等参数,实现精准预测。适用于金融、气象等领域决策支持。
|
8月前
|
机器学习/深度学习 算法 计算机视觉
基于CNN卷积神经网络的金融数据预测matlab仿真,对比BP,RBF,LSTM
本项目基于MATLAB2022A,利用CNN卷积神经网络对金融数据进行预测,并与BP、RBF和LSTM网络对比。核心程序通过处理历史价格数据,训练并测试各模型,展示预测结果及误差分析。CNN通过卷积层捕捉局部特征,BP网络学习非线性映射,RBF网络进行局部逼近,LSTM解决长序列预测中的梯度问题。实验结果表明各模型在金融数据预测中的表现差异。
379 10
|
10月前
|
机器学习/深度学习 人工智能 自然语言处理
深入理解深度学习中的卷积神经网络(CNN)
深入理解深度学习中的卷积神经网络(CNN)
466 10
|
9月前
|
机器学习/深度学习 人工智能 自然语言处理
深入理解深度学习中的卷积神经网络(CNN)##
在当今的人工智能领域,深度学习已成为推动技术革新的核心力量之一。其中,卷积神经网络(CNN)作为深度学习的一个重要分支,因其在图像和视频处理方面的卓越性能而备受关注。本文旨在深入探讨CNN的基本原理、结构及其在实际应用中的表现,为读者提供一个全面了解CNN的窗口。 ##

热门文章

最新文章