BP神经网络(二)

简介: BP神经网络(二)

5.4.2 工作状态(工作阶段解决问题)

神经元间的连接权值不变,可以作为分类器或者预测数据之用。

6 激活函数

6.1 激活函数的类别

线性函数一般用于隐含层到输出层之间的激活函数

其他的激活函数一般使用S形函数或双极S形函数,其中,更多的使用双极S形函数。

7 BP神经网络模型的建立

7.1 人工神经网络的概述(理论介绍)

多层感知器( multi-layer perceptron,MLP) 也叫人工神经网络( artificial neural network,ANN) ,是一种运算模型,旨在模拟神经系统构造与功能进行数据处理,从信息处理角度对人脑神经元网络进行抽象模拟,由大量的节点(或称神经元) 相互联接构成,通过不断调整模拟神经元之间链条的权值,使得整个网络可以较好地拟合训练数据的关系。

[1]孙凤娟,田勇,孙开争,付华轩,张文娟,李敏,吕晨.基于人工神经网络集合预报的济南市臭氧预报方法[J].山东科学,2022,35(03):89-99.

人工神经网络的基本组成是人工神经元,人工神经元从结构和功能的角度模拟和抽象生物神经元,人工神经元是通过模拟人脑中神经元的结构和相互联系而建立的数学模型。

[1]陈成龙. 基于人工神经网络的油田开发数据分析及预测研究[D].东北石油大学,2022.DOI:10.26995/d.cnki.gdqsc.2022.000046.

通过对人脑神经元的分析与简化,得到简易的人工神经元数学模型,如图所示:


image.png

image.png


人工神经网络由多个人工神经元组成,其结构主要分为输入层、隐含层和输出层,人工神经网络模型结构如图所示:

7.2 BP算法基本原理

BP算法(Back Propagation,BP)就是利用输出后的误差来估计输出层的直接前导层的误差,再用这个误差估计更前一层的误差,如此一层一层的反传下去,就获得了所有其他各层的误差估计。

[1] 宋文娟,席永胜,佟明勇.基于BP算法的工程造价散材量估算方法[J].甘肃科技,2020,36(14):91-93.

7.3 BP神经网络的概述

BP的英文全称是Back Propagation,也被称作 Error Back Propagation,翻译为误差反向传播,误差反传是BP神经网络算法的最大优点。BP神经网络具有自适应和自学习等特点。BP神经网络分为信号正向传播与误差反向传播。正向传播过程中,预测模型的样本数据信息从输入层传入,后经过隐藏层的处理,最终传向输出层。若网络预测输出值与网络期望输出值相差较大时,误差将会反向逐层分摊给各层,直到误差达到要求的精度范围内停止循环。

[1]陈成龙. 基于人工神经网络的油田开发数据分析及预测研究[D].东北石油大学,2022.DOI:10.26995/d.cnki.gdqsc.2022.000046.

信号的正向传播,误差的反向传播。

隐含层节点数是一个非常重要的参数,它的设置对BP神经网络性能的影响很大,隐藏层节点数目的确定,仍是BP神经网络目前最难解决的问题之一,目前还没有很好的解决方法,只能通过试验法来确定最佳个数。

[1]陈成龙. 基于人工神经网络的油田开发数据分析及预测研究[D].东北石油大学,2022.DOI:10.26995/d.cnki.gdqsc.2022.000046.

只含1个隐藏层的BP神经网络结构如图所示:

BP神经网络一般采用单隐层结构

隐藏层多,不一定会使得结果更准确,但是,会更加耗时,同时效率会降低。

7.4 模型的建立

流程图

[1]陈成龙. 基于人工神经网络的油田开发数据分析及预测研究[D].东北石油大学,2022.DOI:10.26995/d.cnki.gdqsc.2022.000046.

一般,p大于n

8 神经网络的应用

9 模型的训练

基于拟牛顿算法优化的BP神经网络模型

10 模型建立步骤

  1. 确定网络拓扑结构
  • 即,输入层、隐含层(几层)、输出层的神经元数量
  1. 符号定义
  2. 确定初始BP神经网络的权值和阈值
  3. 更新权值阈值
  4. 计算各层神经元的输入和输出
  5. 计算输出层的实际输出和期望输出的误差
  6. 判断是否满足条件
  7. 不满足,修正权值
  8. 更新权值(返回 3)
  9. 直到误差满足要求或迭代次数达到指定次数

Python数学实验与建模

[1]陈成龙. 基于人工神经网络的油田开发数据分析及预测研究[D].东北石油大学,2022.DOI:10.26995/d.cnki.gdqsc.2022.000046.


相关文章
|
2天前
|
机器学习/深度学习 算法 Serverless
基于WOA-SVM的乳腺癌数据分类识别算法matlab仿真,对比BP神经网络和SVM
本项目利用鲸鱼优化算法(WOA)优化支持向量机(SVM)参数,针对乳腺癌早期诊断问题,通过MATLAB 2022a实现。核心代码包括参数初始化、目标函数计算、位置更新等步骤,并附有详细中文注释及操作视频。实验结果显示,WOA-SVM在提高分类精度和泛化能力方面表现出色,为乳腺癌的早期诊断提供了有效的技术支持。
|
2月前
|
机器学习/深度学习 算法 数据安全/隐私保护
基于BP神经网络的苦瓜生长含水量预测模型matlab仿真
本项目展示了基于BP神经网络的苦瓜生长含水量预测模型,通过温度(T)、风速(v)、模型厚度(h)等输入特征,预测苦瓜的含水量。采用Matlab2022a开发,核心代码附带中文注释及操作视频。模型利用BP神经网络的非线性映射能力,对试验数据进行训练,实现对未知样本含水量变化规律的预测,为干燥过程的理论研究提供支持。
|
2月前
|
机器学习/深度学习 算法 5G
基于BP神经网络的CoSaMP信道估计算法matlab性能仿真,对比LS,OMP,MOMP,CoSaMP
本文介绍了基于Matlab 2022a的几种信道估计算法仿真,包括LS、OMP、NOMP、CoSaMP及改进的BP神经网络CoSaMP算法。各算法针对毫米波MIMO信道进行了性能评估,通过对比不同信噪比下的均方误差(MSE),展示了各自的优势与局限性。其中,BP神经网络改进的CoSaMP算法在低信噪比条件下表现尤为突出,能够有效提高信道估计精度。
40 2
|
4月前
|
机器学习/深度学习 前端开发 数据挖掘
基于Python Django的房价数据分析平台,包括大屏和后台数据管理,有线性、向量机、梯度提升树、bp神经网络等模型
本文介绍了一个基于Python Django框架开发的房价数据分析平台,该平台集成了多种机器学习模型,包括线性回归、SVM、GBDT和BP神经网络,用于房价预测和市场分析,同时提供了前端大屏展示和后台数据管理功能。
105 9
|
5月前
|
机器学习/深度学习 算法 数据安全/隐私保护
基于负相关误差函数的4集成BP神经网络matlab建模与仿真
**算法预览:** 图像显示无水印的2022a版MATLAB运行结果 **软件版本:** MATLAB 2022a **核心代码片段:** 省略展示 **理论概述:** NCL集成BP网络利用负相关提升泛化,结合多个弱模型减少错误关联。通过λ参数控制模型间负相关程度,λ>0增强集成效果,提高预测准确性和系统稳健性。
|
5月前
|
机器学习/深度学习 数据采集 监控
Python基于BP神经网络算法实现家用热水器用户行为分析与事件识别
Python基于BP神经网络算法实现家用热水器用户行为分析与事件识别
112 2
|
5月前
|
机器学习/深度学习 人工智能 算法
|
6月前
|
机器学习/深度学习 PyTorch 算法框架/工具
【从零开始学习深度学习】26.卷积神经网络之AlexNet模型介绍及其Pytorch实现【含完整代码】
【从零开始学习深度学习】26.卷积神经网络之AlexNet模型介绍及其Pytorch实现【含完整代码】
|
6月前
|
机器学习/深度学习 PyTorch 算法框架/工具
【从零开始学习深度学习】28.卷积神经网络之NiN模型介绍及其Pytorch实现【含完整代码】
【从零开始学习深度学习】28.卷积神经网络之NiN模型介绍及其Pytorch实现【含完整代码】
|
4月前
|
机器学习/深度学习 PyTorch 算法框架/工具
PyTorch代码实现神经网络
这段代码示例展示了如何在PyTorch中构建一个基础的卷积神经网络(CNN)。该网络包括两个卷积层,分别用于提取图像特征,每个卷积层后跟一个池化层以降低空间维度;之后是三个全连接层,用于分类输出。此结构适用于图像识别任务,并可根据具体应用调整参数与层数。