【数据挖掘】神经网络简介 ( 有向图本质 | 拓扑结构 | 连接方式 | 学习规则 | 分类 | 深度学习 | 机器学习 )(一)

简介: 【数据挖掘】神经网络简介 ( 有向图本质 | 拓扑结构 | 连接方式 | 学习规则 | 分类 | 深度学习 | 机器学习 )(一)

I . 神经网络 ( Neural Networks ) 简介


神经网络简介 :



1 . 神经网络组成 : 由 一组 连接的 输入 和 输出单元 组成 , 每个连接都有一个 权值 ( 系数 ) ;



2 . 神经网络本质 : 神经网络本质是一种特殊的 有向图 , 有向图由 节点 和 有向弧 组成 , 节点就是 神经元 , 有向弧就是神经元单元之间的 连接 ;



3 . 神经元分层 : 神经网络中的神经元由多层组成 , 层间的神经元单元没有连接 , 神经元单元只能连接相邻的两层 ( 上层 / 下层 ) 中的神经元单元 ;



4 . 学习过程 : 学习过程中 , 调整每个连接的 权值 , 使 神经网络 预测分类 的准确性 逐步提高 ; 开始时给一组默认的初始权值 , 学习过程中 , 逐步调整 , 使其与真实数据进行拟合 , 逐步提高其预测准确性 ;



5 . 连接者学习 : 学习过程是调节单元之间的连接的权值的过程 , 神经网络学习 又称为 连接者学习 ;



6 . 神经网络基础 : 模拟大脑中 神经元 数学模型 , 以该模型为基础建立神经网络 , 每个 输入 / 输出 单元 都是一个 神经元 , 单元之间互相连接 , 并且每个连接都有不同的 权重属性 ;



7 . 信息处理模型 : 神经元 是一个 多输入 , 单输出 , 的 信息处理单元 , 根据其该特性 , 将神经元抽象成该特征的数学模型 ;




II . 神经网络三要素


神经网络三要素 : ① 拓扑结构 , ② 连接方式 , ③ 学习规则 ; 根据上述三要素的特征 , 对神经网络进行分类 ;




III . 神经网络拓扑结构


神经网络拓扑结构 :



① 根据层数分类 : 按照层次排列神经网络单元 , 根据该神经网络排列的层次数 , 可以分为 单层神经网络 , 两层神经网络 , ⋯ \cdots⋯ , N NN 层神经网络 ;


② 神经网络结构 与 性能 : 结构越简单 , 学习时参数收敛速度快 , 代价是准确度低 ;


③ 神经网络复杂度 : 神经网络的层数 , 每层单元数 , 由问题复杂程度决定 , 越复杂的问题 , 层数及每层单元数就越多 ;


④ 针对线性问题的神经网络 : 使用两层神经网络可解决 ;


⑤ 针对多元非线性问题的神经网络 : 需要使用多层神经网络解决 ;




IV . 神经网络连接方式


1 . 神经网络连接强度 : 神经网络层次间的连接 , 和层次内部的连接 , 每个连接都有一个强度 , 用 权 表示该强度 ;



2 . 根据层次间连接方式对神经网络进行分类 :


① 前馈式网络 : 该连接是单向连接 , 前一层单元输出 是 后一层单元输入 ; 如 Kohonen 网络 , 反向传播网络 ;


② 反馈式网络 : 在前馈式网络基础上 , 将最后一层单元的输出继续作为第一层单元的输入 ; 如 , Hopfield 网络 ;



3 . 根据连接范围对神经网络分类 :



① 全连接神经网络 : 每一层中的单元 , 与前一层的 所有单元 , 后一层的 所有单元 , 都连接起来 ;


② 局部连接神经网络 : 每一层的单元 , 与前一层的 部分单元 , 后一层的 部分单元 , 都连接起来 ;




V . 神经网络学习规则


1 . 神经网络学习方法 :



① 感知器 : 有监督的学习方法 , 给出已知的训练集 , 学习过程中指导模型的训练 ;


② 认知器 : 无监督的学习方法 , 训练集未知 , 各个单元竞争学习 ;



2 . 神经网络学习和使用 :



① 离线网络 : 学习 和 使用 , 两个过程是独立的 ; 先训练神经网络 , 然后再使用 ;


② 在线网络 : 学习 和 使用 , 两个过程是同步的 ; 一边训练 , 一边使用 ;



3 . 神经网络学习规划 : 调整神经元连接权系数的方式 ;



① 相关学习网络 : 根据单元之间的连接的激活水平 , 调整神经元连接权系数 ;


② 纠错学习网络 : 根据输出单元的外部反馈 , 调整神经元连接权系数 ;


③ 自组织学习网络 : 根据输入自适应改变神经元连接权系数 ;




VI . 浅层神经网络 与 深度神经网络


1 . 浅层神经网络 : 拓扑结构 , 连接方式 , 学习规则 , 三方面说明其特征 ;



① Hopfield 网络 : 单层结构 , 反馈型网络 , 神经元单元都是相同的 ;


② 反向传播网络 : 多层结构 , 前馈型网络 , 学习规则是最小均方差纠错 ; ( 用途 , 语言识别 , 分类 )


③ Kohonen 网络 : 自组织网络 , 有输入层和输出层 , 神经元单元是全连接的 ;


④ ART 网络 : 自组织网络 ;



2 . 深度神经网络 : 卷积神经网络 ( CNN ) , 循环神经网络 ( RNN ) , 深度信念网络 ( DBN ) ;


目录
相关文章
|
10月前
|
机器学习/深度学习 人工智能 安全
探索AI的未来:从机器学习到深度学习
【10月更文挑战第28天】本文将带你走进AI的世界,从机器学习的基本概念到深度学习的复杂应用,我们将一起探索AI的未来。你将了解到AI如何改变我们的生活,以及它在未来可能带来的影响。无论你是AI专家还是初学者,这篇文章都将为你提供新的视角和思考。让我们一起探索AI的奥秘,看看它将如何塑造我们的未来。
298 3
|
4月前
|
机器学习/深度学习 人工智能 供应链
从概念到商业价值:AI、机器学习与深度学习全景指南
在这个科技飞速发展的时代🚀,人工智能正以惊人的速度渗透到我们的生活和工作中👀。但面对铺天盖地的AI术语和概念,很多人感到困惑不已😣。"AI"、"机器学习"、"深度学习"和"神经网络"到底有什么区别?它们如何相互关联?如何利用这些技术提升工作效率和创造价值?
|
11月前
|
机器学习/深度学习 并行计算 PyTorch
【机器学习】探索GRU:深度学习中门控循环单元的魅力
【机器学习】探索GRU:深度学习中门控循环单元的魅力
|
11月前
|
机器学习/深度学习 人工智能 自然语言处理
探索人工智能的未来:机器学习与深度学习的融合之旅
【9月更文挑战第35天】在这篇文章中,我们将深入探讨人工智能的两大支柱——机器学习和深度学习。我们将通过代码示例和实际应用案例,揭示它们如何相互补充,共同推动AI技术的发展。无论你是初学者还是有经验的开发者,这篇文章都将为你提供宝贵的见解和启示。
206 0
|
9月前
|
机器学习/深度学习 人工智能 算法
探索机器学习:从线性回归到深度学习
本文将带领读者从基础的线性回归模型开始,逐步深入到复杂的深度学习网络。我们将通过代码示例,展示如何实现这些算法,并解释其背后的数学原理。无论你是初学者还是有经验的开发者,这篇文章都将为你提供有价值的见解和知识。让我们一起踏上这段激动人心的旅程吧!
168 3
|
10月前
|
机器学习/深度学习 人工智能 算法
【手写数字识别】Python+深度学习+机器学习+人工智能+TensorFlow+算法模型
手写数字识别系统,使用Python作为主要开发语言,基于深度学习TensorFlow框架,搭建卷积神经网络算法。并通过对数据集进行训练,最后得到一个识别精度较高的模型。并基于Flask框架,开发网页端操作平台,实现用户上传一张图片识别其名称。
385 0
【手写数字识别】Python+深度学习+机器学习+人工智能+TensorFlow+算法模型
|
9月前
|
机器学习/深度学习 人工智能 算法
机器学习与深度学习:差异解析
机器学习与深度学习作为两大核心技术,各自拥有独特的魅力和应用价值。尽管它们紧密相连,但两者之间存在着显著的区别。本文将从定义、技术、数据需求、应用领域、模型复杂度以及计算资源等多个维度,对机器学习与深度学习进行深入对比,帮助您更好地理解它们之间的差异。
|
11月前
|
机器学习/深度学习 算法 决策智能
【机器学习】揭秘深度学习优化算法:加速训练与提升性能
【机器学习】揭秘深度学习优化算法:加速训练与提升性能
|
11月前
|
机器学习/深度学习 人工智能 算法
揭开深度学习与传统机器学习的神秘面纱:从理论差异到实战代码详解两者间的选择与应用策略全面解析
【10月更文挑战第10天】本文探讨了深度学习与传统机器学习的区别,通过图像识别和语音处理等领域的应用案例,展示了深度学习在自动特征学习和处理大规模数据方面的优势。文中还提供了一个Python代码示例,使用TensorFlow构建多层感知器(MLP)并与Scikit-learn中的逻辑回归模型进行对比,进一步说明了两者的不同特点。
420 2
|
11月前
|
机器学习/深度学习 TensorFlow 算法框架/工具
探索机器学习:从线性回归到深度学习
在这篇文章中,我们将一起踏上一场激动人心的旅程,穿越机器学习的广阔天地。我们将从最基本的线性回归开始,逐步深入到复杂的深度学习模型。无论你是初学者还是有经验的开发者,这篇文章都将为你提供新的视角和深入的理解。让我们一起探索这个充满无限可能的世界吧!

热门文章

最新文章