深度学习McCulloch-Pitts模型

简介: 深度学习McCulloch-Pitts模型

1 McCulloch-Pitts模型

1943年,神经学家McCulloch和数学家Pitts共同提出了McCulloch-Pitts模型,这个模型是对生物神经元的一种相当简化的模仿。这个模型认为,树突输入的电信号相当于函数中的自变量,轴突输出的电信号相当于函数中的因变量,一个神经元有几个树突,表征这个神经元直觉活动(意识是人脑特有的机能,故此处不用高级的意识活动,而使用更加原始的直觉活动)的数学函数也就有几个自变量。


9ee9536e279d426d9810aca0e84d910b.png


2 应用场景

下面假定一个场景,一个生物,其食物是一种有毒的豆子,并且毒性仅与豆子的体积成正比。那么根据McCulloch-Pitts模型,可以构建一个一元函数来模拟这个生物关于是否进食的直觉过程,不妨设这个函数为y=wx,其中w为任意常数。当y大于或小于某一临界值,则表示事物毒性过大,不宜食用,反之则是安全的。


若毒性不仅与豆子的体积有关,还与豆子的颜色有关。那么根据McCulloch-Pitts模型,可以构建一个二元函数来模拟这个生物关于是否进食的直觉过程,不妨设这个函数为y=w1x1+w2x2,其中w1、w2为任意常数。当y大于或小于某一临界值,则表示事物毒性过大,不宜食用,反之则是安全的。


以此类推,可以根据不同的情况设出与之对应的n元函数。


自变量前的常数称其为“权值”,记作w,其表征不同因素(自变量)对结果(因变量)起到影响的大小程度。


权值设定为多少以及怎么设定是个问题。


|w|的值过大,则会使得事物来源变少,不利于个体的生存;|w|的值过小,则容易误食毒性过强的食物,从而也不利于个体的生存。可见,权值应当处于一个合适的区间。


McCulloch-Pitts模型的基本思想时抽象和简化生物神经元的特征性成分。这个模型不需要捕捉神经元的所有属性和行为,但要足以捕获他执行计算的方式。McCulloch-Pitts模型的六个特点中前面4点和之前总结的生物神经元一致,具体对应请看下图:


1、每一个神经元都是多输入单输出的信息处理单元


2、神经元输入兴奋输入和抑制性输入两种类型


3、神经元具有空间整合性和阈值特性


4、神经元输入与输出间有固定的时滞,主要取决于突触延搁


5、忽略时间整合作用和不应期


6、神经元本身是非时变的,即其突触时延和突触强度均为常数


3 实现原理

36e73e7ccc5c40998a41406a8346114b.png


这发生在1940年代。


f4d431d8373f4b66b999ca07decdfe3f.png

这个现在的神经网络基本一样,看起来已经很高级了。不过其最大的局限性应该在于思想上,当时还没有训练的概念,也就是说那些权重、阈值、激活函数都需要提前手算好。


比如用以上MP模型,完成一些逻辑运算。

fd92f86851fe47c48be2e20737c31680.png


注意:以上情况指定不需要激活函数。


2021051114560849.png

目录
相关文章
|
8月前
|
机器学习/深度学习 算法 定位技术
Baumer工业相机堡盟工业相机如何通过YoloV8深度学习模型实现裂缝的检测识别(C#代码UI界面版)
本项目基于YOLOv8模型与C#界面,结合Baumer工业相机,实现裂缝的高效检测识别。支持图像、视频及摄像头输入,具备高精度与实时性,适用于桥梁、路面、隧道等多种工业场景。
1001 27
|
7月前
|
机器学习/深度学习 数据可视化 算法
深度学习模型结构复杂、参数众多,如何更直观地深入理解你的模型?
深度学习模型虽应用广泛,但其“黑箱”特性导致可解释性不足,尤其在金融、医疗等敏感领域,模型决策逻辑的透明性至关重要。本文聚焦深度学习可解释性中的可视化分析,介绍模型结构、特征、参数及输入激活的可视化方法,帮助理解模型行为、提升透明度,并推动其在关键领域的安全应用。
628 0
|
6月前
|
机器学习/深度学习 存储 PyTorch
Neural ODE原理与PyTorch实现:深度学习模型的自适应深度调节
Neural ODE将神经网络与微分方程结合,用连续思维建模数据演化,突破传统离散层的限制,实现自适应深度与高效连续学习。
481 3
Neural ODE原理与PyTorch实现:深度学习模型的自适应深度调节
|
5月前
|
机器学习/深度学习 数据采集 人工智能
深度学习实战指南:从神经网络基础到模型优化的完整攻略
🌟 蒋星熠Jaxonic,AI探索者。深耕深度学习,从神经网络到Transformer,用代码践行智能革命。分享实战经验,助你构建CV、NLP模型,共赴二进制星辰大海。
|
8月前
|
机器学习/深度学习 人工智能 PyTorch
AI 基础知识从 0.2 到 0.3——构建你的第一个深度学习模型
本文以 MNIST 手写数字识别为切入点,介绍了深度学习的基本原理与实现流程,帮助读者建立起对神经网络建模过程的系统性理解。
778 15
AI 基础知识从 0.2 到 0.3——构建你的第一个深度学习模型
|
机器学习/深度学习 数据采集 自然语言处理
深度学习实践技巧:提升模型性能的详尽指南
深度学习模型在图像分类、自然语言处理、时间序列分析等多个领域都表现出了卓越的性能,但在实际应用中,为了使模型达到最佳效果,常规的标准流程往往不足。本文提供了多种深度学习实践技巧,包括数据预处理、模型设计优化、训练策略和评价与调参等方面的详细操作和代码示例,希望能够为应用实战提供有效的指导和支持。
|
6月前
|
机器学习/深度学习 数据采集 传感器
【WOA-CNN-LSTM】基于鲸鱼算法优化深度学习预测模型的超参数研究(Matlab代码实现)
【WOA-CNN-LSTM】基于鲸鱼算法优化深度学习预测模型的超参数研究(Matlab代码实现)
406 0
|
8月前
|
机器学习/深度学习 人工智能 自然语言处理
AI 基础知识从 0.3 到 0.4——如何选对深度学习模型?
本系列文章从机器学习基础出发,逐步深入至深度学习与Transformer模型,探讨AI关键技术原理及应用。内容涵盖模型架构解析、典型模型对比、预训练与微调策略,并结合Hugging Face平台进行实战演示,适合初学者与开发者系统学习AI核心知识。
618 15
|
8月前
|
机器学习/深度学习 人工智能 自然语言处理
深度学习模型、算法与应用的全方位解析
深度学习,作为人工智能(AI)的一个重要分支,已经在多个领域产生了革命性的影响。从图像识别到自然语言处理,从语音识别到自动驾驶,深度学习无处不在。本篇博客将深入探讨深度学习的模型、算法及其在各个领域的应用。
1475 3
|
9月前
|
机器学习/深度学习 存储 PyTorch
PyTorch + MLFlow 实战:从零构建可追踪的深度学习模型训练系统
本文通过使用 Kaggle 数据集训练情感分析模型的实例,详细演示了如何将 PyTorch 与 MLFlow 进行深度集成,实现完整的实验跟踪、模型记录和结果可复现性管理。文章将系统性地介绍训练代码的核心组件,展示指标和工件的记录方法,并提供 MLFlow UI 的详细界面截图。
389 2
PyTorch + MLFlow 实战:从零构建可追踪的深度学习模型训练系统

热门文章

最新文章