中国人工智能学会通讯——心智模型CAM的学习记忆机制 1.3 互补学习系统

简介:

1.3 互补学习系统

根据马尔(David Marr)早期的想法 [3], 斯坦福大学心理学教授麦克莱伦德(James L. McClelland)于 1995 年提出了互补学习系统 (complementary learning systems,CLS)理论[4]。 该理论认为人脑学习是两个互补学习系统的 综合产物,一个是大脑新皮质学习系统,通 过接受体验,慢慢地对知识与技能进行学习; 另一个是海马体学习系统,记忆特定的体验, 并让这些体验能够进行重放,从而与新皮质 学习系统有效集成。

2016 年, 谷 歌 深 度 思 维 的 库 玛 拉 (Dharshan Kumaran)、 哈 萨 比 斯(Demis Hassabis)和斯坦福大学的麦克莱伦德在《认 知科学趋势》刊物上发表文章 [5], 拓展互补学 习系统理论。大脑新皮质学习系统是结构化 知识表示,而海马体学习系统则迅速地对个 体体验的细节进行学习。文章对海马体记忆 重放的作用进行了拓展,指出记忆重放能够 对体验统计资料进行目标依赖衡量。通过周 期性展示海马体踪迹,支持部分泛化形式, 新皮质对于符合已知结构知识的学习速度非 常迅速。最后,文章指出了该理论与人工智 能的智能体设计之间的相关性,突出了神经 科学与机器学习之间的关系。

图 4 给出大脑半球的侧视图。其中虚线 表示大脑内或深处的区域内侧表面,主要感 觉和运动皮质显示为深黄色。内侧颞叶(medial temporal lobe,MTL)包围虚线,海马以深灰 色和周围的内侧颞叶(MTL)皮质浅灰色(大 小和位置是近似的)。绿色箭头表示整合的 新皮层关联区域内之间,以及在这些区域和 模态特定区域之间的双向连接。蓝色箭头表 示新皮质区域和内侧颞叶(MTL)之间的双 向连接。蓝色和绿色连接是互补学习系统理 论中结构敏感的新皮质学习系统的一部分。 内侧颞叶内的红色箭头表示海马内的连接, 浅红色的箭头表示海马之间的连接和周围的 内侧颞叶(MTL)皮质:这些连接表现出快 速突触可塑性,这对将事件的元素快速结合 成整合的海马表示非常重要。系统级合并涉 及重播期间通过用蓝色箭头指示的途径扩散 到新皮质关联区域的海马活性,从而支持在 新皮质内连接(绿色箭头)内的学习。系统 级合并是在记忆检索时完成,重新激活相关的新皮质表示集成,可以在无海马情况下完成。

image

图 5 给出海马子区域、连通性和表示 示意图,其中圆形或三角形表示神经元细胞 体,红色线条表示高可塑性突触的投影,而 灰色显示相对稳定的可塑性突触的投影。互 补学习系统理论框架内的工作依赖于内侧颞 叶(MTL)分区的生理特性。在体验期间, 来自新皮质的输入在内嗅皮质(entorhinal cortex,ERC)中产生激活的模式,可以被认 为是压缩描述的贡献皮质区域中的模式。图 5 中内嗅皮质的说明性活动神经元以蓝色显 示。内嗅皮质神经元产生投射到海马体的三 个分区, 即 DG、CA1 和 CA3。

image

海马体学习系统实现模式选择和模式分 离。新的内嗅皮质 (ERC) 模式激活一组以前 未提交的 DG 神经元,图 5 中显示红色,这 些神经元可能是相对年轻的神经元,通过神 经发生创建。这些神经元,反过来,通过大 的“引爆突触”选择 CA3 中的神经元的随机 子集。在从 DG 投影到 CA3 表示为红点,用 作 CA3 中的记忆表示,确保新 CA3 模式与 用于其他记忆的 CA3 模式尽可能不同,包括 用于经验的模式,类似于新的经验。来自活 动的 CA3 神经元反复连接到其他活动 CA3 神经元上,表示体验增强,使得相同神经元 的子集稍后变为活动,其余的模式将被重新 激活。从 ERC 到 CA3 的直接连接也得到加 强,允许 ERC 输入在检索期间直接激活 CA3 中的模式,而不需要 DG 参与。

从 ERC 到 CA1 和背部的连接改变相对 缓慢,允许 CA1 和 ERC 之间的模式相对稳 定对应。在记忆编码期间,当 CA1 模式与相 应的 CA3 模式被重新激活时,从活动的 CA3 神经元到活动的 CA1 神经元连接加强。从 CA1 到 ERC 的稳定连接则允许适当的模式有 待重新激活, ERC 和新皮质区域之间稳定的 连接传播模式到大脑皮层。重要的是,CA1 和 ERC 之间,以及 ERC 和新皮质之间的双 向投影,支持内嗅皮质和新皮质模式的可逆 CA1 表示的形成和解码,并允许重复计算。 这些连接不应该快速改变给定的记忆中海马 的扩展作用,否则在海马中存储的记忆在新 皮质中难以恢复。

图 6 解释海马的连接编码、模式分解和 合成。图 6 (A) 给出有 5 个输入端连接 10 个 输出端,每个输出端连接 2 个不同模式的输 入。每个连接单元检测相邻输入单元的活动。DG 可以使用高阶的连接,放大这些影响。图 6 (B) 说明模式分离函数的一般形式,显示在 输入和输出之间的关系重叠;箭头表明图6(A) 中输入和输出的重叠。图 6(C) 表示模式分解 和合成的情况与 CA3 相关,在那里输入低的 重叠减小少,而较高的输入重叠减小多。

image

模式分解和合成是根据影响神经活动模 式之间的重叠或相似性的变换来定义的。模 式分解使得类似模式通过连接编码更清晰, 其中每个输出神经元仅响应于有效输入神经 元的特定组合。图 6(A)和(B)显示了这 种情况如何发生。模式分解是在 DG 中实现 的,使用高阶连接减少重叠。

模式合成是一个过程,需要采集模式的 片段和填补其余的功能。采取与熟悉模式相 似的模式,使它更加类似于它。计算模拟已 经表明 ,CA3 区域组合分离的模式特征和合 成,使得中等和高度重叠,导致模式合成并 保存在记忆中, 而重叠较少的模式导致创建 一个新的记忆,如图 6(C)所示。这种情况下,当环境输入在 ERC 中产生类似于先前模 式的模式时,CA3 输出更接近其先前用于该 在 ERC 模式的模式。然而,当环境在 ERC 上产生与以前记忆模式重叠低的输入时,DG 在 CA3 中创建新的、统计独立的细胞群。新 出现的证据建议模式合成(以及海马处理的 其他特征)所需的重叠量可以发生在海马近 端末梢和背腹侧轴,并可能由神经调节因子 (如乙酰胆碱)形成。

研究指出,CA3 和 CA1 分区之间的差异 在于其神经活动模式对环境变化的响应。广 义上讲,CA1 分区倾向于反映来自在 ERC 的 输入重叠程度,而 CA3 更多显示反映模式分 解或合成的不连续响应。

相关文章
|
6月前
|
人工智能 搜索推荐 程序员
当AI学会“跨界思考”:多模态模型如何重塑人工智能
当AI学会“跨界思考”:多模态模型如何重塑人工智能
775 120
|
7月前
|
人工智能 数据挖掘 大数据
人工智能模型决策过程:机器与人类协作成效
决策智能(DI)融合AI与人类判断,提升商业决策质量。通过数据驱动的预测与建议,结合人机协作,实现更高效、精准的业务成果,推动企业迈向数据文化新阶段。(238字)
|
7月前
|
机器学习/深度学习 人工智能 测试技术
EdgeMark:嵌入式人工智能工具的自动化与基准测试系统——论文阅读
EdgeMark是一个面向嵌入式AI的自动化部署与基准测试系统,支持TensorFlow Lite Micro、Edge Impulse等主流工具,通过模块化架构实现模型生成、优化、转换与部署全流程自动化,并提供跨平台性能对比,助力开发者在资源受限设备上高效选择与部署AI模型。
613 9
EdgeMark:嵌入式人工智能工具的自动化与基准测试系统——论文阅读
|
机器学习/深度学习 人工智能 算法
普通人怎么学人工智能?这些隐藏学习秘籍大揭秘,生成式人工智能认证(GAI认证)来助力
在人工智能(AI)快速发展的今天,普通人学习AI已成为必然趋势。本文从明确学习目标与路径、利用多元化资源、注重实践应用、关注GAI认证及持续自我提升五个方面,为普通人提供系统化的AI学习指南。通过设定目标、学习编程语言、参与项目实践和获取专业认证,普通人可逐步掌握AI技能,在未来职场中占据优势并开启智能时代新篇章。
|
7月前
|
存储 人工智能 搜索推荐
Mem0 + Milvus:为人工智能构建持久化长时记忆
Mem0 为AI打造持久记忆层,结合Milvus向量数据库,让智能体记住用户偏好、追溯历史对话,实现个性化持续交互,告别“健忘”AI。
Mem0 + Milvus:为人工智能构建持久化长时记忆
|
12月前
|
人工智能 算法 安全
深度:善用人工智能推动高等教育学习、教学与治理的深层变革
本文探讨人工智能技术与高等教育深度融合带来的系统性变革,从学习进化、教学革新与治理重构三个维度展开。生成式AI作为技术前沿代表,正通过标准化认证体系(如培生的Generative AI Foundations)提升职场人士、教育者及学生的能力。文章强调批判性思维、高阶认知能力与社交能力的培养,主张教师从经验主导转向数据驱动的教学模式,并提出构建分布式治理结构以适应技术迭代,最终实现人机协同的教育新生态,推动高等教育在智能时代焕发人性光辉。
|
机器学习/深度学习 人工智能 算法
猫狗宠物识别系统Python+TensorFlow+人工智能+深度学习+卷积网络算法
宠物识别系统使用Python和TensorFlow搭建卷积神经网络,基于37种常见猫狗数据集训练高精度模型,并保存为h5格式。通过Django框架搭建Web平台,用户上传宠物图片即可识别其名称,提供便捷的宠物识别服务。
1272 55
|
机器学习/深度学习 人工智能 算法
基于Python深度学习的眼疾识别系统实现~人工智能+卷积网络算法
眼疾识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了4种常见的眼疾图像数据集(白内障、糖尿病性视网膜病变、青光眼和正常眼睛) 再使用通过搭建的算法模型对数据集进行训练得到一个识别精度较高的模型,然后保存为为本地h5格式文件。最后使用Django框架搭建了一个Web网页平台可视化操作界面,实现用户上传一张眼疾图片识别其名称。
669 5
基于Python深度学习的眼疾识别系统实现~人工智能+卷积网络算法
|
6月前
|
人工智能 IDE 开发工具
拔俗人工智能辅助评审系统:如何用技术为“把关”提效
人工智能辅助评审系统融合大模型、提示工程与业务流程,实现上下文深度理解、场景化精准引导与无缝集成。通过自动化基础审查,释放专家精力聚焦核心决策,提升评审效率与质量,构建人机协同新范式。(239字)
509 0

热门文章

最新文章