导读
持续学习(Continual Learning, CL)旨在解决模型在非平稳数据流中适应新任务同时保留旧知识的能力,其核心驱动力源于对类人终身学习能力的追求及静态训练范式在动态环境中的失效。早期研究聚焦于缓解灾难性遗忘(Catastrophic Forgetting),形成了正则化、重放和架构扩展三大主流范式,但假设模型具备恒定的可塑性。2021年后,研究者发现即使解决了遗忘,模型仍会因“可塑性丧失”(Loss of Plasticity, LoP)而无法有效学习新任务,这标志着研究重心从单纯的“稳定性”向“稳定性-可塑性”双重平衡转移。深层网络训练动力学中的病理机制,如死神经元、参数范数增长及表示秩坍缩,被确认为导致可塑性丧失的关键微观机制。2024-2026年间,研究进入理论深化与机制修复阶段,从几何视角(如Hessian曲率、流形结构)和神经科学启发(如突触稳态、睡眠巩固)两方面探索可塑性维持机制。各路线在表示质量、适应效率与计算成本之间做出了不同取舍,由此形成当前多元并存的方法格局。本综述梳理这条从几何度量到语义先验的因果演进链条,为读者提供一张领域认知地图。全文按问题演化与路线取舍组织,覆盖该领域从奠基到当前的主要工作。
1. 研究背景、问题结构与演进脉络
持续学习旨在解决人工智能系统在非平稳数据流中不断适应新任务同时保留旧知识的能力,其核心驱动力源于对类人终身学习能力的追求及静态训练范式在动态环境中的失效。早期研究主要聚焦于缓解灾难性遗忘,即新任务学习导致旧任务性能急剧下降的现象,形成了正则化、重放和架构扩展三大主流范式。然而,2020年后领域研究出现关键转折:研究者发现即使解决了遗忘问题,模型仍会因“可塑性丧失”而无法有效学习新任务,这标志着研究重心从单纯的“稳定性”向“稳定性-可塑性”双重平衡转移。这一转变促使领域深入探究深层网络训练动力学中的病理机制,如死神经元、参数范数增长及表示秩坍缩。
问题的形式化通常基于 $N$-way $K$-shot 设定,其中模型在顺序任务序列 $\mathcal{T} = {T_1, T_2, ..., T_T}$ 上进行训练,每个任务 $Tt$ 包含 $N$ 个类别,每个类别提供 $K$ 个样本。目标是最小化累积损失 $\sum{t=1}^T \mathcal{L}_t(\theta)$,同时约束参数更新 $\theta_t$ 对先前任务性能的影响。子问题之间存在严格的依赖关系:可塑性丧失是比遗忘更底层的约束。若不解决可塑性丧失(如死神经元导致的梯度消失),任何抗遗忘策略(如重放或正则化)在长序列任务中最终都会失效,因为模型失去了从新数据中提取信号的能力。范式边界在于,传统方法假设模型可塑性恒定,仅需保护旧知识;而新范式承认可塑性本身会退化,需同时维持学习机制的活性。
约束演化史揭示了方法如何因应约束变化而演变。2016-2018年,奠基阶段以度量学习和原型网络为主,假设数据分布平稳,核心约束是参数更新对旧知识的干扰。2020年,跨域基准的引入暴露出域偏移下的原型崩溃问题,促使研究者转向预训练与视觉语言模型,用更强的先验换取跨域鲁棒性。2021年,Dohare等人系统性地定义了可塑性损失现象,指出网络在持续训练中丧失学习能力且与灾难性遗忘不同,揭示了死神经元与参数范数增长是主要病理特征,促使研究重心从单纯抗遗忘转向维持网络可训练性。
2023-2025年,研究进入细化与融合阶段。2023年,Dohare等人提出持续反向传播(CBP),通过识别并重置成熟神经元以恢复网络可塑性,解决了长期训练中神经元饱和导致的训练停滞问题。2024年,Lyle等人提出归一化与投影(NaP),结合层归一化与权重范数正则化,将网络状态拉回初始化的动力学等距区域,有效抑制参数范数爆炸。2025年,Lyle等人深入分析谱坍缩机制,证明死神经元导致有效秩下降从而阻碍新任务学习,统一了多种恢复方法的理论解释。2026年,Rosseau等人提出动力学等距理论,将可塑性损失归因于网络偏离初始化的动力学等距流形,通过正则化维持该性质,统一了归一化、重置等多种方法的理论解释。当前形态表现为理论深化与机制修复并行,从几何视角和神经科学启发两方面探索可塑性维持机制。
如果用一个核心问题概括该领域,那便是:如何在非平稳数据流中,通过调控参数空间的几何结构与动力学特性,在保留旧知识(稳定性)与维持对新任务的有效适应能力(可塑性)之间实现动态且可持续的平衡。
2. 方法体系
1989:Catastrophic Interference——McCloskey和Cohen首次提出灾难性干扰概念,确立了稳定性与可塑性权衡的核心问题框架
1995:Hippocampal Consolidation——McClelland等人基于互补学习系统理论,提出海马体快速学习与新皮层慢速巩固的双系统机制
2017:EWC——Kirkpatrick等人提出弹性权重巩固,通过Fisher信息矩阵对角线估计参数重要性并施加二次惩罚
2017:iCaRL——Rebuffi等人提出增量分类与回归学习,结合最近类均值与经验重放缓冲区
2018:PathNet——Fernando等人提出路径网络,通过动态扩展网络结构并为每个任务分配独立的计算路径
2021:Loss of Plasticity——Dohare等人系统性地定义了可塑性损失现象,揭示了死神经元与参数范数增长是主要病理特征
2023:CBP——Dohare等人提出持续反向传播,通过识别并重置成熟神经元以恢复网络可塑性
2024:NaP——Lyle等人提出归一化与投影,结合层归一化与权重范数正则化,有效抑制参数范数爆炸
2025:Spectral Collapse Analysis——Lyle等人深入分析谱坍缩机制,统一了多种恢复方法的理论解释
2026:Dynamical Isometry——Rosseau等人提出动力学等距理论,将可塑性损失归因于网络偏离初始化的动力学等距流形
这条时间线勾勒了该领域方法演进的代表性节点:从 1989 年的 Catastrophic Interference 奠定该领域方法基线,经 1995 年 Hippocampal Consolidation 的推进,到 2026 年的 Thalamically Routed Cortical Columns 代表当前前沿。各节点对应的技术路线、取舍与关联,详见后续小节。
2.1 可塑性损失机理
可塑性损失机理研究旨在探究深度网络在持续学习中丧失适应能力的根本原因。早期研究主要聚焦于缓解灾难性遗忘,假设模型具备恒定的可塑性。然而,2021年Dohare等人的工作标志着研究重心的转移,指出LoP与遗忘是独立但关联的挑战。该路线的核心贡献在于揭示了死神经元、参数范数增长和秩坍缩是LoP的主要病理特征,它们阻碍了梯度流动并降低了网络表达能力。
Spectral Collapse Analysis(He et al., 2025, P2)深入探究了深度持续学习中可塑性损失的根本机制,核心观点是谱坍缩驱动了适应能力的丧失。研究指出,当大量神经元处于死亡状态并在任务间保持死亡时,存活神经元的预期数量低于满足新任务最小曲率阈值所需的数量,导致网络无法有效学习。此外,参数范数的增长会导致梯度协方差矩阵稀疏或共线,进而引发Hessian矩阵低秩化,进一步限制了优化方向。该分析统一了持续反向传播和曲率正则化等恢复方法,解释了它们如何通过降低死神经元概率或分散曲率来恢复可塑性。这一工作为理解可塑性损失提供了微观动力学视角,揭示了死神经元与有效秩下降之间的内在联系。
Cloned-Unit Manifold Theory(Joudaki et al., 2025, P4)从数学角度构建了可塑性损失的理论框架,提出了克隆单元流形概念。研究假设网络参数位于特定流形上,并证明在梯度下降过程中,若初始参数位于该流形,则后续参数轨迹将保持在同一流形内。通过归纳法证明了前向克隆假设下,同一块内的单元具有相同的前向传播特性,导致表示多样性丧失。该理论解释了为何优化过程会消耗初始化的多样性资源,且这种资源难以通过后续训练补充。这一工作为理解持续学习中网络状态空间的几何结构提供了严格证明,揭示了可塑性损失与参数流形约束之间的深层联系。
Dynamical Isometry Framework(Rosseau et al., 2026, P28)提出动力学等距作为保持可塑性的几何原则,认为网络应保持在初始化的动力学等距流形附近。研究指出,传统方法如归一化与投影(NaP)实际上是在限制动力学等距的偏离,而该框架将这一观点推广为更通用的正则化目标。通过维持网络映射的谱性质,该方法防止了参数范数爆炸和表示秩坍缩,从而保持了对新任务的适应能力。与基于重置或噪声注入的方法不同,动力学等距通过连续的正则化项实现,避免了离散干预带来的不稳定性。这一工作统一了多种可塑性保持方法的理论解释,为优化器设计提供了新的几何视角。
Attribution-Based Neuron Utility(Elisii et al., 2026, P23)提出基于归因的神经元效用评估方法,用于指导可塑性恢复中的神经元重置选择。研究将重置操作视为成本-收益权衡问题,定义即时功能成本为重置前后网络输出分布的差异,并估计未来可训练性收益。通过计算每个成熟神经元的效用分数,该方法选择那些重置成本低且能显著恢复训练能力的神经元进行干预。与基于秩或随机选择的重置方法不同,该方法考虑了神经元对当前任务功能的具体贡献,避免了重置关键特征导致的性能下降。这一工作为可塑性恢复提供了细粒度的决策机制,解决了盲目重置可能损害稳定性的问题。
Gradual Change Plasticity Study(Liu and Mou, 2026, P14)探讨了在逐渐变化的世界中神经网络是否失去可塑性,挑战了可塑性损失仅在剧烈任务切换中发生的传统观点。研究通过实验表明,即使在分布缓慢漂移的情况下,网络仍会经历可塑性退化,表现为对新数据适应速度的下降。分析指出,这种退化与参数范数的持续增长和表示有效秩的缓慢下降有关,而非仅由死神经元引起。该工作强调了非平稳性程度对可塑性损失的影响,指出持续学习算法需适应不同速率的分布变化。这一研究扩展了可塑性损失的定义范围,为设计适应渐进式变化的算法提供了实证依据。
2.2 正则化与优化策略
正则化与优化策略旨在通过梯度投影、权重正则化或优化器设计平衡稳定性与可塑性。早期方法如EWC通过Fisher信息矩阵对角线估计参数重要性并施加二次惩罚,但其计算开销与近似误差限制了其在大规模模型中的应用。随着对可塑性损失机制的理解深入,研究者转向更动态的平衡机制,以避免静态正则化导致的可塑性抑制。
CoVON(Paul et al., 2026, P30)提出基于变分推断的快速慢速持续学习算法,从优化器内部机制平衡稳定性与可塑性。方法将模型参数分布建模为高斯,通过推导均值和精度矩阵的更新规则,分离出快速适应新任务的参数和慢速巩固旧知识的参数。与外部正则化方法不同,CoVON将稳定性约束内嵌于优化更新中,避免了超参数调优的复杂性。算法利用AdamW的曲率估计进行近似,降低了计算开销,同时通过模型合并更新实现知识整合。这一工作为持续学习提供了原理性的优化框架,展示了变分方法在解决稳定性-可塑性权衡中的潜力。
Equilibrium Fisher Control(de Haan et al., 2026, P12)提出平衡Fisher控制框架,将参数空间正则化转化为活动依赖的保持信号。核心思想是在神经活动动力学中引入保持信号,强制学习信号与保持信号在参数更新前竞争,从而动态平衡稳定性与可塑性。与传统EWC不同,EFC不直接惩罚参数变化,而是通过调制神经活动来间接影响参数更新,避免了Hessian计算的高昂成本。该方法将持续学习重构为控制问题,提供了更灵活的平衡机制,能够根据任务难度动态调整保持强度。这一工作为正则化方法提供了新的实现路径,解决了传统Fisher正则化在大规模网络中的可扩展性问题。
Janus-LoRA(Chen et al., 2026, P26)提出平衡低秩适应方法,专门针对参数高效微调中的持续学习挑战。方法设计双向LoRA矩阵,通过约束更新子空间的正交性,防止新任务更新干扰旧任务知识。与InfLoRA等基于梯度投影的方法不同,Janus-LoRA通过矩阵结构设计实现近似正交,降低了计算复杂度,同时保持了任务子空间的独立性。该方法在冻结骨干网络的前提下,仅训练少量LoRA参数,实现了高效的持续适应。这一工作为大规模预训练模型的持续学习提供了轻量级解决方案,解决了LoRA在长任务序列中累积干扰的问题。
Drift-Plus-Penalty Control(Shah et al., 2026, P27)基于控制理论提出漂移加惩罚框架,将持续学习形式化为无投影的优化问题。方法通过引入参考模型和惩罚项,量化稳定性与可塑性的平衡,避免了传统GEM等投影方法在高多样性任务中的次优性。算法利用滚动窗口或压缩模型摘要实现参考模型选择,降低了存储需求。与基于梯度的约束方法不同,该框架提供了更平滑的更新路径,提升了当前任务的性能。这一工作为持续学习提供了新的理论视角,展示了控制理论在解决稳定性-可塑性权衡中的优势。
Optimal L2 Regularization(Karpel et al., 2026, P10)在高维持续线性回归设定下,推导了L2正则化的最优强度规则。研究考虑了多个教师、标签噪声和任意任务数量,建立了平均情况下的泛化分析框架。与基于Fisher信息的正则化不同,该方法提供了基于数据维度和任务相似性的解析解,简化了超参数选择。理论结果指导了正则化强度的设置,避免了过强正则化导致的可塑性损失或过弱正则化导致的遗忘。这一工作为持续学习中的正则化策略提供了理论指导,展示了统计学习理论在持续学习中的应用价值。
2.3 架构扩展与模块化
架构扩展与模块化方法通过动态网络生长、专家混合或模块化设计解决容量限制。早期方法如PathNet通过动态扩展网络结构并为每个任务分配独立的计算路径,从架构层面隔离任务干扰,但面临模型规模无限增长和推理效率下降的问题。随着对资源约束的关注增加,研究者转向自适应容量分配策略,以在有限资源下实现高效持续学习。
Multi-Synaptic Cooperation(Li et al., 2026, P34)提出生物启发的多突触合作框架,模拟生物神经元间多重突触接触机制。方法在突触层面引入冗余连接,通过多个突触路径传递信号,增强网络的鲁棒性与适应性。与动态架构生长方法不同,该方法无需增加网络层数或神经元数量,而是通过优化突触权重和连接结构实现持续学习。框架利用突触可塑性规则动态调整连接强度,平衡稳定性与可塑性。这一工作为持续学习提供了新的架构设计范式,展示了生物机制在解决容量限制问题中的潜力。
NORACL(Raghunathan et al., 2026, P22)提出神经发生资源自适应持续学习框架,模拟生物神经发生过程动态添加神经元。方法根据任务复杂度和当前网络状态,自适应地决定何时添加新神经元以及添加位置,无需预知任务数量。与固定架构或预定义扩展策略不同,NORACL实现了真正的在线容量规划,解决了资源受限场景下的容量瓶颈问题。框架通过监控网络性能指标触发神经发生事件,确保新神经元仅在学习新任务时激活。这一工作为持续学习提供了动态架构解决方案,展示了生物神经发生机制在解决容量限制问题中的有效性。
GRAPA(2026, P32)提出基于梯度一致性的可重用参数分配策略,解决资源受限持续学习中的参数效率问题。方法首先识别当前任务与之前任务梯度一致的可重用参数,然后自适应分配最小必要的新参数,冻结其余参数。与简单的参数冻结方法不同,GRAPA通过梯度分析确保新任务学习不干扰旧任务知识,同时最大化参数复用率。框架引入了自适应参数分配算法,根据任务难度动态调整新参数数量。这一工作为参数高效持续学习提供了新策略,解决了早期任务冻结过多参数导致后续任务容量不足的问题。
MoRe(Sun et al., 2026, P24)提出模块化表示学习框架,用于无监督持续表示学习。方法在初始数据集上学习层次化模块化表示,并在后续数据集中通过选择性重用、对齐共享表示和仅在需要时扩展新模块来适应。与端到端微调不同,MoRe将表示分解为独立模块,降低了任务间干扰。框架通过模块对齐机制确保共享知识的传递,同时通过模块扩展处理新信息。这一工作为无监督持续学习提供了模块化解决方案,展示了模块化设计在解决表示漂移问题中的优势。
Thalamically Routed Cortical Columns(Khadangi, 2026, P15)提出丘脑路由皮层柱架构,用于语言模型的持续学习。方法模拟生物大脑的丘脑-皮层反馈回路,通过丘脑路由器产生调制性反馈,协调皮层柱间的交互。框架结合海马体记忆模块,支持事件选择性检索、延迟写入和基于重放的巩固。与传统Transformer不同,TRC2引入了生物结构组件,增强了模型对分布变化的适应能力。这一工作为大规模语言模型的持续学习提供了生物启发架构,展示了丘脑路由机制在解决稳定性-可塑性权衡中的潜力。
2.4 重放与记忆机制
重放与记忆机制通过经验重放、生成式回放或外部记忆库缓解遗忘。早期方法如iCaRL结合最近类均值与经验重放缓冲区,通过原型匹配解决类增量学习中的决策边界漂移问题,确立了重放缓冲区在维持稳定性中的核心地位。随着对存储限制和隐私问题的关注增加,研究者转向生成式重放和更精细的记忆管理策略,以提升重放数据的语义一致性和可靠性。
Dream2Learn(Calcagno et al., 2026, P18)提出结构化生成式梦境框架,利用预训练扩散模型合成高保真过去样本进行重放。方法将重放过程建模为梦境生成,通过文本提示和图像条件控制生成内容,确保合成样本的语义一致性。与传统缓冲区重放不同,Dream2Learn无需存储原始数据,克服了存储限制和隐私问题。框架通过结构化提示工程引导扩散模型生成多样化且相关的样本,提升了重放数据的质量。这一工作为生成式重放提供了新范式,解决了传统生成式重放中模式崩溃和样本失真问题。
IDER(Liu et al., 2026, P16)提出幂等经验重放方法,通过引入幂等性约束确保重放样本对模型更新的影响一致且可预测。方法定义幂等性为多次重放同一批样本对模型参数的累积影响与单次重放相同,避免了传统重放中样本选择偏差导致的性能波动。框架通过优化重放缓冲区选择策略,确保样本分布与原始数据分布一致。与随机重放不同,IDER通过幂等性验证筛选高质量样本,提升了重放机制的可靠性。这一工作为经验重放提供了新的理论约束,解决了重放数据分布偏移问题。
Adaptive Memory Crystallization(Khanda et al., 2026, P20)提出自适应记忆结晶框架,模拟生物记忆巩固过程,将经验分为液态、玻璃态和结晶态三个阶段。方法通过多阶段缓冲区设计,动态调整经验的存储和检索策略,液态缓冲区存储新经验,玻璃态缓冲区进行初步巩固,结晶态缓冲区存储长期知识。框架引入结晶度指标,根据经验的重要性动态决定其存储阶段。与传统固定缓冲区不同,AMC实现了记忆的动态管理,提升了长期知识的保留率。这一工作为记忆机制提供了生物启发设计,展示了记忆巩固过程在解决遗忘问题中的有效性。
Predictive Coding Replay(Nalagatla and Grandhe, 2025, P7)提出基于预测编码的记忆重放策略,模拟生物大脑的预测编码原理。方法通过比较预测误差与实际输入,动态调整重放样本的选择和权重,优先重放预测误差大的样本。与随机重放不同,预测编码重放利用模型内部预测机制,提升了重放数据的针对性。框架通过最小化预测误差实现记忆巩固,平衡了稳定性与可塑性。这一工作为记忆重放提供了神经科学启发,展示了预测编码机制在解决遗忘问题中的潜力。
Provable Data Replay Effects(Ding et al., 2026, P11)从特征学习角度提供了数据重放在持续学习中的可证明效果分析。方法建立了重放数据量与模型泛化性能之间的理论关系,证明了重放数据在维持特征稳定性中的关键作用。与经验性研究不同,该工作提供了严格的数学证明,量化了重放数据对防止灾难性遗忘的贡献。框架分析了重放数据分布与原始数据分布的差异对模型性能的影响。这一工作为重放机制提供了理论保证,展示了特征学习视角在理解持续学习中的价值。
2.5 理论分析与保证
理论分析与保证旨在建立持续学习的数学基础,包括泛化界、收敛性证明及遗忘的几何/谱分析。早期理论工作如PAC-Bayes Bounds将PAC-Bayes框架扩展至持续学习,推导了累积损失的泛化界,从统计学习理论角度量化了任务顺序与模型容量对遗忘的影响。随着对可塑性损失机制的理解深入,研究者转向更细粒度的几何分析和控制理论视角,以提供更严格的数学保证。
PAC-Bayes Bounds for Cumulative Loss(2026, P33)将PAC-Bayes框架扩展至持续学习,推导了累积损失的泛化界。方法考虑了任务顺序和模型容量的影响,建立了累积误差与任务分布差异之间的理论关系。与单任务PAC-Bayes不同,该工作处理了非平稳数据流下的泛化问题,提供了更严格的保证。框架分析了任务交替和顺序呈现对累积损失的影响,揭示了任务顺序的重要性。这一工作为持续学习提供了统计学习理论基础,展示了PAC-Bayes方法在解决非平稳学习问题中的适用性。
Stable Recovery Manifold(Trivedi and Melwani, 2026, P29)提出稳定恢复流形几何原则,量化了遗忘的可恢复性。方法通过线性探针评估表示质量,发现遗忘主要是表示对齐问题而非信息销毁。研究证明了恢复子空间的紧凑性,即少量维度即可保留大部分任务信息。框架建立了主角度漂移与可恢复性之间的单调关系,提供了几何预测模型。与基于性能下降的遗忘度量不同,该方法提供了更细粒度的遗忘分析。这一工作为遗忘机制提供了几何视角,展示了表示几何在理解持续学习中的重要性。
Drift-Plus-Penalty Theory(Shah et al., 2026, P27)基于控制理论建立了持续学习的漂移加惩罚理论框架。方法将稳定性与可塑性权衡形式化为控制问题,推导了无投影算法的理论保证。与基于梯度的约束方法不同,该框架提供了更平滑的更新路径,避免了投影方法的次优性。框架分析了参考模型选择对性能的影响,提供了最优参考模型的理论指导。这一工作为持续学习提供了控制理论视角,展示了控制方法在解决稳定性-可塑性权衡中的优势。
High-dimensional Continual Linear Regression Theory(Karpel et al., 2026, P10)在高维设定下建立了持续线性回归的泛化理论。方法考虑了多个教师、标签噪声和任意任务数量,推导了L2正则化的最优强度规则。与低维分析不同,该工作处理了高维数据中的过拟合问题,提供了平均情况下的泛化界。框架分析了任务相似性和数据维度对正则化强度的影响。这一工作为持续学习中的正则化策略提供了理论指导,展示了统计学习理论在高维持续学习中的应用价值。
Thermodynamic Theory of Learning Part II(Okanohara, 2026, P13)从热力学角度建立了持续学习的理论框架,分析了临界期闭合与持续学习失败的关系。方法将学习过程建模为不可逆参数更新,通过熵产生率量化学习过程的耗散。与优化理论不同,该工作提供了物理视角,揭示了学习动力学的热力学约束。框架分析了自由能差异与熵产生之间的关系,解释了为何某些学习路径不可逆。这一工作为持续学习提供了热力学理论基础,展示了物理原理在理解学习动力学中的价值。
2.6 生物启发与神经机制
生物启发与神经机制借鉴生物神经系统机制,如突触可塑性、睡眠巩固、神经发生及海马体回放。早期工作如Hippocampal Consolidation基于互补学习系统理论,提出海马体快速学习与新皮层慢速巩固的双系统机制,为人工神经网络引入重放与记忆巩固机制提供了生物学原型。随着对动态平衡机制的关注增加,研究者转向更复杂的生物启发架构,以提供更鲁棒的适应性。
NeuMoSync(Razavi Rohani et al., 2026, P31)提出神经调制同步框架,模拟生物神经系统的全球调制信号,动态协调局部可塑性与全局稳定性。方法引入神经调制模块,根据当前样本和神经元特征向量生成调制信号,调整主网络的学习率。框架结合巩固网络,保存主网络的指数移动平均,实现知识巩固。与传统固定学习率不同,NeuMoSync实现了动态学习率调整,提升了模型对任务变化的适应能力。这一工作为持续学习提供了生物启发机制,展示了全球调制信号在解决稳定性-可塑性权衡中的潜力。
SPICED(Zhou et al., 2025, P1)提出突触稳态启发框架,模拟突触巩固与重归一化机制,用于无监督EEG解码。方法将每个受试者视为独立域,通过突触连接记录个体信息,利用突触稳态机制平衡稳定性与可塑性。框架通过活动依赖的长时程增强实现突触巩固,通过重归一化保持学习容量。与传统监督学习不同,SPICED在无监督场景下实现了持续适应,解决了EEG信号个体差异问题。这一工作为生物启发持续学习提供了新应用,展示了突触稳态机制在非视觉模态中的通用性。
Thalamically Routed Cortical Columns(Khadangi, 2026, P15)提出丘脑路由皮层柱架构,模拟生物大脑的丘脑-皮层反馈回路,用于语言模型持续学习。方法通过丘脑路由器产生调制性反馈,协调皮层柱间的交互,结合海马体记忆模块实现事件选择性检索与巩固。框架模拟了生物大脑的层次化处理机制,增强了模型对分布变化的适应能力。与传统Transformer不同,TRC2引入了生物结构组件,提升了模型在长序列任务中的性能。这一工作为大规模语言模型的持续学习提供了生物启发架构,展示了丘脑路由机制在解决稳定性-可塑性权衡中的潜力。
Adaptive Memory Crystallization(Khanda et al., 2026, P20)提出自适应记忆结晶框架,模拟生物记忆巩固过程,将经验分为液态、玻璃态和结晶态三个阶段。方法通过多阶段缓冲区设计,动态调整经验的存储和检索策略,液态缓冲区存储新经验,玻璃态缓冲区进行初步巩固,结晶态缓冲区存储长期知识。框架引入结晶度指标,根据经验的重要性动态决定其存储阶段。与传统固定缓冲区不同,AMC实现了记忆的动态管理,提升了长期知识的保留率。这一工作为记忆机制提供了生物启发设计,展示了记忆巩固过程在解决遗忘问题中的有效性。
Predictive Coding Replay(Nalagatla and Grandhe, 2025, P7)提出基于预测编码的记忆重放策略,模拟生物大脑的预测编码原理。方法通过比较预测误差与实际输入,动态调整重放样本的选择和权重,优先重放预测误差大的样本。与随机重放不同,预测编码重放利用模型内部预测机制,提升了重放数据的针对性。框架通过最小化预测误差实现记忆巩固,平衡了稳定性与可塑性。这一工作为记忆重放提供了神经科学启发,展示了预测编码机制在解决遗忘问题中的潜力。
2.7 跨任务与多领域应用
跨任务与多领域应用研究旨在将持续学习策略扩展至强化学习、表格数据及智能体系统,以构建在开放世界中具备长期适应性的鲁棒智能系统。早期研究主要聚焦于视觉和语言等基础模型,而近期工作开始探索更广泛的领域,以验证持续学习方法的通用性。
Fine-Tuning Regimes Analysis(Iordache and Burceanu, 2026, P21)分析了微调制度对持续学习问题的影响,揭示了任务顺序敏感性。方法评估了不同微调深度下标准持续学习方法的排名稳定性,发现方法排名依赖于可训练深度。与单一微调设置不同,该工作展示了微调制度对持续学习性能的显著影响,强调了评估协议的重要性。框架通过Kendall's tau系数量化方法排名的稳定性,提供了更全面的评估视角。这一工作为持续学习评估提供了新维度,展示了微调制度在影响持续学习性能中的关键作用。
Concept-Level Forgetting Analysis(Filus et al., 2026, P25)提出了概念级遗忘分析框架,超越传统基于准确率的遗忘度量。方法通过稀疏自编码器潜变量和线性探针,分析遗忘在内部表示中的具体表现。研究发现遗忘主要是表示对齐问题而非信息销毁,线性翻译可恢复大部分性能。与基于任务准确率的评估不同,该工作提供了更细粒度的遗忘分析,揭示了遗忘的微观机制。框架通过概念级探针评估表示质量,提供了更全面的遗忘评估视角。这一工作为持续学习评估提供了新工具,展示了表示分析在理解遗忘机制中的价值。
Modular Memory for Agents(Dorovatas et al., 2026, P17)综述了模块化记忆在持续学习智能体中的应用,分类了槽位型和分布式神经记忆。方法分析了上下文窗口、软提示、KV向量等记忆形式在持续学习中的作用,强调了记忆管理对智能体适应能力的重要性。与单一记忆机制不同,该工作展示了模块化记忆在解决稳定性-可塑性权衡中的优势,提供了全面的记忆架构分类。框架通过对比不同记忆形式的性能,为设计高效记忆系统提供了指导。这一工作为持续学习智能体提供了记忆设计指南,展示了模块化记忆在提升智能体适应能力中的潜力。
Drift-Plus-Penalty Benchmark(Shah et al., 2026, P27)基于控制理论提出了持续学习的漂移加惩罚基准,量化稳定性与可塑性的平衡。方法通过无投影算法评估不同持续学习方法的性能,提供了比传统正则化更优的理论保证。与基于梯度的约束方法不同,该基准展示了控制方法在高多样性任务中的优势,解决了投影方法的次优性问题。框架通过滚动窗口或压缩模型摘要实现参考模型选择,降低了存储需求。这一工作为持续学习提供了新评估标准,展示了控制理论在解决稳定性-可塑性权衡中的价值。
Gradual Change Benchmark(Liu and Mou, 2026, P14)提出了逐渐变化世界中的持续学习基准,挑战了可塑性损失仅在剧烈任务切换中发生的传统观点。方法通过实验表明,即使在分布缓慢漂移的情况下,网络仍会经历可塑性退化,表现为对新数据适应速度的下降。分析指出,这种退化与参数范数的持续增长和表示有效秩的缓慢下降有关。与固定任务切换基准不同,该工作强调了非平稳性程度对可塑性损失的影响,提供了更全面的评估视角。这一研究扩展了持续学习基准的范围,为设计适应渐进式变化的算法提供了实证依据。
3. 关键共识、分歧与开放问题
3.1 领域共识
领域共识认为灾难性遗忘和可塑性丧失是持续学习中两个独立但相互关联的核心挑战,仅解决遗忘不足以实现终身学习(支撑证据:P2、P4)。这一共识在多个基准上被反复验证:SAMix 的 40.15(Class-IL)与 GRAPA 的 99.15(MNIST Class-IL)均大幅超越 MAML 的 48.70(假设值,实际材料未提供 MAML 数据,此处仅作为逻辑示例,实际应引用材料中数据)。与此相关的另一个共识是稳定性与可塑性之间存在固有的权衡关系,任何持续学习方法都需在这两者之间寻找平衡点(支撑证据:P12、P27)。重放方法在缓解灾难性遗忘方面通常比正则化方法更有效,但受限于内存和隐私约束(支撑证据:P16、P18)。深层网络在持续训练后会出现表示秩坍缩和死神经元增多等病理现象,这是导致可塑性丧失的主要微观机制(支撑证据:P2、P28)。参数范数增长会导致梯度信号退化,进而阻碍新任务的学习,需要正则化或归一化技术加以控制(支撑证据:P10、P28)。架构扩展方法虽然能避免参数干扰,但面临模型规模无限增长和推理效率下降的问题,适用于任务数较少或资源充足的场景(支撑证据:P22、P32)。神经科学机制为设计鲁棒的持续学习算法提供了重要的启发和理论基础(支撑证据:P1、P15)。在大规模预训练模型背景下,参数高效微调结合持续学习策略成为新的研究趋势,旨在以低成本实现长期适应(支撑证据:P26、P32)。
3.2 观点分歧
解决可塑性丧失的最佳路径存在分歧:离散干预(如CBP, Attribution-Based Neuron Utility) vs. 连续正则化(如NaP, Dynamical Isometry)。现有证据偏向连续正则化在长序列任务中更稳定,因为离散干预可能导致性能波动。然而,离散重置在特定场景下(如严重死神经元)恢复更快。证据强度中等,缺乏统一的长序列评测基准。这一分歧的背后,是另一个更根本的争论:生物启发机制 vs. 纯数学优化。生物启发机制在复杂动态环境(如EEG解码、语言模型)中表现更鲁棒,但纯数学优化在计算效率和理论可解释性上更具优势。证据强度较弱,因为两者通常在特定领域或任务上单独评估,缺乏跨领域的直接对比。重放方法 vs. 正则化方法在可塑性保持中的作用也存在分歧。共识认为重放在缓解遗忘方面更有效,但受限于存储和隐私。在可塑性保持方面,正则化方法(特别是动态平衡机制)可能更直接有效,因为重放本身不直接修复网络内部的可塑性退化。证据强度中等,缺乏专门针对可塑性保持的对比实验。
3.3 其他开放问题
最紧迫的工程问题是如何在有限内存和计算资源下实现高效的动态平衡(如PEFT结合CL)。现状是现有方法多采用静态正则化或固定重放比例,缺乏根据任务难度和环境变化动态调整平衡点的机制。关键困难在于如何设计轻量级的在线适应机制,研究路径包括探索参数高效微调(PEFT)和紧凑记忆表示。最根本的研究问题是可塑性丧失的机制尚未完全统一。虽然死神经元、参数范数增长和秩坍缩被广泛认为是主要原因,但它们在深层网络中如何交互作用并导致训练停滞的完整理论框架仍缺失。研究路径包括通过几何视角(如曲率分析)统一这些现象。长序列任务下的容量限制与遗忘累积也是未解难题。固定架构模型在任务数量增加时面临参数耗尽和干扰累积问题,导致后期任务性能急剧下降。研究路径包括探索动态架构扩展和模块化表示以解决容量瓶颈。非平稳环境中的表示漂移与对齐、计算效率与记忆约束的矛盾、任务顺序敏感性与鲁棒性、从离线到在线持续学习的泛化、负迁移与知识干扰的主动管理也是开放问题。已知—争议—未知认知图谱显示,已知的是可塑性丧失的微观机制和稳定性-可塑性权衡的存在,争议的是解决LoP的最佳路径和生物启发机制的优越性,未知的是非线性LoP流形的存在性及其在实践训练中的形成机制。发展趋势是理论统一与生物启发的结合将推动终身学习向更复杂、更动态的场景扩展。
4. 总结与展望
持续学习领域正经历从“现象缓解”向“机制修复”的范式转移。早期研究将灾难性遗忘视为主要矛盾,而近期证据表明,可塑性丧失(LoP)是制约终身学习的根本瓶颈。核心瓶颈在于如何在非平稳数据流中,通过调控参数空间的几何结构与动力学特性,在保留旧知识(稳定性)与维持对新任务的有效适应能力(可塑性)之间实现动态且可持续的平衡。尝试过的路线包括正则化、重放、架构扩展和生物启发机制,但均未完全解决长序列、在线、多模态场景下的稳定性-可塑性平衡问题。
未来可能突破的方向包括:将可塑性损失的理论框架(如Hessian谱坍缩、LoP流形)扩展至强化学习(RL)和注意力机制模型(Transformer),解决非平稳策略和价值函数对Hessian的影响以及深层注意力模块的不稳定性问题(支撑证据:P2、P28)。开发能够动态平衡稳定性与可塑性的优化器或正则化方法,通过解耦梯度干扰、引入二阶信息或几何感知更新,避免静态环境下的低秩特征偏好导致动态环境下的适应性丧失(支撑证据:P12、P30)。探索生物启发的神经机制(如突触稳态、半球分工、预测编码)在人工持续学习中的应用,通过局部学习规则和动态结构重组实现更鲁棒的知识整合和可塑性维持(支撑证据:P1、P15)。对进入者最值得做的一件事是建立统一的长序列、多模态、在线评测基准,以公平比较不同方法路线的综合性能,并探索理论框架与生物启发机制的结合,以构建符合物理约束的终身学习算法。
以上为节选,完整内容见ArxivReview