持续学习到底什么时候需要"真学习"？

论文解读 · When Does Continual Learning Require Learning · arXiv: 2607.07847 · UC Berkeley

旧框架过时了

持续学习领域二十年来的默认叙事是"灾难性遗忘"——学了B忘了A。UC Berkeley这篇直接推翻：持续学习应该是"在变化的世界中增加能力"。

论文把变化拆成两个正交轴：空间轴（领域漂移，domain shift）和时间轴（时序漂移，temporal drift），再加上第三维——改什么（context / 参数 / 外部记忆）。

▲ Figure 1: 统一框架——四类环境变化（domain shift / fact update / temporal drift / agentic state）× 三类更新机制（context / parameters / memory）

八种方法，四类场景，一套协议

三类更新机制、八种方法，统一切到同一评测管道：

• Context修改：GEPA（提示进化）、ACE（Agent编排手册）
• 参数更新：SFT（直接微调）、SDFT（蒸馏保护旧知识）、GRPO / SDPO（在线RL）
• 外部记忆：Cartridges（KV缓存蒸馏）、In-place TTT（自适应上下文）

四类评测场景，全部基于实际数据改造：领域漂移（ToolUse→FinQA→Bio）、事实更新（TempWiki逐月漂移2025.11-2026.02）、时序漂移（10-K年报2015-2020）、Agent状态（Gmail多步操作1-10步）。

▲ Figure 2: 领域漂移结果——提示方法学当前最快但旧任务跌最狠；蒸馏方法最稳但学新慢

每种方法在某种场景下最好，在另一种场景下最差

提示方法（GEPA/ACE）：学习快，覆盖性强。写好新prompt = 覆盖旧能力——后向遗忘（BWT）最严重。

蒸馏方法（SDFT）：反向遗忘最小，知识积累最稳。但在事实更新场景，蒸馏保护机制反而阻止了必要的知识修正——双刃剑。

在线RL（SDPO/GRPO）：在TempWiki事实更新上适应最快，但对奖励噪声极其敏感。GRPO对reward环境要求比SFT严格得多。

上下文压缩（Cartridges/TTT）：提升推理效率，但不提升学习能力。记住更多 ≠ 学会更多——这是两个独立维度。

▲ Figure 3: TempWiki事实更新——好方法应同时提升drift F1（学到新事实）且保持stable F1（不丢旧知识）

▲ Figure 4: 10-K年报时序漂移——蓝线=历史年份准确率，红线=未来年份准确率

▲ Figure 5: 提示进化——左侧为理想分析师如何随时间调整指令，右侧为GEPA实际优化过程

▲ Figure 6: Agent多步操作成功率——实线=更新机制，虚线=零样本基线。TTT等外部状态方法在长链路任务上表现突出

什么时候必须"真学习"？

论文用实证回答了标题的问题：

• 领域漂移（跨domain）必须学进权重——纯context覆盖范围有限，跨domain泛化需要参数级重构
• 事实更新（知识过时）在线RL效果最好但风险高，关键是区分"该更新的"vs"该保留的"
• Agent状态积累外部状态管理就够了——很多agent任务不需要改权重，更好的上下文追踪就够
• 混合场景（现实最常见）单一方法必然失败，需要混合策略

工程启示

别再拿"克服灾难性遗忘"当默认目标——很多场景下遗忘不是主要矛盾，更新速度 vs 更新稳定性的权衡才是。

蒸馏保护是双刃剑：需要更新时，同一机制会拖后腿。长上下文/KV压缩提升的是存取效率，不是学习能力。每次参数更新都是全局风险——能用context解决的别动weights。

对agent系统构建：运行时记忆（context/外部存储）和周期性权重更新不是对立的替代品，而是应该根据变化类型动态选择的互补机制。靠谱的agent要能判断"改prompt就够了"vs"得微调"——这正是前面Sleep范式（2606.03979）和Proactive Memory（2607.08716）的实证支撑。