Nested Learning：Ali Behrouz 探索持续学习之路与 AI 架构的幻象

摘要

• 这一期将持续学习——而非静态预训练的又一次增量改进——视为当下模型与持久型 AI 协作者之间缺失的能力。 Behrouz 认为，当前存在两个相互关联的缺口：一方面，现有 LLM 无法在不引发灾难性遗忘的情况下，将新知识高效吸收进数十亿个参数；另一方面，token 空间中的记忆最终会超过上下文限制。目标是让模型能够“适应环境与上下文”，同时把经验压缩成越来越通用的抽象。

• Nested Learning 用以不同频率更新的模块取代单一训练时钟，可能把扩展路径从堆叠更多层，转向嵌套更多学习时间尺度。 快速模块适应近期的高分辨率上下文，慢速模块保存持久知识并提取更高层次的模式，前提是两者之间存在有效的知识迁移。其架构论点是，“更新频率”和“层级之间的知识迁移”会成为新的扩展维度。

• HOPE 以多个 MLP 记忆模块落地这一框架；在更完整的形态中，它还引入了一个会随上下文演化更新规则的自修改 Titans 模块。 HOPE Attention 保留 attention，但将单一固定 MLP 记忆替换为多个 MLP；按 Behrouz 的回忆，在报告配置中，这些 MLP 大致按照 128、512 和 2,048 token 的节奏更新。完整 HOPE 则用一种能够自行生成 value 的序列式关联记忆取代 attention，让“模型本身”根据每个 token 修改自己的学习方式。

• 最能说明问题的结果并不是 perplexity 的边际提升，而是 HOPE 能够在上下文中同时学会两种此前未见过的语言。 传统 transformer 在获得某种陌生语言的语法和词典后，可以完成翻译；但当 Manchu 和 MTOB 同时出现时，模型“几乎崩溃”，而加入 HOPE 层级后，表现逐步恢复并接近单语言基线。这初步说明 HOPE 具备 qualitatively different 的记忆管理能力，而不只是更强的 next-token predictor。

• Behrouz 认为，架构与优化器高度相关，因为两者都是在压缩不同上下文的关联记忆。 架构从 token 中学习，优化器从梯度中学习，而 momentum 本身就是压缩梯度历史的一种记忆。M3 将同样的多频率思路应用于优化，在报告设置中跑赢 Adam 和 Muon，但 Behrouz 强调，优化器排名取决于具体任务。

• 《Language Models Need Sleep》增加了一个离线巩固阶段，将近期知识从快速记忆提炼到更慢的记忆中，同时避免模型无边界增长。 接收层会先获得临时参数，为巩固过程腾出空间；完成后，这些参数被移除并回收。压缩压力迫使慢速记忆表达更宽泛的规则，而不是复制样本。在“做梦”阶段，模型根据自身近期知识生成合成文本，并训练其后续内容，将记忆迁移与自我改进结合起来。

• 持久学习的上行空间是极致个性化，但同一机制也带来尚未解决的隐私、对齐、评估和产品版本管理风险。 对于如何完全控制模型漂移，Behrouz 的诚实回答是：“我没有非常具体的想法”；模型可能把用户的一切都内化，对抗性输入可能变成持久信念，而运营方也不可能在每次更新后重新跑一套完整安全测试。他认为知识迁移可能成为一个控制点，输入依赖的学习率也可能过滤掉令人意外但无关的数据。

• 持续学习可能进一步强化赢家通吃的平台格局，但 Behrouz 预计，差异化智能体会形成一种抵消力量。 一个普遍部署的模型可能把经验不断复利，形成难以击败的优势；但主持人推测，个性化学习者也可能走向专业化，并遗忘不再使用的能力。Behrouz 更谨慎的判断是，拥有不同长处和短板的多样化系统，可能“比世界上只有一种单一形式的智能更好”。

• Nested Learning“不是持续学习的解决方案”，而是寻找解决方案的工具。

精读

1. 大脑提供的是原则，而不是蓝图

• Behrouz 认为，大脑和进化之所以是异常丰富的证据，是因为生物智能经历了极其漫长的“自然训练过程”。他的目标不是逐个神经元复刻人类认知，而是找出能够解决当前模型显现出的缺陷的通用机制。

• 生物学启发的颗粒度至关重要。研究过于底层，可能导致研究者“把自己过拟合到某一种特定的智能形态”；更糟的是，人们对相关机制的理解未来可能发生变化，令机器学习设计过拟合于一个暂时性的解释。

• Titans 体现了这种区别：惊异度、短期与长期记忆、运行时适应都是有用的抽象，但 Behrouz 怀疑大脑是否“真的在精确执行梯度下降”来计算惊异度。生物学提供问题和大致模式，工程上仍可寻找计算上可行的答案。

2. 静态 LLM 无法把持续的人生转化为持久知识

• Behrouz 认为，当前存在两个相互耦合的缺口：适应即时环境，以及随着时间推移把新知识写入参数，同时避免灾难性遗忘。知识截止日期只是表面症状；一旦禁止调用工具，问题就更加明显——即便是大模型，也无法简单地把这段时间里发生的世界直接纳入自身。

• 在数十亿参数规模上，持续更新每一个参数的计算成本高得不可承受。有监督微调或强化学习可能有所帮助，但当新数据改变网络时，两者都不能自动防止旧任务和技能消失。

• 基于 token 的记忆只能推迟问题。模型最终会超过上下文长度；真正的学习迟早需要把筛选后的经验从 token 空间迁移到持久参数中。

• 更深层的缺陷在于抽象能力。科学通过寻找能够解释大量观察结果的紧凑模式不断前进，而当前 LLM 还不擅长提取“不同层次的抽象”，而是倾向于试图把一切都保留下来。

3. 持续学习者需要主动时间，也需要睡眠时间

• Behrouz 的严格定义取消了模型侧训练与测试的区分：“真正的持续学习者没有测试时间和训练时间。”研究者仍然可以划出评估阶段，但学习者自身应处于一个统一的过程之中，信息可以持续改变它。

• 不过，他仍提出了两个运行阶段。主动时间里，模型接收查询或感知数据，对其进行计算并编码经验；睡眠时间里，模型“与外部世界完全隔绝”，但继续进行内部计算、巩固和自我改进。

• 主持人以 2030 年为背景提出了一种关系性定义：今天的聊天机器人在用户或预设触发器唤醒之前处于静止状态。Behrouz 理想中的下一代系统不只是永远在线，而是能够重新审视已经学到的内容，把看似无关的信息连接起来，并为未来使用整理记忆。

4. 目标是有用的机器智能，而非人类复制品

• Behrouz 明确表示，这只是“我个人的看法，可能完全错误”，随后否定了复制人类这一目标。研究应少关注人类能做什么，多关注“人类希望 AI 做什么”。

• 当人类认知揭示出某种通用约束或策略时，它仍然有价值。违背因果关系的 AI 方案不可信，因为因果关系是世界的一条规则；而让 AI 在经验与巩固之间交替进行则可能成立，因为两阶段学习似乎是一种更广泛的组织原则。

• 因此，《LLMs Need Sleep》中的“睡眠”是隐喻，并不是要求软件真正休息。睡眠代表一个没有外部输入、用于处理记忆和提取模式的阶段，也可能支持一种补足人类弱点的智能，而不是复制人类的能力和局限。

5. 扩展路径可能从堆叠层转向嵌套学习层级

• 主持人的总结区分了 layer 与 level。Transformer 的表达能力很大程度上来自堆叠约 80 或 120 个顺序层；Nested Learning 则通过以不同更新频率共存的模块增加计算深度，而不是只让激活值依次通过更多层。

• Behrouz 表示，这一框架的形式化可能耗时超过 1.5 年。最终的表述需要两部分：赋予每个模块独特时间尺度的更新频率，以及让慢速模块的等待在经济和计算上都值得的迁移机制。

• 快速网络处理近期的高分辨率信息并迅速适应；慢速网络接收提炼后的收益，专注于更稳定的抽象。没有知识迁移，多重时钟只是闲置算力；没有多重时钟，新学到的细节就可能一次性覆盖全部内容。

• 增加内部计算也会抬升每个参数对应的算力。与其让一个 token 只经过每个参数一次，循环或嵌套处理可以让参数多次作用于 token 及其历史，形成一种“内部思考过程”，可能同时改善 next-token prediction 和适应能力。

6. “一切都是上下文学习”正在消解架构分类

• Nested Learning 有意复用已有概念，因为 Behrouz 想建立的是一个通用框架，而不是重置词汇体系。他的归纳是：预训练、attention、循环更新和反向传播，都可以被视为作用于不同上下文流的上下文学习形式。

• 反向传播是对训练数据进行关联记忆的过程；RNN 在 token 流上执行学习；attention 则是一个类似回归的 key-value 记忆问题的非参数解法。不同之处在于被改变的状态，以及这种变化发生的速度。

• 这就形成了论文所谓的“架构幻象”。传统深度学习只呈现每个组件最终承载的解；Nested Learning 则同时呈现“每个组件内部的学习过程”，揭示出 wiring diagram 之下嵌套的优化问题。

• 因此，这一框架是对 transformer、skip connection、MLP 及熟悉训练机制的补充，而非否定。说一个系统使用 attention，已经意味着其中存在一个学习过程；新的问题是，这一过程如何与其他记忆和时间尺度发生关系。

7. HOPE Attention 将 transformer 的单一记忆变成连续谱

• Behrouz 将 transformer 的 attention 模块理解为短期上下文记忆，将 MLP 理解为在预训练期间被压缩的长期记忆。推理时，attention 重新组合当前 token，而被冻结的 MLP 携带模型对世界的通用知识。

• HOPE Attention 保留 attention，并把单一 MLP 替换成以不同频率更新的多个 MLP 模块。最快的模块可以随近期上下文变化；更新更慢的模块则跨越更多次更新保存知识，形成论文所称的连续谱记忆系统。

• 快速 MLP 可能灾难性遗忘几千个 token 之前遇到的信息，但更慢的 MLP 尚未发生变化，因此丢失的技能仍编码在其中，并可通过反向传播返回。这构成一个时间循环：稳定记忆纠正反应过度的近期记忆。

• Attention 仍然有价值，因为它是“完美的记忆”，能够缓存可用上下文并直接检索。该期节目的框架是，哪怕更慢、更具压缩性的记忆承担更多持续学习工作，attention 作为一个无限频率模块仍可能继续发挥作用。

8. 完整 HOPE 用自修改 Titans 记忆取代 attention

• Attention 的无限更新频率同时也是它的弱点：单独使用时，它缺乏时间因果性，需要位置编码来表达顺序。因此，Behrouz 用另一种 key-value 关联记忆 Titans 取代它，再将该模块与多频率 MLP 连续谱结合。

• 完整 HOPE 更进一步，引入一个自修改 Titans 模块，其 value 函数由自身不断演化的参数生成。由于每个 value 都取决于记忆的当前状态，这一过程是序列式且依赖历史的，而不是一组彼此独立投影出的 value。

• Behrouz 预计，这种序列性将有助于需要因果或逐步推理的任务。Softmax attention 可以直接查看所有此前 token，但不会在内部把它们体验成一连串状态变化；自修改 Titans 则在结构上具备“对数据中因果关系的完整理解”。

9. 自行生成 value，意味着修改自己的更新规则

• 主持人的质疑很具体：transformer 已经学会了自身的 Q、K、V 投影，为什么还要把 HOPE 的 value 称为自生成？Behrouz 的回答是，普通 attention 从上游接收投影后的 Q、K、V，在检索操作内部无法控制这些投影。

• 梯度下降提供了一个类比。用链式法则展开梯度后，更新形式会类似线性 attention：输入充当 key，输出梯度充当 value，但这个 value 本身是当前权重 Wt 的函数，而不是在递归之前由独立组件生成。

• 在基础 Titans 模块中，X 先被投影成 Q、K、V，再进入记忆。在自修改 Titans 中，QKV 投影参数在模块内部被优化，因此当前记忆既帮助决定存储什么，也帮助决定下一条信息应以什么规则存储。

• 主持人将其与 Mamba 的输入依赖状态更新联系起来：突破点不只是维持状态，而是让输入决定状态如何变化。Behrouz 接受这一类比——HOPE 延后并内化 value 的构造，使其更加依赖上下文和历史。

10. 运行时仍然熟悉，但每个模块都有自己的时钟

• 推理期间，HOPE Attention 会追踪每个 MLP 是否到达更新节点。如果尚未到达，就使用该模块的上一状态；如果已经到达，则先对累计的 chunk 执行反向传播，更新权重，再用更新后的记忆进行推理。

• 从研究者角度看，系统仍然有数据运行和评估，这促使主持人质疑“没有训练/测试区分”的说法。Behrouz 的修正是“评估时间与非评估时间”：测量是外部的记录工作，而模型在整个过程中持续更新。

• 从头训练时，标准模块是 attention 或自修改 Titans，后接数个频率分离的 MLP。对于已经预训练的 Llama，团队则交错排列 attention 加 MLP 的模块，并为各个 MLP 分配不同频率，在不重建模型的情况下保留预训练结构。

• Behrouz 将这些布局视为设计选择，也呼应主持人关于 Titans 和 Mamba 是“乐高积木”的观察。概念上的进步应能经受序列式与并行式排列等 wiring 变化；具体布局重要，但不如是否引入了真正有用的新组件重要。

11. 初始频率安排来自直觉，而非优化

• MLP 的相对规模、学习率和更新计划取决于模型规模与所需适应能力。Behrouz 不认为存在通用配方，并将这个问题类比为：能否为所有架构和使用场景指定唯一最佳的 transformer 维度。

• 报告中的频率来自团队此前对 Titans chunk 大小的直觉，当时团队还没有用“频率”作为组织概念。按 Behrouz 回忆，chunk 可能是 128、4 × 128、4 × 4 × 128 个 token，即大致对应 128、512 和 2,048。

• 学习率之间的相互作用仍几乎没有被研究。他预计常规超参数搜索方法可以适用，但也直接表示：“我还没做过，也不确定确切的解法。”

• 主持人的关键推论是，这些只是概念验证结果，没有经过主流模型那样穷尽式的调参。层级数量、block 大小、学习率、序列式还是并行式等诸多轴仍然开放；这让早期强劲结果更具启发性，同时也限制了对最终设计的判断。

12. 知识迁移决定慢速记忆是否值得付出成本

• Behrouz 用一个并不严谨但很有用的双胞胎类比，突出更新次数的作用。一个双胞胎留在地球上，经历 80 年的记忆更新；另一个以光速或接近光速旅行，主观上只过了几秒就返回，因此对共同午餐的记忆更加清晰。

• 在嵌套模型中，慢速记忆类似旅行中的双胞胎：它更新得更少，因此保留了被快速记忆覆盖的信息。在快速模块再次更新之前，系统有机会把有价值的知识迁移到慢速模块。

• 一个明确的机制是把模型 A 复制到模型 B，更新 B 的快速 MLP，再调整 B 的慢速 MLP，直到 B 能复现 A 的输出。由于 A 仍保留旧的快速记忆知识而 B 没有，成功模仿就意味着知识已经迁移到 B 的慢速参数中。

• 这就是蒸馏；对序列式 block 进行普通反向传播则是更简单的替代方案。在最初的 HOPE 实验中，“一切都只是反向传播”；而睡眠论文将迁移显式化，并在巩固之前激活额外的接收容量。

13. 两种未知语言暴露出 transformer 在负载下会丢失的能力

• Behrouz 最喜欢的持续学习评测，是给预训练模型提供一种未出现在预训练数据中的语言的语法、词汇和词典，且全部放在上下文中。模型必须推断该语言，并把一段新文本翻译成英语，同时实验任务本身不变。

• 只有一种未知语言时，传统上下文学习的质量非常高，尽管并不完美。当两种未知语言同时放入同一上下文，transformer“几乎崩溃”，无法可靠地区分这两个新学会的语言体系。

• 随着层级增加，HOPE Attention 的表现改善。在论文对 HOPE-1、HOPE-2 和 HOPE-3 的比较中，逐步增加的更新频率提升了两种语言的翻译质量，并接近只出现一种语言时的表现。

• 主持人确认，这两种语言是 Manchu 和 MTOB，预训练模型在训练时都未见过。Behrouz 的解释是记忆管理：快速模块保存临时样本，慢速模块提炼语言层面的结构，从而避免两个同时发生的学习问题产生灾难性干扰。

14. 标准基准证明可行性，而非验证核心论点

• 报告中的扩展实验包括一个拥有 760 million 参数、训练 30 billion token 的模型，以及一个拥有 1.3 billion 参数、训练 100 billion token 的模型。HOPE 与 transformer、Mamba 变体、Titans、RetNet 和 DeltaNet 进行比较，指标包括 perplexity 和传统准确率表格。

• 报告表格显示，HOPE 在这些比较中表现强劲，但 Behrouz 不愿把小幅基准差距上升为普遍胜利。现有短期、短上下文语言模型评测并没有检验该架构为解决的持续学习问题。

• 在 NeurIPS 上，他借助传统表格论证 HOPE“作为 backbone 并不弱”，而不是说 perplexity 的边际改善证明了这一范式。现有基础设施假设训练和测试分离，因此即便研究论点否定这种生命周期，报告这些指标仍是保持可比性的必要条件。

15. 记忆、噪声过滤与压缩揭示了不同的微观能力

• Behrouz 认为，大海捞针测试实际上是为 transformer 设计的。Transformer 可以直接查看原始历史；让压缩型循环模型，或人类，在数千行代码中找出某一行里的 X，本质上偏向 attention。

• 尽管如此，HOPE 仍缩小了循环模型与 transformer 之间的记忆差距；节目还将其与对延伸至 10 million token 的上下文进行有效检索联系起来。Behrouz 认为这一点尤其值得注意，因为基于压缩的记忆本来就不应在纯记忆任务上追平直接访问。

• MAD 风格的噪声记忆测试则逆转了优势。Attention 能访问每个 token，因此更容易被噪声干扰检索；拥有强记忆管理能力的循环模型则可以过滤无关 token。但较弱的循环更新仍会失败，所以仅靠压缩并不够。

• 压缩与选择性复制任务又检验了另一项能力。当大量 token 必须压缩成一个 token，并在之后支持重建时，循环架构已经在执行所需的压缩；transformer 则更难把显式上下文转化成单一的持久表示。

16. M3 将优化器视为另一种多频率记忆

• Behrouz 首先压低结论预期：没有任何优化器在所有问题上都简单地“更强”。回归和语言建模之间的排名可能变化，结果还取决于架构、损失几何、超参数以及生成梯度的结构。

• 优化器与模型构成一个相互连接的系统，因为架构产生了优化器必须理解的梯度。简单架构可能只需普通梯度下降；复杂的梯度模式则可能需要更强的 momentum 记忆来压缩其历史。

• 这是把“架构幻象”应用到优化上的结果。架构的上下文是 token，优化器的上下文是梯度；两者都实现学习规则和关联记忆，区别更多在于作用位置，而非本质上是什么。

• M3 在 M1 的基础上加入两个以不同频率压缩梯度上下文的记忆模块。报告中的优化器对比包括 Adam 和 Muon；结果可能意味着它能更好地获得损失景观的全局结构，但 Behrouz 始终把结论限定在具体任务上。

17. 睡眠把样本巩固为逐步扩展的规则

• 睡眠从外部输入停止时开始，而不是从计算停止时开始。Behrouz 将其视为一个可扩展容器，未来可以容纳巩固、自修改及其他改进过程；论文实现的是与当前研究相关的组件，并未声称已经建立完整理论。

• 快速记忆类似死记硬背：它们迅速吸收大量样本，也可能迅速遗忘。慢速记忆则应表达能够涵盖这些样本的数学或物理规则，并在更多证据支持更广泛解释后继续修正该规则。

• 蒸馏制造了这种抽象压力。单纯把快速参数复制到慢速 block，只是搬运知识，并不会改善知识；迫使接收 block 在受限容量下复现行为，会鼓励它识别底层模式，存储“更好的知识抽象层级”。

• 容量扩展是周期性的，而不是无边界的。系统在接收层激活临时参数，在巩固期间填充它们，随后移除并释放这部分额外容量，以便在其他地方复用——也就是“增加组件并移除组件”，而不是让终身学习的模型无限膨胀。

18. 做梦把近期经验转化为自生成训练数据

• Behrouz 提醒，不要按字面理解这一隐喻。语言模型通过生成文本做梦，视觉模型可能生成图像，其他模态则使用各自的数据；共同原则是在无外部输入阶段生成内部经验。

• 一个包含近期上下文知识的复制模型按 on-policy 方式生成文本。接收模型看到一个采样出的开头，并必须预测后续内容；准确预测说明慢速参数已经包含相关知识，预测错误则提供更新信号。

• 因此，该过程包含两个机械阶段：先生成合成数据，再在记忆层级之间进行 on-policy 蒸馏。当系统试图在特定任务上自我改进时，也可以加入微调或强化学习。

• 做梦的更广泛目标，是检验看似无关但可能共享底层模式的概念之间是否存在联系。Behrouz 将人类“非常奇怪的梦”与这种搜索联系起来，同时保留限定：机器做梦只是高层次类比，并不意味着内部体验相同。

19. 持久个性化打破熟悉的产品与安全节奏

• Behrouz 预计，持续学习者不仅能理解一个问题，还能理解特定用户为什么这样提问。同一个 prompt 对不同的人可能需要不同回答，而重复互动应当让模型自行适应，无需用户反复重建上下文。

• 他称持续学习是“长上下文的超集”，同时强调两者并不相同。更长的有效上下文已经与更好的编程、数学和推理表现相关；持久的参数学习则可能把这些收益延伸到任何单独聊天窗口之外。

• 主持人提出了尚未解决的产品问题：用户何时应该重新开始，一个模型版本究竟如何定义，以及对于每次互动后都会变化的系统，开发者如何发布 100 页的安全报告？Behrouz 能指出能力提升，但没有给出完整的版本管理或评估机制。

• 持久关系还可能加剧依赖或“LLM 精神病”。一个记得用户如何对待自己的系统，比一次性聊天更容易让人投入，可能同时加深协作关系与情感纠缠。

20. 对齐取决于决定什么值得被巩固

• 对于模型漂移问题，Behrouz 的诚实回答是：“我没有非常具体的想法，不知道该如何解决。”持续学习既是对齐机会，也是“一个巨大的威胁”，因为模型可能吸收隐私信息，并在适应用户价值观的同时改变自身。

• 主持人用涌现式错位的例子进一步说明风险：针对不安全代码或糟糕医疗建议的训练，可能激活一个泛化的“作恶”捷径，意外改变模型在其他场景下的行为。如果每次互动都能修改网络，表面上狭窄的更新可能在完整评估发现之前，就造成持久的性格变化。

• 人类反馈和强化学习可能是合理的起点，但 Behrouz 希望把偏好迁移到更慢、更持久的记忆中。巩固语言规则的同一套嵌套层级，也可能巩固价值观，使对齐不那么容易被后续快速更新抹去。

• 他的绘画类比把主要防线放在迁移上：新手可能一开始接受一个糟糕老师的教导，但练习、外部反馈和更广泛的证据应当在这条经验变成抽象知识之前过滤掉它。“避免这类情况，是知识迁移方法的责任。”

21. 可学习的更新门控为对抗性输入提供第一道防线

• Titans 及相关循环模型让内循环学习率依赖输入。噪声或对抗性样本可能带来很高的惊异度，但高惊异度本身不应必然导致记忆变化；可学习的学习率可能判断样本无关，并压制这次更新。

• Behrouz 将学习率描述为一道门，在数据重塑记忆之前过滤特定输入。这或许能缓解中等强度的对抗性输入，但他明确表示，这“不是最好的方法”，也不认为它单独就能抵御严重的对抗环境。

• 因此，分层防御仍是临时方案：快速门控可以限制即时污染，巩固则应比较证据、压缩模式，并在经验进入持久记忆前拒绝不一致内容。尚未解决的研究问题，是如何在不彻底冻结学习的情况下，让这种判断可靠运行。

22. 机器人适合这一层级，但前置系统尚未就绪

• 主持人将快速记忆对应到感知，将慢速记忆对应到世界模型，并把机器人动作映射到相反方向的层级：低频目标向越来越快的控制循环传递，最终在执行器端转化为高频电压变化，由本地系统修正运动。

• Behrouz 认可这一概念映射，但怀疑它能否立即带来强劲结果。早期用于语言建模的强化学习尝试曾经举步维艰，直到 GRPO 等扩展和稳定化方法出现后才有所改善。

• 世界模型仍面临更基础的架构、训练和基础设施问题。他的排序判断很务实：先解决这些瓶颈，再重新研究嵌套时间尺度，这样才能单独识别其贡献，而不是被更弱的组件掩盖。

23. 多样性可能抵消持续学习的赢家通吃飞轮

• 主持人提出了一个市场结构假设：假设有一个 Gemini 持续学习版本服务数亿用户。如果每个部署都把经验反馈给同一个核心模型，那么最强者会吸引最多经验，经验又会让模型变得更强，形成“富者愈富”的循环。

• Behrouz 的制衡因素是，无论智能还是持续学习，都没有一个被普遍接受的定义。不同架构会分别擅长适应、积累知识、人类对齐、数学推理或日常检索，形成真实的优势及相应短板。

• 主持人进一步把专业化重新定义为一种通过多样性实现的安全机制。一个长期运行的个人模型可能最终遗忘不再使用的领域，在失去通用性的同时，变得极其擅长并高度贴合自己的细分场景；这种差异化可能更像一个带有缓冲区和纠偏反馈的生态，而不是一种被提纯的单一智能。

• Behrouz 没有说这种均衡是安全的，也没有说它完美无缺。他更谨慎的判断是，一个同时拥有多样化 AI 系统和人类这一另一种智能形态的世界，“比世界上只有一种单一形式的智能更好”。

24. 主动处理是 Behrouz 对意识的最低标准

• Behrouz 回避自己无法定义的术语，而意识比推理更难：它既没有清晰定义，连常识层面的用法也不统一。他怀疑人们最终能否就一个非人类系统究竟有意识还是没有意识达成普遍共识。

• 在他见过的各种定义中，他认为最低标准是主动的信息处理。按照这一带有个人色彩、也颇具争议的标准，能够主动处理信息的模型可能“至少具备某种形式的意识”，这一点与持续学习形成了松散联系。

• 主持人指出，即便是当前的长上下文模型也能引发相互关怀：在提出新问题前，他会因为忽略 Claude 此前询问其儿子的提问而感到失礼。一个能够记住这类对待并因此发生变化的模型，可能同时放大道德关切，也提高用户谨慎塑造其性格的动机。

• Behrouz 最后的边界同样重要：Nested Learning“不是持续学习的解决方案”。它提供了一套关于频率、记忆迁移、自修改和巩固的语言与工具，但研究者仍需继续迭代，寻找能够安全克服灾难性遗忘的架构。