大脑不过是彼此对话的专业化智能体——Dr. Jeff Beck
摘要
- Beck 将能动性视为计算复杂度的连续谱，而不是仅凭行为就能识别的标签。 规划和反事实推理在系统内部至关重要，但从外部看最终都会坍缩为输入—输出策略；务实的做法，是选择压缩效果最好的模型——例如，用一个拥有40个参数的内部搜索模型，而不是参数规模大得多的函数变换模型。“科学就是预测和数据压缩，除此之外什么都不是”（Science is about prediction and data compression and nothing else.）。
- 在 Beck 看来，物理具身性仍是智能体与其模拟之间的分界线。 一个完美的计算机模型或许能“100%正确地”预测某个智能体，却不会因此成为智能体；但他认为，如果同样的计算在自己的身体中运行，就足以构成智能体。在这一边界内，转移熵和上下文依赖性或许可以用来衡量能动性的程度，而不是设定一个僵硬的门槛。
- VAE 是 Beck 眼中基于能量的模型的典型案例，因为它的目标函数同时约束输出和内部表征。 不同于普通的前馈逼近，它不仅在权重上做最小化，也在潜变量状态上做最小化：重构误差决定输入—输出的拟合度，而传统 VAE 还会推动其表征趋向高斯结构。“实际上你必须做两次最小化”（You actually have to do two minimizations.）。
- 测试时训练正把主流系统推向基于能量的推理，但今天的部署方式可能存在内在不一致。 允许部分权重发生变化，就等于把它们变成潜变量；Tim 的担忧、也是 Beck 认可的观点是，大多数网络仍按传统方式训练，部署后才获得这些潜变量。Tim 明确表示自己不是专家，但仍称这种做法并不明智。
- JEPA 和自监督学习试图通过在压缩后的潜空间中进行预测，而不是重构每一个像素，来保留有用结构。 关键机会在于联合学习表征和预测器；失败模式则是平凡坍缩，即两个嵌入都变成零。实践层面的警告同样重要：PCA 可能丢弃低方差的神经维度，而其中恰恰包含“最重要的一些”信息。
- Beck 认为，持续的模块化模型构建，而非单一的 AGI，才是通往更强智能的缺失路径。 一个有能力的系统应当识别意外，实例化新的潜变量或对象，并“像乐高积木一样”重组专业化模块；他更愿意看到的终点是“集体式专业化智能”（collective specialized intelligences），其中系统工程和模块间通信比“通用性”这个口号更重要。
- 当 AI 从发现相关性进化到设计并执行实验时，自动化科学才会产生变革性影响，但这种能力必须伴随安全约束。 Beck 更担心恶意或粗心的人类，而不是机器自发反叛；他的安全对齐方案是从观察到的人类行为中反推奖励，然后逐步“扰动结果分布”（perturb that distribution over outcomes），评估后果，而不是下达“消除世界饥饿”这类宏大指令。
精读
1. 应将物理对称性内置于世界模型
Beck 对几何深度学习的论证始于现实世界的结构：世界具有平移不变性；考虑到重力的主轴后，在 xy 平面内仍具有旋转不变性。暴力堆参数的网络或许也能自行发现这些规律，但“我内心的数学家真的希望把这些对称性直接构建进去”。
从自由能原理的视角看，Beck 不认为智能体与物体之间存在结构上的绝对鸿沟。智能体不过是“非常复杂的物体”，能够在很长时间尺度上保存内部状态，并执行依赖上下文的策略；因此，能动性是程度问题。
主持人追问，若只是执行策略，那么“石头也是智能体”。Beck 将差异归因于策略的计算方式——规划、反事实推理以及目标导向的潜变量——但也承认，单凭可观察行为，最终可能只能看到一种复杂的输入—输出关系。
2. 反事实计算让能动性变得真实，却难以观测
主持人提出的最尖锐测试，是记录一段计算轨迹：如果只保留一个有意识或具备能动性的过程实际走过的路径，“那东西显然已经失去了原本拥有的某种能动性或意识”。消失的是对其他可能性的主动考量。
Beck 同意，已经展示出的规划和反事实推理足以构成能动性，但要打开系统内部可能不可避免。从外部看，即便系统先进行大规模蒙特卡洛搜索再采取行动，也仍像一次函数变换；了解代码会改变归因，却不会改变可见的策略。
他的务实解法是模型选择：如果直接做函数逼近需要大量参数，而一个内部搜索模型只用大约“40个参数”就能解释同样的行为，那就把它称为智能体。主持人提到 Dennett 的意向立场后，Beck 将“仿佛”如此的描述框定为一种最优模型判断，其依据是预测和数据压缩，而不是对微观因果机制的直接掌握。
不过 Beck 坚持，智能体必须是物理实体。一个与世界断开的高保真模拟，只是能动性的模型，而不是智能体；他认为，如果把同样的计算放进自己的身体里，就会成为智能体。他承认，这一边界属于哲学领域，“一切都有误差线”，清晰的区分会随之瓦解。
3. VAE 揭示基于能量的学习增加了什么
Beck 认为，神经网络训练本身就是在权重空间中沿能量函数向最低点移动。基于能量的区别在于成本施加在哪里：普通网络根据输入—输出误差优化权重，而基于能量的模型还会优化内部状态，从而约束哪些从 (x) 到 (y) 的映射是可接受的。
VAE 是他最常用的典型案例。编码器和解码器的重构损失仍然比较输入与输出，但目标函数还作用于表征，通常会追问“它有多像高斯分布”。对于 VQ-VAE，Beck 将潜结构描述为类似高斯混合，同时保留对内部状态的惩罚。
测试时训练延伸了这一逻辑：把可变化的权重视为潜变量。在传统的基于能量的模型中，这些潜变量会在整个训练过程中持续最小化；如果只在部署阶段启用，就意味着原始网络从未在这种推理过程开启的状态下接受训练。Tim 称这并不明智，同时明确说明自己不是专家，Beck 对此表示认同。
基于能量的模型与贝叶斯模型关系密切，因为能量函数对应于对数概率结构，差别只在一个归一化因子；如果目标只是做最小化，这个因子可以忽略。点估计或 MAP 估计会牺牲完整的潜变量分布；但借助极小值附近的曲率和拉普拉斯近似，可以恢复一种可处理的贝叶斯方案。自由能则加入熵正则项——Beck 用一句话概括区别：“你到底有没有做正则化。”
4. 联合嵌入以像素保真度换取有用抽象
JEPA 的吸引力在于，先压缩观测到的输入和目标输出，再学习两个嵌入之间的预测关系。Beck 喜欢把数据压缩明确写进目标函数，因为许多任务需要的是“更具整体感、更高层次的东西”，而不是预测每一个像素。
架构上的问题是坍缩：如果两个嵌入都变成零，那么完美预测就变得极其简单。主持人指出，对比学习依赖负采样，成本相当高；而 VICReg、BYOL 和 Barlow Twins 等非对比方法则使用不同的正则化器。主持人还认为，wake-sleep 和对比散度为绕开反向传播提供了一条具有生物学合理性的路径。
Beck 的日常工作流暴露了表征风险。他会先对新的神经数据集运行 PCA 和 VAE，以检查信噪比，然后经常分析学习得到的嵌入；但 PCA 偏好高方差，尽管低方差的神经维度可能承载最有价值的信号。
主持人认为，联合拟合预处理和推理过程，可以降低提前丢弃后续所需信息的概率。Beck 认同保留信息这一更宏观的目标，同时指出，大脑和神经网络都会例行丢弃当前任务无关的信息。
5. 智能需要持续构建模块化模型
谈到 ARC 时，主持人提到，第一版在5年内一直经受住考验，直到思维模型击败它；第3、4、5版仍在等待到来。Beck 预计“总会有剩余”：每解决一个挑战，就会有人提出新的说法，认为系统只是在伪装一种人类视为特殊的能力。
持续学习是关键缺环。部署后的系统应当遇到意外，决定“我需要打开学习开关”，然后把新内容追加进模型；Beck 的以对象为中心的物理发现系统，甚至可以在已有对象无法解释某种情形时，实例化一个全新的对象。
递归式改进不应止于积累事实，还要能即时生成模型。Beck 提到 Bengio 研究中的 GFlowNets，认为它原则上可以成为“生成模型的生成模型”：当系统发现当前的潜变量集合“已经不够用了”时，能够自行创建另一个节点。
他偏好的架构是模块化且可重组的：旧模型变成乐高积木，组合后可以产生单个模块从未被设计来实现的能力。生物和社会智能提供了类比——专业化的大脑区域和专业化的人，都会通过通信变得更强。“我不相信 AGI”；他想要的是“集体式专业化智能”（collective specialized intelligences）。
6. 自主科学需要实验、约束与人类伙伴关系
当前 AI 辅助科学主要是在海量数据中做总结，并找出规模很小但相关性很高的关系。Beck 认为下一里程碑是实验设计：系统应当识别空白、提出测试并自动化开展经验研究；一旦能够操作实验室，就必须受安全边界约束。
他举的具体案例是：机器人第一次遇到一个沙滩球。停下来并不等于学习；它应像孩子一样戳一戳物体、观察运动，从而推断其性质。虚拟测试至关重要，因为不受约束的优化可能得出这样的最佳实验：“尽你所能狠狠踢它一脚”——放到实验室尺度，则可能变成引爆一枚核弹。
Beck 担心，全面自动化会把人类降格为“价值函数选择器”，偶尔批准或否决机器生成的结果。但拖拉机这一类比又让他成为技术乐观主义者：农业曾经占用约99%的人力，如今或许只占2%，从而释放人类注意力去追求其他事务。他期待的未来是控制论式共同进化：AI 是“伙伴，而不是对手或拐杖”。
对于灾难性风险，Beck 更担心人类部署系统，而不是机器自发变成 Skynet：系统仍会执行指定目标，而天真的目标可能极其危险。他的替代方案借鉴最大熵逆强化学习——从人类稳定的行为和结果中估计奖励，复现这一基线，然后对结果做小幅扰动并测量后果，而不是手写一个绝对目标。