超越表面统计（Apple 研究员）[Iman Mirzadeh]

摘要

• Mirzadeh 的核心观点是，不能把基准测试成绩当成智能。 穴居人在 MMLU 或 GSM8K 上可能接近0%，而当前模型能达到约80%-90%；Aristotle 在这些基准上也很可能不如当前 LLMs。但 Mirzadeh 并不因此推断模型更智能：人类能够随着时间学习、获得技能并创造知识。更好的衡量标准是适应性：“智能是扩展曲线的斜率，而不是你当前所处的点。”（“Intelligence is the slope of scaling, not the point at which you currently are.”）

• GSM-Symbolic 显示，头条式数学准确率所暗示的可靠推理并不稳定。 模板生成的变体在部分模型上出现约14%-20%的差距，且模型之间存在显著波动。GSM-Names 单独替换专有名词，不改变数字；GSM-NoOp 加入无关从句，却导致表现大幅下降。主持人指出，8-shot示例并不能稳定地让模型过滤干扰项。Mirzadeh 更愿意选择一个准确率稳定下降10%的模型，而不是一个只下降1%却随意改变行为的模型。

• 工具使用可以让 AI 产品变得更强，却不能证明底层模型理解了任何东西。 国际象棋引擎可以提供制胜着法，但使用它的智能系统最终应当提炼出理论：为什么控制中心重要，为什么 e4、d4 或 c4 有助于控制更多格子并完成出子，然后把这些抽象迁移到其他领域。当任务需要5或10个相互作用的工具时，编排本身又会退化为最初的规划问题。

• 当前目标函数奖励的是匹配分布，而不是获得概念或信念。 交叉熵只要求“2 + 2 =”后面出现4，并不关心模型是否理解自然数、加法，或为什么结果是4。提示词只是在条件化或“ nudging ”已学习的分布，因此对提示词的依赖和对干扰项的脆弱性，都会削弱其推理主张。

• 扩展规模的论点仍然难以证伪，因为每次失败都可以用再增加一个数量级的资本投入来回应。 即使一个拥有10万亿参数、使用100万亿个 token 训练的模型在数据之外失败，支持者仍可以声称，50万亿参数会解锁涌现。Mirzadeh 并不反对扩展，但他认为当前方法的学习新颖事物斜率“接近0”；继续优化它们，可能就像把飞机造得更快，而目的地却是月球。

• 可信的智能测试应当衡量系统快速学习真正新颖任务的能力，而不是掌握熟悉语料的程度。 一个方案是发明一种编程语言，再比较模型和从未接触过该语言的人类学习它的速度；时间很重要，因为无限搜索最终可以达到许多目标。能动性同样关键：学习需要“主动参与”（“active engagement”），包括主动选择下一步调查什么，而不是被动吸收监督样本。

• Mirzadeh 并未从原则上排除 Transformers 或纯神经计算；他的批评针对的是当前的表征和训练方式。 神经网络内部的激活可能演化为符号，图灵完备性也可能是必要条件，但智能仍需要一个能够形成、质疑并更新信念的整合式世界模型。对投资者而言，实际警示是：已经饱和的基准只是“现实的一张冻结切片”，并不意味着真实世界的自主性或持久推理已经解决。

精读

1. 基准成绩把成就与智能混为一谈

• Mirzadeh 的基础区分具有不对称性：智能系统最终应当能够完成困难任务，但完成某项任务并不能证明它具备智能。成就衡量的是固定领域中的当前表现；智能关心的是能力能够以多高的效率增长。

• 他的穴居人测试具体呈现了这种错位。史前人类在 MMLU 或 GSM8K 上的得分可能接近0%，当前模型则约为80%-90%，但 Mirzadeh 拒绝据此得出模型更智能的结论。

• Aristotle 进一步强化了同一点：他在现代基准上可能不如当前 LLMs，但 Mirzadeh 仍不会因此推断 LLMs 更智能。“智能不在于你在某项任务上取得了多少成就。”

• 主持人把这一点与适应性和技能获取效率联系起来。Mirzadeh 对扩展定律的表述很容易记住：智能不是某个物种在大脑—体重图表上的当前点，而是“斜率”——它在获得经验和时间后提升得有多快。

2. 提示词和工具可以提高表现，却不等于产生理解

• 当被问及脆弱、对干扰项敏感的行为是否足以否定 LLM 的推理主张时，Mirzadeh 的简短回答是“是”。在他看来，提示词只是对海量已学习分布进行条件化，把模型引向其中一个区域，并不能证明它理解答案背后的知识。

• 工具使用本身合理——人类也使用工具——但不能只看组合系统是否完成任务。现实问题可能需要5或10个复杂工具，协调它们的输出和状态转换；这种编排“会归结为同一个问题”，即规划问题。

• 国际象棋是他给出的决定性样本。一个转述引擎着法的模型可能赢棋，却不知道什么构成强势局面；人类特级大师则会利用 AlphaZero 等引擎发展新开局、新策略和新解释，而不是只记忆着法。

• 他提出的测试是：持续接触引擎后，系统能否形成理论。它应当推断出 e4、d4 或 c4 等开局着法为何能够控制中心、获得更多格子的控制权，并阻止对手出子，而不只是复现这些着法的经验频率。

3. 训练目标奖励匹配，而不是概念

• Mirzadeh 的诊断从分布拟合开始：训练目标是最小化与数据导出分布之间的距离，然后奖励模型留在该分布之内。因此，追问“盒子”之外有什么，本身就与系统的构造方式相冲突，分布偏移具有破坏性也就可以预期。

• 算术暴露了缺失的要求。无论4来自记忆、上下文还是对自然数和加法的理解，交叉熵都会奖励模型在“2 + 2 =”后输出4。“模型要做的全部事情，就是在‘2 + 2’后面给我4。”

• 他明确表示自己尚未提出完成的替代方案，但认为研究经常在形成连贯的问题模型之前，就开始寻找解决方案。读完10或20篇渐进式论文后，读者可能仍然没有更接近理解 Transformers 的工作方式。

• 一项显示调优模型后准确率提高5%的研究，正体现了这个问题：它只是一个没有解释框架支撑的经验效应。他还担心，当前理论对现阶段而言可能过于严苛，而同行评审本身仍然嘈杂且难以把握。

4. 新颖性、速度与能动性才是更好的测量基础

• Mirzadeh 没有提出具体的智能指标，也保留了这种不确定性。他的起点是公理式的：先定义想要的属性——尤其是对新任务的表现——再逐步形式化“新颖”意味着什么，而不是把智能等同于尚未饱和的某个基准。

• 更好的编码测试应当从零发明一种编程语言，测量模型学会用它编写程序的速度。熟悉语言上的准确率主要衡量既有暴露；学习速度则允许模型与同样从未接触过该语言的人类进行比较。

• 借鉴 Jill G. Knack et al. 的心理学论文《On the Definition of Intelligence》，他把智能定义为：系统在一定时间内实现一个新目标的最大能力与能力容量。时间是关键变量：给出无限时间，许多程序和系统最终都能达到目标，但这几乎不能说明系统的扩展斜率。

• 能动性应当被纳入这一​​定义。人类学习依赖“主动参与”，这被描述为必要条件，而非仅仅有益：智能体应当询问下一步该学什么，察觉理解中的缺口，进行探索，并在之后加以利用。按这一标准，单靠监督学习不可能足够。

5. 抽象让知识逃离原始领域

• 主持人以 AlphaZero 质问 Mirzadeh：如果反复对弈使某种战略着法稳定地涌现为行为模式，为什么不能把它视为推理？Mirzadeh 承认系统学会了状态价值，并能在国际象棋内部采取理性行动，但否认它形成了可迁移的概念。

• 人类对“控制中心”的认识可以超越4个中心格，进一步变成对战略要地的控制——道路、通道或其他瓶颈位置都可以适用；而 AlphaZero 的世界仍然局限于特定棋局。正是这种迁移能力，让人类能够“非常快地扩展”。

• Mirzadeh 认为抽象世界模型几乎不可或缺，但指出这个领域甚至无法比较基本表征。一个函数既可以存成输入—输出表，也可以存成多项式；两者都能返回答案，而查表甚至可能更快。

• 把多项式称为“压缩”并不能解决问题，因为对它进行编码预设了函数、幂、连续性和实数等概念。一位朋友曾提出，一种表征可能比另一种“更美”，但这个领域没有衡量这种美的形式化标准。

6. 符号可能在神经网络中涌现，但信念需要整合式闭环

• Mirzadeh 并不要求永久存在一个独立的符号模块。符号元素与连接主义元素可以先分开、再逐步整合；但如果把其中一方当成脱离系统的外部工具，就会重新陷入行动有余、理解不足的问题。

• 他认为缺失的部分是一个能够评估输入主张的信念系统。如果有人告诉系统圆面积公式是错误的形式，系统应将其与已有模型进行比较，质疑这一说法，并可能拒绝它，而不是把每句话都当作等价的条件化数据吸收进去。

• 不同信念还应有不同的修正标准。数学主张在得到证明前应当受到怀疑；而关于温哥华最佳餐厅的推荐则可以先尝试，再轻易更新。理想系统必须知道何时需要更新自己的模型。

• 对纯连接主义，Mirzadeh 的立场刻意保持开放：内部激活可以代表符号，他看不到任何理论理由能证明神经系统最终不能创建符号并对其进行计算。图灵完备性可能是必要条件，但其他架构也可能优于 Transformer。

7. 更多推理与更大规模，可能只是在优化错误的载体

• 主持人的反驳提到思维链提示、程序归纳和测试时主动微调等技术，它们已经能够组合行为，并在特定领域提升泛化。Mirzadeh 质疑的是，这些收益是否证明了底层已经存在合适的表征。

• 他坦率的不确定性是：“除了某种分布之间的插值之外，那里还有东西吗？”如果有，这些方法或许可以建立在其上；如果没有，越来越复杂的推理程序可能只是对一个缺少目标对象的基础进行临时扩展。

• 飞机类比承载了结论：更轻的材料、更快的发动机、更好的机翼和更完善的跑道都能优化飞行，但“未必能帮助你实现”登陆月球这一目标。在延长载体之前，研究者应先问它能否抵达目的地。

• 扩展在经验上仍然难以捉摸。一个拥有10万亿参数、使用100万亿个 token 的失败模型，总可以被回应为：等到50万亿参数时就会出现涌现，而这已经超出反对者的实验预算。Mirzadeh 提出的替代方案是比较学习斜率；他目前判断，在现有架构和方法中，这一斜率“接近0”。

8. GSM-Symbolic 暴露高数学得分下的推理不稳定

• GSM-Symbolic 诞生于研究者评估推理系统、探索改进推理方法，以及考虑如何让每个输出 token 使用更多计算的过程中。模板生成的变体原本用于支持稳健评估，或许也能提供更好的训练数据；但与 GSM8K 的健全性检查反而暴露出差距和惊人的波动。

• 一些模型出现了约14%-20%的差距。最令人意外的不是绝对准确率，而是不同模型之间的方差。Mirzadeh 提议进行人工交叉评估：把“Amy”和“apples”等词替换成“John”和“bananas”，同时保持逻辑不变。GSM-Names 则只替换专有名词，不改变数字，也不向题目添加任何内容。

• 前沿模型仍保有不低的表现，包括 o1 在一项相关的改名符号规划测试中也表现不俗。Mirzadeh 回应称，既然模型可能接触过未披露的合成数学数据或人工编写的数学数据，就无法排除此前暴露的影响。

• GSM-NoOp 加入了一个不包含任何相关逻辑或算术操作的从句，因此忽略它本应不影响答案。但模型表现大幅下降。主持人指出，即使提供8-shot示例，模型仍不能稳定过滤干扰项；研究还使用包含1或2个真正具备操作性的从句的中间变体，考察两种条件之间的表现。

9. 冻结基准与多数投票掩盖了失败模式

• Mirzadeh 更愿意看到模型在更难的问题上准确率下降10%，但推理保持稳定，而不是准确率只下降1%，却在无关替换下任意改变行为。核心问题不是“答对了多少”，而是一个据称已经理解的问题为何会因措辞变化而改变。

• 基准饱和会促使研究领域把接近95%-100%的 GSM8K 换成更难的 FrontierMath，再把表现从约10%推到90%。这个循环衡量的是针对另一个固定样本的优化，而不是知识创造或稳健理解的形成。

• 他对计算机视觉的类比带有警示意味：ImageNet 基准已经饱和，视觉领域看起来也已解决，但自动驾驶仍然困难，因为现实并不是包含固定样本集合的“某个特定冻结切片”。真实环境会变化，需要的是能够理解并推理的智能体。

• 采样也无法挽救这种认识论。对算术而言，“2 + 2 =”应当确定性地产生4，因此研究使用了贪心解码；有论文报告称，在 GSM8K 和 MATH 上对模型采样100次，表现可能提高20%，但这就像把“10,000个醉汉”送回家，然后因为其中一些最终到达便庆祝。搜索成功不等于理解。