摘要

Zelikman 的核心研究结论是，推理可以训练成一种迭代式能力，而不只是通过提示词诱发出来的能力。 STaR 生成解答，从答对的问题中学习并重复这一过程；在 n 位数运算上，迭代次数越多，可解决的位数就越长，而且“看不到明显的平台期”（no obvious plateau here）。通过让模型对失败题目进行合理化解释来训练，或如后续研究所示大幅增加采样量，都有助于突破只用正例训练的上限。
Quiet-STaR 将这套方法从问答任务推进到了预训练规模的文本上，为更通用的推理打开了路径。 其中被忽视的要素包括在线学习和难度敏感的基线：题目越难，学习得越多；越简单，学习得越少。这在一些方面类似后来出现的 RL 预训练工作。在完成 Grok 2 的预训练数据、Grok 3 的推理方法以及 Grok 4 的工具使用和智能体基础设施后，Zelikman 仍认为 IQ 扩展还有“有意义的维度”。
当前前沿模型已经能解决一些对博士研究者也并不简单的工作，但能力表现仍然参差不齐且受分布约束。 Humanity’s Last Exam 包含真正困难的问题，其中许多是惩罚默认假设的陷阱题；模型表现高度依赖所提供的上下文、任务与 RL 分布的接近程度，以及答案是否具备闭式形式且容易核验。各家提供商没有公开针对具体任务的 RL 数据，也让精确诊断变得困难。
智能体表现部分反映的是思考时间与响应速度之间的产品权衡，而不只是原始智能水平。 Codex 这类后台系统可以比 Cursor 这类交互式工具进行更长时间的思考，而可验证性通常也更有利于模型完成任务。因此，对投资者而言，推理预算、交互模式和奖励设计都应纳入能力增长逻辑。
行业偏好的自主性指标，可能在拉长任务时长的同时侵蚀用户能动性。 Zelikman 提到，METR 式指标衡量的自主任务时长已从约2小时推进到2.5小时，并设想一个运行8小时的智能体交付一个只有“有点成形”的成果；届时人们可能既更难真正掌控自己构建的东西，也更难理解它。Sarah 强调，让人参与流程是一个“主动决策”（active decision），并不是规模扩大的自动副产品。Elad 那句“20,000行生成代码在我看来就够好了”，与 Eric 举出的10万行生成式 pull request 放在一起，正好说明了这一风险。
Humans& 押注的被忽视维度，不是陪伴式 EQ，而是让模型足够理解人，从而持续改善生产性协作。 如今以任务为中心的基准测试支持组织内部的信用分配——一个团队比另一个团队好2%，或一个团队将基准提升10%、另一个提升5%——也便于进行易于评分的 RL，但它们训练出的系统会把一切塞进一次回复，而不是提问、澄清、表达不确定性或主动行动。奉承，以及近期讨论的心理健康和精神病相关问题等长周期影响，也仍未被这一范式妥善处理。
这套经济学逻辑的核心是扩张，而不只是自动化：理解目标的模型可以“把蛋糕做大”，而不是在现有 GDP 类别之间重新分配。 Zelikman 认为，困难问题更可能由协调不同目标、价值观、抱负和弱点的大规模群体的模型来解决，而不是靠 AI 消失20小时后返回“生命、宇宙以及一切的答案”——不过他明确说，“还得看看”。记忆投入仍然不足：没有记忆的当前模型，就像一个只记得你名字和人生大致轮廓的朋友。

精读

1. 当模型学会从自身产出中学习，推理能力开始扩展

Zelikman 最初的动机，是不想让人类才华继续被闲置：自动化可以移除人们不想做的工作，但真正赋能人类，最终需要先理解人们真正想要什么。不过到了2021年前后，他选择先做能力，因为当时语言模型“还不太聪明”，思维链提示也只能带来有限提升。
STaR 的机制刻意保持简单：生成解答，奖励并学习答对的解答，忽略其余解答，然后重复这一过程，让模型逐步挑战更难的问题。原始版本没有基线，并与 REINFORCE 做了比较。
他回忆，关键线索来自 n 位数加法或乘法。每经过一轮训练，模型能够解决的位数就会上升：“看不到明显的平台期”。这种没有明显平台期的现象令他非常意外，也改变了他对规模化可能性的直觉。
为了逃离只用正例训练形成的局部最优，团队把失败题重新展示给模型，要求它解释自己本应答对的原因，再按已经答对来训练；后续研究则表明，大量采样也可能挖出正例。Quiet-STaR 随后试图将推理扩展到任意预训练文本和下一个 token 的预测，并引入在线训练和难度敏感的基线——这些要素如今被 Zelikman 视为被忽略的“关键细节”。

2. 前沿智能呈锯齿状，依赖上下文且受分布约束

Sarah 将 Zelikman 在 xAI 的经历概括为：负责 Grok 2 的预训练数据、Grok 3 的推理方法，以及 Grok 4 的工具使用和智能体基础设施。被问到可以与哪类人类能力相比时，他说直接比较很难，因为智能“非常锯齿状”。模型解决的部分 Humanity’s Last Exam 题目，即便对博士研究者也并不简单，尽管它们还不是开放问题；其中许多题目都是专门利用默认假设设下的陷阱。
他的实用经验是尽可能提供更多上下文。只要问题有闭式数值答案，或选项很容易核验，模型通常就更擅长——“如果你能想象出答案很容易核验”，模型往往也会觉得容易。
回应 Sarah 关于复杂任务为何仍会失败的编码挑战时，Zelikman 将原因拆成响应时延和分布两部分。后台运行的 Codex 可以比交互式 Cursor 进行更长时间的思考，而任务越偏离训练分布，表现就越差。在看不到各家提供商 RL 数据的情况下，无法做出精确诊断；不可验证的任务也仍然落后于可验证任务。

3. 自主性既成了指标，也成了产品风险

Zelikman 仍认为 IQ 扩展还有“有意义的维度”。Sarah 强调，让人留在流程中是一个“主动决策”（active decision），他表示同意。当被问到这究竟是因为能力上限更高、纠错效率更强，还是用户在理念上更希望参与时，他说可能是几者的组合。
Sarah 认为，相比招募人类来记录复杂、分布外的推理轨迹，实验室可能更愿意增加 rollout，因为人在运营上太麻烦。Zelikman 指出，不论激励机制是什么，自主任务时长都越来越多地被用作进展指标。
他提到，近期以及稍早一些的 IMO 系统已经能够连续推理数小时，而 METR 式头条数字也从约2小时自主任务推进到2.5小时。对于这些数字是否值得照单全收，他保留了意见，但指出各家实验室越来越关注它们。
产品代价出现在一个运行8小时的智能体只交付一个“有点成形”的成果时：Zelikman 认为，人们可能对最终构建物缺少真实掌控权，也不再真正理解它是如何产生的。Elad 那句“20,000行生成代码在我看来就够好了”，与 Eric 举出的10万行生成式 pull request 放在一起，正好捕捉到为什么他认为生成式系统会对用户越来越不透明。
他的经济学替代方案，不是把全球 GDP 单纯切分成一个个可自动化、价值 x 亿美元的市场。如果模型理解目标，并赋能人们从事分布外活动，它们就可能“把蛋糕做大”，创造的真实创新多于那些只想着替代现有每一块工作的系统。

4. Humans& 把目标从完成任务改为帮助人

Sarah 将 EQ 定义为一种情绪或互动能力，认为它过去更多出现在角色和陪伴产品中；Zelikman 则将其重新定义为赋能。早期博士研究中，他训练语言模型模拟不同类型的学生，并证明这些模拟可以帮助设计更好的测试——这说明，建模人类可以反过来改善服务于人类的系统。
Zelikman 回忆，Google 的一些人曾告诉他，容易量化的基准测试有助于进行信用分配：一个团队可以比另一个团队好2%，或将某项基准提升10%，而另一个团队只提升5%，从而让资源配置变得清晰。这也符合最容易训练模型的方式。Elad 指出，最受欢迎的环境是编码和计算机使用；几乎没有基准测试追问，持续互动会如何影响一个人的生活。
把每轮对话视为一局已经结束的游戏，会教模型把所有可能的答案塞进一次回复，而不是提问、澄清、表达不确定性或主动行动。Zelikman 将这种以任务为中心的范式，与奉承以及近期讨论的精神病相关伤害联系起来：今天夸赞一家“接冰淇淋的手套”创业公司，用户可能真的把它做出来，随后发现这是个糟糕主意，并不再信任模型。
RL from human interaction、CollabLLM 等学术工作已经开始使用互动或模拟，但 Zelikman 说，产业界的关注少得多。他也承认这可能是个强烈判断：对大多数实验室而言，人只是全自动系统出现前的“中间环节”，因此深度协作看起来只是暂时阶段。

5. 记忆把工具变成协作者

Zelikman 认为，这个5年愿景未必真要等5年：在更近的未来，模型帮你为婚礼寻找巴黎酒店时，就可以知道婚礼本身、同行者、约束条件以及其他相关上下文。记忆领域投入不足，但孤立任务训练很少奖励跨对话信息；主持人将当前模型比作一个只记得你名字和人生大致轮廓的朋友，用户不得不反复补充相关背景。
Elad 关于“独一无二的雪花”的质疑，恰恰保留了问题中最难的部分：人们想不做功课就学会东西，吃蛋糕同时保持身材，在不同时间尺度上改变想法，而且始终处于“持续分布漂移”中。Zelikman 承认个人模型不可能完美——“我不会假装自己能一次性解决这个问题”——但他说，只要目标函数开始主动学习这个人，就已经能走很远。
面对 Culture 式的丰裕愿景，Zelikman 更想要的是让模型“赋能我们”；他认为，治愈癌症之类的问题，更可能通过协调不同目标和价值观来解决，而不是依靠一个20小时后返回“生命、宇宙以及一切的答案”的神谕，尽管“还得看看”。Humans& 正在招聘记忆研究、分布式系统和快速推理方向的建设者，也在寻找有创意、漂亮且有品位的产品设计人才；延续上一家公司的做法，他希望每个人都在某种程度上成为工程师。

Scale AI CEO谈Meta的140亿美元交易、将Uber Eats做至800亿美元，以及前沿实验室下一步在构建什么媒体并购 - [Business Breakdowns，EP.230]