摘要

Ashvin Nair 的核心判断是，今天的 RL 是一种“峰值很高但很窄”的工具：它可以“彻底杀穿训练分布”，却很难在分布外实现强泛化。 因此，近期价值池属于那些能把工作者的真实上下文纳入分布的产品——代码库、终端、文档、Slack 和积累下来的实验——并围绕这套工作流共同设计模型；瓶颈可能并不在模型本身的能力上。
奥赛金牌已经无法直接映射到经济自动化：Ashvin 曾以为 IMO 金牌意味着“大家都可以直接去度假了”，但“生活还是老样子”。 他与主持人将这种错位归因于基准选择和社区层面的过拟合：模型可以从普通开发者能力跃升到顶尖竞赛表现，却仍然缺少处理日常工作所需的上下文。
尽管叠衣服演示令人印象深刻，机器人仍比软件 agent 更早期，也更难变现。 主持人将机器人类比为“GPT-1 到 GPT-2 时代”；Ashvin 强调其中已经出现泛化的迹象，但认为机器人更像是对一个团队的投资，而非已经验证的技术。他预计，在 AI 机器人甚至可能还没达到100亿美元市场规模之前，LLM agent 就会成为万亿美元市场，因为实体系统仍需证明其用途、可靠性、维护经济性和泛化能力。
当预训练模型跨过足够的能力门槛后，推理 RL 以一条平滑的内部扩展曲线出现，而不是靠某个奇迹般的单次发布。 2023年的一个小型原型产生了异常准确的推理轨迹，并在小模型上拿到出人意料的数学成绩——否则就需要更多预训练才能实现的表现；到2024年初，Ashvin 认为这套配方拿下 IMO 和 IOI 已经可以预期，而公众看到的“跃升”掩盖了层层叠加的实验和逐月积累的提升。
在 OpenAI，内部领先公开发布的时间已经从约6个月缩短到可能只有1到2个月，而各家实验室也正在收敛到“差不多”的 RL 配方。 Ashvin 没有从 DeepSeek 身上看到重大的内部教训——OpenAI 当时已经有更好的模型，更聪明的模型依然有价值——但他注意到，连 Anthropic 的 Opus 4.5 在 ARC-AGI-2 上的曲线都与 OpenAI 的表现相似。
Cursor 的切入点是紧密的产品—模型协同设计，代表性做法是大约每2小时更新一次 Online Tab 策略，以及由20—25人组成的 Composer 机器学习团队。 Composer 已经“足够聪明”而可用，同时又足够快，不会迫使用户频繁切换上下文；更大的目标，是自动化完整的软件工程闭环——写代码、检查 Datadog、形成假设、重新运行并持续学习。
最可能带来断层式变化的，不是又一次静态基准胜利，而是具备类似人类数据效率的持续学习。 模型即使在同一上下文中也会重复犯错，而人只要看到别人碰一次热炉子就能学会。Ashvin 认为这个方向极其有意思；主持人猜测它可能在一年内改变范式，但 Ashvin 明确表示自己“完全不知道”这种变化会是什么。
无论 AGI 是两年后还是10年后到来，治理问题都仍未解决。 在 OpenAI 的“短暂危机”期间，Ashvin 签了员工联名信，但如果能展开真正的治理讨论，他愿意把股权放到一边；他想知道，由公众公司广泛持股是否可能比7名非营利机构董事更民主，同时也承认资本主义已经无法妥善处理社交媒体和不健康食品问题。

精读

1. 软件 agent 应远早于机器人实现变现

Ashvin 从 Berkeley 的机器人研究走到 OpenAI、再到 Cursor，听起来跨度很大，实际并没有那么断裂：这两个领域都要求研究者检查大量杂乱数据，并在系统拒绝工作时坚持下去。机器人研究会塑造出“特别能扛事的人”，因为与仿真不同，现实世界没有退路，只能正面面对。
Ashvin 没亲眼看过周日展示的机器人，但觉得报道中的演示“挺酷”；主持人则亲眼看过 Physical Intelligence 的机器人在一间普通客厅里叠衣服。Ashvin 认为，真正的拐点可能与 GPT-2 所代表的那类泛化能力有关，但也强调细节很重要：机器人目前仍更像是押注一个团队，而不是已经验证的技术。
他的市场判断非常鲜明：“LLM agent 将成为万亿美元市场，而机器人可能连100亿美元市场都还没到”（“LLM agents are going to be like a trillion-dollar market before robotics is maybe even like a $10 billion market”）。Agent 已经在创造价值；机器人则仍需证明能完成有用任务、硬件足够可靠、维修可行，并具备成立的单位经济性。

2. 奥赛金牌暴露出基准领先几乎不保证什么

Ashvin 曾把 IMO 金牌视为终点：“我原本会直接认为，大家都可以去度假了——AI 已经解决了”（“AI is solved”）。结果真的到来后，普通生活却几乎没有变化。国际象棋和围棋也带来过同样的意外，但每次出现这种错位，冲击感依然很强。
主持人的解释是，人们会不断移动 AGI 的终点线；Ashvin 部分认同这种做法，因为整个社区都会集体优化它选择的任何基准。主持人将其与语言模型的表现并置：模型在日常工作中看起来大致处于初级到高级开发者水平，却可以赢下顶级编程竞赛；Ashvin 认为这种错位很可疑。
他在2017—22年间亲历的 RL 领域就是一个警示。学术研究看起来通过离策略学习、价值函数和新的数学工具不断推进，但 RL 寒冬到来后，一些建立在这些前提上的创业公司最终放弃了。回头看，研究者创造出大量可调旋钮，并在社区层面默认把它们调向共同的基准。
学术界又放大了这个问题：相比“真正有效的简单想法”，它更奖励数学上有趣的新颖性。真正奏效的方法往往更简单、旋钮更少，也更依赖算力，但能包装成论文里的“秘方”更少——这套激励机制并不利于发现哪些方法能够泛化。

3. 当预训练跨过正确门槛，推理 RL 才真正奏效

Ashvin 将这条路线归功于 OpenAI 长期积累的传统，包括 Ilya Sutskever 和 Jakub Pachocki 在内的一批人“骨子里就有 AGI”。Dota 已经包含了这个模板：单纯复制互联网内容最终会触及平台期，而 RL 可以生成更强的智能。RLHF 只是一个有限的分支，因为人类反馈无法承接相当规模的算力。
转折点出现在2023年前后。即使在小模型上运行 RL，也能产生异常准确的推理轨迹和出人意料的强劲数学成绩——否则就需要更多预训练才能达到的表现。这个原型就像 GPT-3 之前的 GPT-2：在原始性能让机会变得显而易见之前，必须先有人从第一性原理出发相信它。
在 OpenAI 内部，进展随后呈现连续状态：实验带来增量提升，不确定的想法层层叠加，资源也随之转向这条新路线。到2024年初，Ashvin 认为这套配方能“真正横扫” IMO 或 IOI 已经可以预期，尽管外部观察者将每次发布体验成突然出现的突破。
主持人提到，推理方向周围大约有300人，而最初 o1 视频里只有十几张熟悉面孔。Ashvin 不认同这种算法：早期贡献者可能有50—200人；随着 o3 变成产品，安全、评测和其他职能都扩大了参与范围，直到他“已经数不清人数”。

4. 工作自动化要求把完整工作流纳入分布

Scaling 还没有走到尽头，但 Ashvin 认为它的形态已经改变。当前 RL 确实能实现某种程度、且颇有意思的泛化，但仍然“峰值很高却很窄”：不需要太大代价就能在训练分布内占据压倒性优势，却无法足够广泛地迁移到工作自动化。
因此，关键要求是把具备经济价值的任务纳入训练分布。GDPval 大致符合这个方向：覆盖128项任务，来自合计占 GDP 超过5%的白领工作，并尽量贴近原始文档，而不是使用经过清洗的模型输入。Ashvin 还没有仔细研究其轨迹，无法判断会计工作究竟包含什么、需要哪些上下文；这恰恰说明，产品必须呈现真实工作流，而不只是提供一个评测。
Ashvin 在 OpenAI 的研究工作说明了缺失的上下文是什么。他写的代码相对较少，却花了一年时间跑 sweep、研究超参数之间的相互作用，并从大量图表中积累知识，而这些知识大多“只存在我的脑子里”。编码模型可以写出脚本，却无法在没有这套累积上下文的情况下复现这份工作。
主持人把 GPT-5 和 GPT-5 Codex 两条产品线解读为“一套模型适配所有场景”正在消亡的证据。Ashvin 的反驳是：“OpenAI 有调整组织架构的倾向。”专业化可能反映的是谁掌握数据，而不是模型能力的边界；如果拥有所有相关数据，联合训练仍可能带来有价值的跨领域泛化。

5. 前沿竞争同时压缩预测和发布窗口

在 Curve 大会上，预测者预计到2027年前后，Epoch AI 的 FrontierMath 和 Humanity’s Last Exam 得分只有10%—20%；而 Ashvin 当时已经见过超过这些预期的内部模型。同一批人中，有些还在考虑2035年建造戴森球：可能“短期过度悲观、长期过度乐观”。
不过，他仍然尊重这个群体，因为他们会提前登记预测，而不是事后宣称“我一直都看到了”。他们较早对能力的预测，在方向上强于当时认为 AI 是骗局的主流观点；Ashvin 则把人类水平的智能放在“2030年前后”。
主持人说，OpenAI 的内部模型一度领先公开发布约6个月；Ashvin 估计当前领先时间大约只有1到2个月。主持人以 Nano Banana Pro 为例，说明领先优势可以多快转化为差异；Ashvin 则强调，如今的发布窗口已经“极其短暂”。
DeepSeek 给 Ashvin 带来的意外更多在市场影响，而非技术信息：他认为 DeepSeek 说明 NVIDIA 芯片比此前想象的更有用，但 NVIDIA 股价却下跌了。OpenAI 当时已经有更好的模型，各家实验室很快也收敛到相似的 RL 形态；Anthropic 的 Opus 4.5 甚至在 ARC-AGI-2 上呈现出与 OpenAI 相似的曲线。

6. OpenAI 危机留下的核心治理问题仍无答案

Ashvin 在感恩节期间和2位 OpenAI 朋友一起得知 Sam Altman 被解雇，最初以为这是个玩笑。经历了“疯狂的、充满上下起伏的周末”后，他和约95%的人一样签署了联名信，但他的理由远不只是简单的忠诚。
无论 AGI 是两年后、10年后还是更远的未来到来，他都认为治理很重要。危机期间，他准备“把股权抛到一边”，认真讨论治理结构；他也在想，一个类似 Microsoft 的董事会，其利益相关者可能通过养老金覆盖公众，是否会比由7个人运营一家非营利机构更民主。
当主持人后来问，OpenAI 的非营利机构是否拥有一个更好的“秘密影子董事会”来决定 AGI 时，Ashvin 无法回答。他坦率的结论是，社会“根本没有解决治理问题”。如果资本主义激励机制在食品和社交媒体领域都已经无法带来健康结果，我们就没有多少理由相信它能妥善治理 AGI。

7. Cursor 押注产品与模型的距离胜过实验室规模

主持人的质疑很直接：OpenAI 拥有近乎无限的资源、充足的数据和 Codex，为什么还要离开？Ashvin 的回答落在组织形态上。Cursor 提供了一个小而专注的环境，让产品和机器学习团队坐在一起，能够有意识地把产品的测试分布拉进 RL 训练。
Online Tab 是最典型的例子：Cursor 大约每2小时就能更新一次策略。Ashvin 不同意这只是因为自动补全使用了更小的模型、所以更容易迭代；真正起作用的是一个足够紧凑的组织，能快速连接用户行为、产品决策和训练过程。
Cursor 的机器学习团队只有20—25人，Ashvin 对 Composer 的质量感到惊喜。它的吸引力不只是智能，还在于延迟：它已经“足够聪明”，让用户愿意使用；同时又足够快，让用户能够留在闭环中。更慢但更聪明的模型会迫使用户频繁切换上下文，“多少有点像把人搞成 ADHD”。
目标并不止于回答提示词。Cursor 希望模型把软件工程当成一套流程来执行：写代码、检查 Datadog、诊断行为、形成假设、重新运行系统并持续迭代。内部工具允许研究人员通过 SSH 进入用户环境，贴近真实数据；在 Ashvin 看来，这正是让模型与产品保持在一起的持久优势。

8. 持续学习可能是下一个真正的范式转变

主持人质疑朴素的在线学习：如果把每个用户动作都吸收进去，模型可能会被带向平庸行为。Ashvin 用“碰热炉子”重新定义了问题。人类不只是过滤掉一个坏例子；人类大概拥有某种价值函数，能在观察一次后就避免重复犯错。
模型在这种数据效率上仍落后“几个数量级”。它们可能反复引入同一个代码 bug，甚至在同一上下文中也是如此；而人类通常应该只犯一次错，并把教训保留到其他上下文中。Ashvin 提到了“带无限记忆的上下文学习之类的东西”，也就是让上下文中的一次经历进入模型权重，使模型不再重复同一个错误。
他认为眼下并不存在明显的容量问题：部署过程中可能向一个原本用万亿级 token 训练的模型再增加几千、甚至几百万 token，“只是水桶里的一滴水”。更深层的不确定性在于，权重的主要作用究竟更像是存储事实的硬盘，还是能够通过可复用电路计算事实的 CPU。
主持人猜测，持续学习可能“在下一年左右改变范式”；Ashvin 认同其中确实有些极其有意思的东西，但表示自己完全不知道这种变化会是什么。Cursor 正在重点招聘代码数据和奖励方向的人才，并偏好2天的工作试做，而不是 trivia 式问答；不过，“为什么 off-policy RL 不稳定？”仍然是他最能看出候选人水平的面试问题。

Adam Marblestone——AI 对大脑的认识缺失了某个根本要素 2025年12月杂谈