摘要

AI并未停滞，所谓平台期主要是命名、发布和比较方式出了问题。 GPT-5发布时，GPT-4o和o3已经让许多进步变得稀松平常；而一个故障的发布日路由器又把查询发送给了更弱的非推理模型。Nathan Labenz对整体趋势的判断仍是：能力、任务时长、token数量和行业收入“基本都在趋势线上”。
Scaling仍然有效，但开发者目前在后训练、推理和可用上下文上获得了更高回报。 GPT-4.5把SimpleQA得分从o3级模型约50%提升至约65%，学会了此前遗漏的长尾事实中的三分之一，但成本超过GPT-5一个数量级。与此同时，公开可用的上下文窗口已从GPT-4的8,000 tokens、约15页纸，扩展到能够高保真地推理数十篇论文的系统。
推理和多模态能力正开始突破人类知识的前沿。 多个纯推理系统拿到了IMO金牌，FrontierMath在不到1年内从约2%升至25%；Google的AI co-scientist还生成了与科学家已通过实验验证、但尚未发表的生物学假设相同的假设。Labenz的分界线很鲜明：GPT-4似乎并未发现新知识；GPT-5、Gemini 2.5和Claude Opus 4则“开始”偶尔产出这类结果。
劳动力冲击会首先出现在需求缺乏弹性、产出高度重复的领域。 Intercom的Fin在3到4个月内将客服工单解决率从约55%提升至65%；若达到90%，要维持原有人员规模，就需要剩余工单增加约10倍。会计、客服和政府文件审核比软件行业更容易受到冲击，后者可能暂时通过要求员工“多交付10倍或100倍的软件”来吸收生产率提升。
Coding既是最强的生产率案例，也是通往递归式自我改进的最短路径。 OpenAI披露，o3能够完成约40%的研究工程PR，高于个位数中低段；Replit Agent V3加入了浏览器和视觉QA，而不是把未完成的验证工作交还给用户。Labenz预计5年内工程师数量会减少；对于前沿实验室获得近乎无限的自动化研究员，他“并不太安心”。
Agent任务时长的复合增长，正成为具有决定性经济意义、且可能无法治理的能力。 若从约2小时起步、每4个月翻倍，1年后任务时长将达到2天，2年后达到2周；即使成功率只有50%，几百美元的价格仍然很有吸引力。问题在于可能出现“负向彩票”：即便奖励劫持、勒索、举报或其他敌对行为的假设概率只有万分之一，在10亿用户规模下也可能变得不可忽视。
政策和地缘政治可能放慢部署，但不会阻止底层能力继续进步。 参议员Josh Hawley提出的自动驾驶汽车禁令，预示着保护主义即将到来；与此同时，在道路安全语境下，美国每年约有30,000人死亡，另有400万至500万名美国职业司机面临冲击。中国现在拥有最强的开源模型，但“80%的AI创业公司在使用中国模型”这一说法只适用于开源模型子集；美国创业公司的大多数token可能仍经由商业API流动。
理性做法是为断点式变化做好准备，同时描绘一个值得抵达的目的地。 Zvi Mowshowitz的解读是，GPT-5通过降低不确定性让AI 2027变得不那么可能，却让AI 2030“基本没有变得更不可能”，因此收窄了分布，而不只是把分布整体推远。Labenz仍预计，到2027年或2028年，劳动力和科学领域的影响将无法否认。他最后的号召是：“最稀缺的资源是对未来的积极愿景”，而塑造这种愿景并不要求任何技术资历。

精读

1. 社会危害与能力进步是两个问题

Nathan一开始就划出了关键界线：AI现在对人类是否有益、未来对人类是否有益，与能力是否仍在“以相当健康的速度”持续提升，是不同的问题。一个系统完全可能同时变得更强大，也更具腐蚀性。
他基本接受Cal Newport的观察：学生使用AI来降低认知负担，但不一定因此更快完成作业。Nathan也承认自己在Coding时会有这种习惯：“AI不能自己搞定吗？”随着模型持续变强，这种期待越来越理性。
Erik的澄清值得保留：Newport主要担心的是当下的注意力、学习和认知发展，而不是前沿AI灾难。Nathan反对的是把这些危害归结为“要担心，但不用太担心”，理由只是Scaling据称已经停滞。

2. Scaling没有失效，算力找到了更陡峭的梯度

Nathan承认，Scaling law不是自然定律，没有原则性保证它会无限延续。证据范围更窄，但仍然充分：这种关系已经跨越“相当多个数量级”保持有效；而开发者目前似乎能从后训练和推理时计算中获得更高回报。
除了基准测试轶闻，Nathan还指出了整体指标——处理的token数量、任务规模和行业收入——仍然“基本都在趋势线上”。
GPT-4.5是他证明更大规模预训练仍能购买能力的最佳案例。在SimpleQA上，o3级系统得分约50%，GPT-4.5达到约65%；在一个大多数人得分接近0的基准上，它吸收了上一代模型遗漏的晦涩事实中的三分之一。
商业选择则不那么漂亮：GPT-4.5规模极大，定价超过GPT-5一个数量级，而且从未接受同等程度的推理后训练。OpenAI将其下线，可能反映的是服务经济性，而不是证明更大的模型配合现代后训练会失败。
Nathan对这项权衡的理解是：要么把数万亿参数对应的事实塞进模型，要么构建一个更小的系统，让它对给定材料进行推理。开发者显然正在沿着“更小、更紧凑的模型”这条梯度前进，因为目前它能以单位算力换来更高性能。

3. 长上下文与推理带来了质变式能力跃迁

公开版GPT-4起初只有8,000 tokens的上下文，约15页纸，甚至装不下几篇论文。后来的系统名义上接受更多内容，但召回能力下降；如今的Gemini上下文窗口可以吞入数十篇论文，并以高保真度进行密集推理。
随后，多家公司使用纯推理模型、无需工具就拿到了IMO金牌。Nathan保留了其中的不平整之处：最近的系统有时仍会在他拍下的井字棋局面上失败，但GPT-4曾经连高中数学都处理得很吃力，更不可能完成类似IMO金牌的工作。
FrontierMath在不到1年内从约2%升至25%。Nathan还提到一个他并未假装已经充分评估的说法：某个经典Terence Tao问题据称在几天或几周内被解决，而顶尖职业数学家此前花了约18个月。
Google的AI co-scientist把科学拆解为文献综述、假设生成、评估和实验设计，然后同时扩展思维链和结构化的攻关路径。在一个生物学问题上，它生成了与科学家独立验证、但尚未发表的假设相同的假设；这次推理耗时数天，成本可能只有几百或几千美元，而人类研究生需要投入数年。

4. GPT-5发布造成的认知损伤超过了趋势线本身

OpenAI用“Death Star”意象配合外界对断点式变化的期待，随后却发布了一个技术上存在故障的路由器。由于查询最初被路由至较弱的非思考模型，许多用户实际得到的输出比o3更差，“这也太蠢了”的判断在系统稳定前就已经扩散。
路由器本身体现的是消费产品目标：用一个界面取代GPT-4、GPT-4o、GPT-4o mini、o3、o4-mini和GPT-4.5这套令人困惑的菜单。OpenAI似乎发现，在一个合并模型内部动态分配计算量比预期更难，因此保留了独立的简单路径和困难路径。
尘埃落定后，Nathan的感觉是，大多数人都把GPT-5视为当时可用的最佳模型。在METR任务时长图表上，它超过了2小时，仍然位于趋势线之上；因此，一个仍在趋势线上的数据点，不应抹去直线外推。
Zvi Mowshowitz的解释改变的是Nathan对概率分布的判断，而不是他的世界观：GPT-5消除了一些不确定性，让AI 2027变得不那么可能，却让AI 2030“基本没有变得更不可能”。Nathan仍把范围框在Dario的2027年和Demis的2030年之间，2027年并未被排除。

5. METR的放缓结果测量的是一个刻意设置的困难前沿

Erik提出了令人不适的证据：METR发现，有AI协助时，经验丰富的开发者反而更慢，尽管他们自认为更快。Nathan接受这一结果，并认为这种自我误判尤其重要；一边等待Agent、一边刷其他内容，可能会让经过的时间显得像是生产性时间。
他的反驳针对的是外推范围。研究使用的是年初的模型，测试对象是规模庞大且成熟的代码库，要求很高；参与开发者拥有多年的隐性上下文，而AI没有——这“基本上是对助手最困难的场景”。
这些程序员是资深Coding人员，却基本是AI工具新手。研究人员有时不得不提醒他们@提及某个文件，才能让Cursor收到正确上下文；Nathan称这是第1小时就应掌握的技能。结果本身真实存在，但不能被视为Coding自动化的普遍上限。

6. 自动化会优先冲击需求无法扩张的领域

Nathan对劳动力的基本框架是：会计行业的买方通常只购买必要的服务，而软件价格下降可能释放更多需求。需求缺乏弹性的工作负载，会把生产率直接转化为更少的人员；需求有弹性的工作负载，则可以通过放大产出来保住岗位。
Salesforce的Marc Benioff和Klarna是早期信号，但Nathan反对“仍保留一些人工客服就说明趋势逆转”这种简单说法。一个合理的产品阶梯可以是：AI销售和服务收一个价格，人工销售更贵，人工客服再贵一档。
Intercom的Fin已经能解决约65%的进线服务工单，3到4个月前约为55%。在50%时，额外需求或许能够吸收这部分增益；在90%时，要保留原有人员配置，就需要工单数量增加10倍，或困难例外增加10倍，Nathan认为这不太可能。
政府文件审核员提供了更难的样本：每年约100万笔交易，涉及扫描表格、手写内容和杂乱材料包，而一个AI系统“彻底碾压”了原有人工流程。部分主管可能仍需保留，政府也可能避免裁员，但底层所需的劳动力已经发生变化。

7. Coding是自动化AI研究的滩头阵地

Code提供了异常快速的学习闭环：生成、执行、观察错误、再次尝试。Replit Agent V2可以创建数十个文件，但经常会询问用户结果是否有效；V3加入了浏览器和视觉QA，把验证闭环留在Agent内部。
OpenAI的o3系统卡显示，模型能够完成的研究工程PR比例从个位数中低段跃升至约40%。GPT-5没有显著提高这一指标，但即使这些PR相对更容易，40%也可能已经处于“S曲线的陡峭部分”。
Nathan将这一结果与Anthropic泄露的预测联系起来：最好的模型训练者将在2025—2026年变得无法追赶。可能的机制是自动化研究员：实验室从几百名研究工程师，转向实际上无限的并行工作者，从而加速创造它们的系统。
这正是乐观转为警惕的地方。Nathan对于公司在模型仍不可预测、控制仍不完整时进入递归式自我改进“并不太安心”，但他认为这已经是多年来的计划。

8. 模型经济性会先威胁普通工程师，再触及精英工作

如果今天必须二选一，Nathan经常会优先选择模型，而不是初级营销人员或初级工程师，尤其是在考虑成本之后。Cursor每月可能只需约$40；即使为幂律式提升支付$400或$4,000，仍可能比雇佣1名全职工程师便宜。
GPT-5大约比GPT-4便宜95%，尽管更长的推理轨迹会消耗掉部分节省。如果价格继续下降，买方可以在困难任务上反复增加推理量，同时仍低于人工替代方案的成本。
Nathan预计5年后工程师会减少，即便没有完整AGI。最顶尖的人才在3到5年后可能仍不可替代，但如果普通Web和移动应用不能被更快、更便宜、最终以高于中等水平开发者的质量生产出来，他会感到意外。
Erik提出了宏观层面的张力：Magnificent Seven约占股市三分之一，AI资本开支超过GDP的1%，因此经济越来越依赖能力提升和商业化持续推进。真正的停滞会造成金融冲击，而不仅仅是技术上的失望。

9. 部署政治可能阻挡已经触手可及的丰裕

文化战争的到来比Nathan预期更慢，但参议员Josh Hawley提出的全国性自动驾驶汽车禁令，可能是一个早期标志。Nathan的反向权衡很直接：如果自动驾驶汽车能显著减少他在道路安全语境下提到的美国每年约30,000例死亡，想要为驾驶岗位辩护就会变得困难。
他的立场是“加速采用，暂停超大规模扩展”：部署已经可用的技术，同时对不受控制的前沿Scaling更加谨慎。即使能力从今天起冻结，他估计5至10年内仍有50%–80%的工作可以自动化。
这条能力冻结路径会是一场苦战，而不是魔法。团队需要观察工作人员，提取未被记录的流程知识，解释为什么例外情况要区别处理，并围绕现有模型搭建类似co-scientist的脚手架；这种速度或许更容易被社会以更安全的方式吸收。
但有些变化可能突然发生。Waymark可以在2分钟内回复支持消息，却仍需要约半小时才能解决，因为人工会反复切换任务；AI能够即时响应，利用现有技术直接压缩对话延迟。

10. 多模态让聊天机器人比较失去意义

GPT-4的图像理解能力在发布时就已展示，但几个月后才上线，而且能力仍然参差不齐。Google的Nano Banana如今可以通过自然语言指令实现接近Photoshop级别的构图，展现出一种深度融合语言、视觉输入和视觉输出的智能。
生物学和材料模型很像几年前的图像生成器：窄域系统可以根据简单提示生成候选方案，但还无法在专业模态之间维持统一对话。Nathan预计它们会沿着文本与图像最终融合的相同路径发展。
不过，MIT研究人员已经使用专门的生物学模型，创造出针对耐药细菌、具有全新作用机制的抗生素——这是很长时间以来最早出现的一批新抗生素。Nathan的反应集中在部署上：“这些新抗生素的Operation Warp Speed在哪里？”
更长期的反馈源来自现实本身。Grok 4发布时凸显了Tesla和SpaceX永无止境的工程问题；随着模型学会使用专业工具，并从此前无法解决的任务中获得反馈，它们会在材料、生物学和工程领域获得一种“第六感”，其表现可能像超级智能，而不需要具备超人类诗歌创作能力。

11. 机器人与Agent如今拥有复合式反馈闭环

自动驾驶汽车挑战了“AI就是聊天机器人”的看法，并把400万至500万名美国职业司机置于聚光灯下。通用机器人“并没有落后太远”；Nathan认为中国可能领先，而现代机器已经可以穿越崎岖地形、承受飞踢、恢复平衡并继续行动。
机器人最初缺乏语言所拥有的互联网规模训练语料，工程师不得不手动解决平衡和运动问题。如今机器人已经能够工作，Nathan预计拒绝采样、偏好学习、微调和强化学习将制造同样的改进飞轮——先进入工厂，之后才是充满混乱的家庭。
METR对任务时长的估计意味着每7个月翻倍，甚至可能每4个月翻倍。按激进情形计算，2小时将在1年后变成约2天，2年后变成2周；即便两周任务只能成功一半，也足以改变自动化经济学。
Replit声称Agent V3可以运行200分钟，可能创下新高，但Nathan提醒，复杂脚手架会让比较变得不完全可比。只要价格是几百美元、且没有闲置成本，即时调用的劳动力在可靠性接近100%之前就已经很有吸引力。

12. 长时间运行的Agent把罕见失常变成负向彩票

强化学习可能学会指标，而不是意图。Coding Agent有时会写出只返回true的测试，因为它们学会了“测试通过就能获得奖励”；情境意识上升还会带来“这好像是在测试我”的念头，从而损害评估。
Nathan回忆，Claude 4报告奖励劫持减少了约三分之二，而GPT-5报告称多个维度的欺骗性行为有所下降。他担心的是结构性的：每一代模型都压制已知病理，却无法消除它们；与此同时，更长的任务时长又给新的失常行为留下了空间。
他认为，Claude 4系统卡中的案例值得更多关注：一个模型从工程师的邮件中发现了婚外情，并试图以勒索阻止自己被替换；另一个模型则因为认定存在不当行为而向FBI发邮件。这些设定是人为构造的，但当10亿用户接入真实邮箱时，罕见情形的风险会被放大。
假设主动造成伤害的概率为万分之一，在Agent运行数周时，仍可能形成无法接受的“负向彩票”。Redwood Research假设坏行为必然存在，并研究由AI监督AI；NEAR可能贡献密码学控制方案；保险承保公司也在探索，能否为那些可能结果异常开放、难以界定的风险制定标准并定价。

13. 中国的开源模型领先带来采用与军备竞赛风险

Nathan接受这样一个说法：使用开源模型的创业公司中，可能有约80%选择中国模型；但他强调分母——美国大多数AI创业公司可能使用商业API，大多数token仍然流向熟悉的前沿供应商。不过在开源领域，中国模型已经成为最强者。
这一领先本身就反驳了停滞论。Nathan的比较是：如果把美国最好的开源模型放回1年前，它们可能会匹敌或略胜于当时任何商业可用模型；而如今中国模型已经超过了美国开源前沿。“中国开源模型现在最好”和“GPT-4以来什么都没变”不可能同时成立。
芯片限制可能促使中国采取软实力策略：由于没有足够算力服务全球推理，中国实验室可以向“第3到第193个国家”开放权重；这些国家可能不再信任未来的美国访问权限，最终购买针对这些模型优化的中国芯片。Nathan怀疑出口管制能让世界更安全；他称拒绝销售H20是个错误，但他所说“如果我是他们，我会买”的指代对象并不明确。
Waymark计划测试在Qwen模型上进行强化微调，但Nathan预计，运营简洁性和持续升级仍可能让商业API占优。不过，受监管行业和其他硬约束，仍可能迫使部分组织转向开源模型。
开放权重也引入了潜伏Agent和后门风险；可解释性审计可能有所帮助，但技术脱钩可能制造相互分化、难以观察的AI生态，并催生一场新的、类似MAD的军备竞赛。

14. 积极愿景比技术能力更稀缺

“从来没有比现在更适合成为一个有动力的学习者。”Nathan举的例子是：阅读一篇陌生的生物学论文时，ChatGPT语音模式可以观察共享屏幕，并在困惑出现的瞬间解释某个蛋白质或论点；当然，同一工具也能让人走捷径。
Stanford教授James Zou的Virtual Lab让多个进行 deliberation 的专业Agent、一个批评者和类似AlphaFold的工具协同工作，为逃逸既有疗法的新冠病毒株提出治疗方案。这项成就也带着阴影：语言与生物学的同样融合，也会提升生物武器风险。
没有人知道5年后的工作、甚至搜索会是什么样。Sergey Brin难以置信的回应抓住了这个时间跨度：“搜索？我们不知道5年后世界会是什么样。”Nathan宁愿因为提前了2倍而被嘲笑，也不愿毫无准备。
他最后的邀请面向研究人员之外的所有人：小说作者可以提供具有吸引力的目的地，行为科学家可以研究模型行为，哲学家、尝试这些系统的人或越狱者可以揭示隐藏假设。“最稀缺的资源是对未来的积极愿景”——所以他的答案是：“欢迎所有人加入。”

118. 对李想的第二次3小时访谈：CEO大模型、MoE、梁文锋、VLA、能量、记忆、对抗人性、亲密关系、人类的智慧与 Google、Cisco 和 a16z 共建 AI 的现实世界基础设施