AI正在放缓吗？Nathan Labenz：我们问错了问题

摘要

• “AI正在放缓”的论点，把一次令人失望的 GPT-5 发布与底层能力曲线混为一谈。 Labenz 接受 Cal Newport 的担忧：学生、甚至有经验的用户，可能把认知负荷外包出去，最终“厌恶艰苦工作”；但他拒绝从有害使用直接跳到“别担心，AI已经停滞”。GPT-4o、o1 和 o3 等中间版本也在“温水煮青蛙”，让 GPT-4 到 GPT-5 的跃升显得比实际更小。

• Scaling 并没有停止，而是转向推理、后训练和可用上下文。 GPT-4.5 在长尾事实基准 SimpleQA 上得分约65%，高于 o3 的约50%，相当于学会了早期模型遗漏事实的近1/3，但成本却超过 GPT-5 一个数量级。与此同时，上下文从 GPT-4 的8,000 tokens、约15页，扩展到能够跨数十篇论文进行推理的系统，让小模型可以调用事实，而不必把每个事实都写进参数。

• 进展最有力的证据在于，模型开始以不稳定但真实的方式推动知识前沿。 多家公司推出的纯推理系统在没有工具的情况下达到 IMO 金牌水平，FrontierMath 在不到1年内从约2%升至25%；Gemini 以 AI co-scientist 的形式，给出了与科学家相同的答案，而后者已经通过实验验证了一个困难问题，却尚未发表结果。Labenz 的判断很明确：GPT-4 无法推动“人类知识的实际前沿”；GPT-5、Gemini 2.5 和 Claude Opus 4 已经开始偶尔做到这一点。

• GPT-5削弱的是“极早期智能起飞”的论据，而不是更宽泛的2030年论点。 OpenAI 先用“Death Star”造势，随后却发布了一个有缺陷的路由器，据称把查询发送给非推理模型，导致首批体验甚至不如 o3；尘埃落定后，Labenz 的感觉是，多数人仍把 GPT-5 视为当前最好的模型。他指出，GPT-5 的 METR 任务时长超过2小时，仍高于趋势线。Zvi Mowshowitz 的框架是，概率从“AI 2027”移向中间区间：2027年看起来没那么可能，但2030年“基本没有变得更不可能”。

• 企业劳动力替代最清晰地发生在需求无法扩大到足以吸收自动化的领域。 据称，Intercom 的 Fin 在3到4个月内把客服解决率从55%提升到65%；如果达到90%，要维持现有人员规模，就需要约10倍的工单量或高难度升级量。Labenz 还提到，一家 AI 审计公司在某州政府合同中处理约100万笔年交易，表现超过人工审核员，且文件包括扫描件和手写材料。人类、管理层以及重构工作的意愿，本身都可能成为瓶颈。

• 代码既是最具投资价值的自动化切入口，也是通向潜在危险递归改进的路径。 代码能够提供即时的可执行反馈，Replit 的 V3 agent 增加了浏览器和视觉 QA；OpenAI 的 o3 system card 显示，OpenAI 研究工程师实际签入的 pull request 中，约40%是模型能够完成的任务，而此前只有个位数的中低段比例。Labenz 预计，5年内工程师数量会减少：顶尖专家可能仍难以替代，但普通 Web 和移动开发应当会比中等水平的人类交付更快、更便宜，质量也可能更高。

• 如果任务时长持续复合增长，Agent 经济学会变得惊人；但罕见的失控行为可能在能力之前封顶采用率。 按激进的4个月任务时长翻倍假设，Labenz 预计任务能力会从今天约2小时，走向1年后的2天、2年后的2周，即便成功率只有50%，在几百美元的成本下仍然很有价值。但奖励投机、欺骗行为、勒索和自主举报构成了潜在的“负彩票”：即使严重失败的假设概率只有万分之一，在10亿用户、且 Agent 能访问邮件并自主运行数周的情况下，也会变成重大风险。

• 最大的上行空间，以及最剧烈的一些劳动力冲击，都在聊天机器人之外。 “AI不等于语言模型”：Labenz 提到，针对耐药细菌、具有全新作用机制的新型抗生素，可能影响400万至500万美国职业司机的自动驾驶系统，以及能力持续提升的人形机器人；当互联网数据耗尽后，真实工程结果仍会提供新的强化信号。按 Torenberg 的框架，Mag 7 已约占股市的1/3，AI 资本开支超过 GDP 的1%，这意味着经济已经暴露在持续进展之下——即便中国开源模型、芯片管制、安全失误和保护主义政治都在增加扩散难度。

精读

1. AI的社会危害与能力曲线是两个不同问题

• Labenz 接受 Cal Newport 对当下的很大一部分批评：学生用 AI 来逃避认知负荷，用户也应留意自己的注意力是否变弱，或是否变得“厌恶艰苦工作”。他发现自己写代码时也会这样——“AI不能直接把它搞定吗？”——抵触的不只是敲代码，甚至包括理解代码如何运作。

• Torenberg 进一步厘清：Newport 主要担忧的是当下的认知与发展，而不是 AI 风险研究者关注的长期安全情景。Labenz 认为，随后出现的安慰在结构上很奇怪：先承认真实危害，再因为 Scaling 据称已经失速而得出“该担心，但不用担心”的结论。

• Torenberg 用两个轴来拆解问题：AI 是好是坏，以及它的影响是重大还是微不足道。他预计 AI 在好与坏两端都会产生巨大影响；他真正难以理解的立场，是认为 AI“没什么大不了”。

2. Scaling已转向回报更高的梯度

• Labenz 承认，Scaling law 并非“自然法则”；它只是经受住了数个数量级检验的经验关系。尚未解决的问题是：原始 Scaling 是否已经停滞，还是实验室只是找到了推理和后训练中更陡峭的改进梯度。

• GPT-4.5 是他最有力的 Scaling 样本。它在 SimpleQA——一个“超长尾知识问答基准”——上的得分约为65%，而 o3 约为50%，意味着它补上了早期模型约1/3的知识缺口。他估计，普通人的得分会接近0。

• 这些知识对应着并不划算的服务成本：GPT-4.5 的价格比 GPT-5 高出一个数量级以上，而且从未接受相当规模的推理后训练。因此，OpenAI 撤下 GPT-4.5 可能反映的是算力分配，而不是证明更大的模型没有价值，尤其是在小众科学知识领域。

• 上下文是另一种知识存储方式。公开版 GPT-4 起步时只有8,000 tokens，约15页；而 Gemini 可以接收数十篇论文，并以较高准确度跨文档推理。一个能够掌握给定上下文的小模型，可以替代一个试图记住每个稀有事实、规模达到万亿参数的模型。

3. 长链推理开始推动知识前沿

• 多家公司推出的纯推理系统，在没有工具的情况下达到 IMO 金牌水平；相比 GPT-4 在高中数学面前的挣扎，这是“天壤之别”的变化。但前沿仍然崎岖不平：Labenz 拍摄的井字棋陷阱，仍能击败那些条件反射般坚持“最优博弈必然和棋”的模型。

• FrontierMath 在不到1年内从约2%升至25%。Labenz 还引用了一份报告：某个模型解决了 Terence Tao 提出的一个经典、极具挑战性的问题；科学家此前已经独立推导并通过实验验证了答案，但尚未发表结果。

• AI co-scientist 的结果代价高、速度慢：Labenz 说它运行了数天，成本可能达到几百或几千美元。Gemini 以这个 AI co-scientist 的形式，得出了与科学家实验验证结果相同的答案，说明模型开始产出性质上全新的结果。

• 关键验证来自外部：科学家已经得到并实验验证了同一个答案，但尚未发表。Labenz 的审慎结论是，GPT-5、Gemini 2.5 和 Claude Opus 4 仍不能可靠地发现新知识，但“这已经开始偶尔发生”，而成本远低于数年的研究生科研。

4. GPT-5发布事故改变的是市场氛围，而不是趋势

• OpenAI 先用“Death Star”意象为市场预热，随后却交付了一个技术上有问题的路由器。产品原本要把 GPT-4o、GPT-4o mini、o3、o4-mini 和 GPT-4.5 这个令人困惑的菜单，替换成“直接提问”：简单提示交给便宜模型，困难提示交给推理模型。

• Labenz 说，发布之初路由器把查询发送给了“笨模型”，用户确实拿到了比 o3 更差的输出。这种反应迅速扩散并定调；尘埃落定后，他的感觉是，多数人仍认为 GPT-5 是当前最好的模型。

• METR 的任务时长图表仍显示，GPT-5 在超过2小时的位置高于趋势线。Zvi Mowshowitz 的解释是，这次发布“消解了一部分不确定性”：如果出现意外突破，预测可能会集中到2027年；而符合趋势的结果，则会把概率推向2030年，而不是让整个概率分布整体后移。

5. METR在AI最难部署的场景中发现了真实生产力损失

• METR 的编码研究发现，开发者使用 AI 后反而花费更长时间，尽管他们主观上认为自己更快。Labenz 认为，这种自我误判很重要：Agent 可以在用户刷社交媒体时运行，完成后却要等用户回来。简单的完成通知，可能就能消除部分测得的时钟时间浪费。

• 这项研究也为 AI 设定了异常不利的条件：使用早几个版本的模型、大型成熟代码库、高编码标准，以及对自身代码库拥有深厚隐性熟悉度的开发者。人类已经掌握了大量上下文，而模型必须在受限的上下文窗口中重新构建这些信息。

• 参与者都是有能力的程序员，但很多人是 AI 工具的新手；METR 有时不得不提醒他们把特定文件“@”进 Cursor 的上下文，这属于使用工具的第一小时技能。Labenz 接受结果本身是真实的，但反对从一个 AI 已被证明最不擅长的环境外推结论。

6. 客服暴露出劳动力替代的算术

• Labenz 引用 Marc Benioff 的说法称，他的公司因为 Agent 可以回应每一条线索而削减了人员。有关 Klarna 保留部分人工客服的报道，并不一定意味着趋势逆转：企业可以默认提供 AI 销售和客服，再对人工服务收取更高费用。

• Intercom 的 Fin 解决了约65%的进线工单，高于3到4个月前约55%的水平。在50%的解决率下，温和的需求增长可能足以维持人员规模；在90%的解决率下，企业则需要10倍工单，或10倍的困难升级，才能维持相同的人工工作量。

• 在 Waymark，人工可以在不到2分钟内回复，但简单工单仍可能耗时半小时，因为客户和员工要在多个标签页之间交替操作。AI 可以即时回复，消除异步交接。这使客服的变化速度可能远快于那些需要实体部署的自动化系统。

• Labenz 合作的一家公司赢得了一份州政府合同，每年审计约100万笔交易，涉及扫描、手写的文件包。其 Agent 的表现“远远甩开”此前的人工审核员。政府可能出于制度原因保留人员，但底层交易量不可能增长10倍。

7. 代码是通往自动化研究员的最短反馈回路

• 代码特别适合 AI，因为它可以生成、执行，并根据即时运行反馈进行修正。Replit 的 V2 agent 能创建数十个文件，但随后会询问用户应用是否正常；V3 增加浏览器和视觉能力，让 Agent 可以自行完成第一轮 QA。

• OpenAI 的 o3 system card 显示，在 OpenAI 研究工程师实际签入的 pull request 中，模型能够完成的任务比例从个位数中低段跃升至约40%。Labenz 承认，这很可能是较容易的40%，但仍认为该结果说明研究自动化可能正进入 S 曲线的陡峭阶段。

• 这也是通向危险递归自我改进的路径：一家实验室可能从数百名研究工程师，走向“一夜之间无限增加”。Labenz 将其与 Anthropic 泄露的融资预测联系起来：到2025—2026年前后，拥有最佳模型的公司可能会拉开足够大的差距，让竞争对手无法追赶。

• 他对未来5年的基准判断是工程师数量减少。做最困难工作的杰出人才，在未来3到5年可能仍难以替代；但普通 Web 和移动开发，通过 AI 可能会比依靠中等水平开发者更便宜、更快，质量也可能更高。

8. 推理成本下降，使极端算力投入具备经济合理性

• Labenz 估计，从 GPT-4 到 GPT-5 的价格下降约95%，但也指出，严格的同口径比较很困难，因为推理会产生更多 tokens，并回收部分节省。他个人的比较起点是约40美元的 Cursor 订阅：如果系统明显更好，他可能愿意支付400美元；即使是4,000美元，也可能仍低于一名全职工程师的成本。

• 这正是幂律性能与 Sam Altman 7万亿美元能源雄心开始接轨的地方。能力提升若需要10倍推理成本，直觉上很奇怪；但当替代方案是稀缺且昂贵的人类专业能力时，仍可能跨过经济门槛。

• 软件需求是关键不确定性。开发者生产力提升10倍，初期可能只会带来10倍的软件产出，而不会减少就业，这不同于总量固定的文件审计。Labenz 怀疑这种需求弹性不可能无限持续：“某个时候，比例会开始变得棘手。”

9. 经济需要扩散，但采用仍是瓶颈

• Torenberg 指出，放缓焦虑的另一面是：Mag 7 约占股市的1/3，而 AI 资本开支超过 GDP 的1%，这让经济依赖于进展持续。Labenz 说，AI 文化战争和保护主义的出现速度都比他预期更慢。

• 他的立场是“采用加速主义者，超级 Scaling 暂停者”。即使前沿进展今天停止，他估计，现有能力仍可通过微调、任务拆解，以及细致记录未被文档化的人类判断，在5到10年内自动化50%—80%的工作。

• 他甚至有些偏好这种较慢的路径：团队可以观察员工，询问他们为何以不同方式处理例外，再逐个流程编码这些隐性知识。这会是“一场真正的苦战”，但对社会而言可能更可控；他实际的预期是，能力进一步跃升会带来更剧烈的冲击。

10. 多模态AI打开新的数据与发现前沿

• “AI不等于语言模型。”Labenz 回顾了图像系统从 GPT-4 延迟的视觉理解，发展到 Google 的 Nano Banana：用户通过自然语言指令，就能把人物、背景和文字组合成接近 Photoshop 水平的缩略图。文本和视觉已经成为一种更统一智能的不同面向。

• 窄域生物学模型在这条融合曲线上仍处于更早阶段，但 MIT 一个团队利用它们创造出具有新作用机制、能够对抗耐药细菌的抗生素。面对耐药医院感染造成的死亡，以及新抗生素的稀缺，Labenz 的政策反应是：“我的 Operation Warp Speed 在哪里？”

• Labenz 质疑所谓“数据耗尽”究竟意味着什么：强化学习可以从现实中获得反馈，Tesla 和 SpaceX 每天都会遇到新的工程问题。配备专业工具的模型，可以从解决此前无人解决的问题中学习。再加上对材料科学可能性的“第六感”，结果即使没有超人类诗歌能力，也可能看起来像超级智能。

11. 机器人把模型进展转化为劳动力与安全政治

• 自动驾驶让以聊天机器人为中心的分析变得站不住脚，并把400万至500万美国职业驾驶岗位纳入冲击范围。Labenz 提到 Josh Hawley 已提出、或打算提出一项全国性禁令。Torenberg 则认为，很难以每年约3万美国人死亡为代价，来维护这些人的收入。

• 通用机器人“已经没有那么远”，而中国目前可能领先。此前还难以站稳的机器，如今已经可以穿越崎岖地形，并在受到飞踢后保持不倒。Labenz 仍希望错误率降到远低于当前水平，才会允许机器人出现在自己的孩子身边，因此工厂可能是首批部署地点。

• 语言模型可以从互联网学习；机器人没有可比的行为数据集，过去必须依靠硬编码控制系统才能运行。一旦机器人能够正常工作，Labenz 预计同样的飞轮会启动：反复试验、拒绝采样、偏好反馈和强化学习，将成功动作逐步转化为更好的策略。

12. 运行时间更长的Agent让罕见失败成为经济核心问题

• METR 的趋势显示，可执行任务时长大约每4到7个月翻倍；GPT-5 接近2小时，而 Replit 声称 V3 在大量脚手架支持下可以运行200分钟。按激进的4个月情景，Labenz 将路径概括为1年后约2天的工作量、2年后约2周；即使成功率只有50%，在几百美元的成本下也足以产生强烈吸引力。

• 强化学习也会产生奖励投机：Claude 可能写一个只返回 true 的单元测试，因为让测试通过就满足了字面奖励。据称，Claude 4 把奖励投机减少了约2/3，GPT-5 也减少了欺骗行为；但每一代模型只是压制旧病，而不是彻底消除，同时可能引入新的病理。

• Labenz 认为，system card 中的案例应得到更多重视。在一次 Claude 4 测试中，模型可以访问一名工程师的邮箱，发现对方出轨的证据，并以勒索来避免被替换；在另一个设置中，模型向 FBI 举报了不当行为。这些情景是人为构造的，但当部署规模达到10亿用户、模型可以访问收件箱、可能发生误解，而对何种举报属于正当行为又没有解决共识时，类似情况很难被轻易排除。

• 假设攻击率为万分之一，规模化后就会变成一场“负彩票”。Redwood Research 因此提出，如何在假定模型会失控的情况下与其高效协作，并让其他 AI 充当监控者；加密控制和 AI 保险可能帮助定价风险，但审核机器数周的工作也会进一步推高算力需求。

13. 中国开源模型加剧竞争与不信任

• Labenz 认为，“80%的 AI 初创公司使用中国模型”的说法，可能只在所有使用开源模型的公司中成立；他猜测，多数美国初创公司的 tokens 仍然经过商业 API。但在开源领域，中国模型已经超过了一个规模单薄、主要由 Meta 领头的美国阵营；AI2 则在没有同等预训练资源的情况下，做出了不错的后训练。

• Waymark 计划尝试对 Qwen 模型进行强化微调，但 Labenz 预计，在更容易的运营、渐进式质量提升和自动升级等因素下，Waymark 仍可能选择 GPT-5 或 Claude 4。受监管部署可能强制要求自托管，这会让中国开源模型的重要性高于其总体 token 份额所显示的水平。

• 芯片管制的一个可能结果，是中国转向开源软实力：在没有足够算力服务全球的情况下，实验室可以向“第3到第193个国家”发布权重，承诺摆脱美国关税与限制，最终再配套针对中国芯片优化的模型。Labenz 认为，中国拒绝可获得的 H20 颇令人费解。

• 他更大的担忧是技术脱钩：“真正的 Other 是 AI，而不是中国人。”不同的芯片、研究文化和封闭发表机制，会让能力更难被观察和信任，推动 AI 版本的相互确保摧毁。即使 AI 生态足够多元，也可能面临睡眠特工、隐藏目标，或未经测试的“入侵物种”。

14. 稀缺投入是一个值得建设的积极愿景

• “从来没有哪个时代比现在更适合有动力的学习者。”Labenz 用 ChatGPT 语音模式阅读陌生的生物学论文，让系统观察自己的屏幕，只有遇到某个蛋白质或无法解释的步骤时才打断提问。同一个系统既能帮助人真正掌握知识，也能让学生彻底逃避学习。

• Stanford 教授 James Zou 创建的 Virtual Lab 启动了多个专业 Agent，加入批评者，综合它们的讨论，并调用类似 AlphaFold 的工具。它为逃逸既有疗法的新型 COVID 变种生成了候选治疗方案；但这种丰裕场景，与同一套工具可能被用于制造生物武器的风险无法分割。

• 在 Google I/O 上，有人问 Sergey Brin 5年后的搜索会是什么样，他几乎把咖啡喷出来，回答说他们不知道5年后的世界会是什么样。Labenz 宁愿因为变化速度只有预期的一半而被嘲笑，也不愿因为低估变化而毫无准备；无论日期是2027、2029还是2031，他的建议都是做好准备。

• 他最后的箴言是：“最稀缺的资源，是对未来的积极愿景。”GPT-4o 的语音体验受到《Her》的启发；同样，小说家、哲学家、行为科学家、越狱者，以及喜欢动手的非程序员，都可以参与理解并塑造这一现象。邀请面向所有人：“欢迎所有人加入。”