摘要

Dwarkesh Patel 以经济替代定义 AGI：AI系统必须能够像人一样好、快且便宜地完成“98%的工作”，而近期基准则是自动化95%的白领工作。 如今的模型能够推理，却无法积累6个月的上下文、学习雇主偏好，或可靠地执行完整工作流；这道鸿沟解释了为什么 OpenAI 的年收入可能达到100亿美元，而平庸的传统企业仍能创造更高营收。“一份工作包含的内容远比人们假定的多”（There’s much more to a job than is assumed）。
如果这层缺失的能力到位，Dwarkesh 预计劳动力与资本将在功能上变得可互换，使经济在 AI 能够建造更多数据中心和机器人工厂后实现“20%以上增长”。 Noah Smith 质疑其中的核算与需求逻辑：如果99%的人失去劳动收入，谁来购买这些产出？Dwarkesh 的回答是，需求可以来自资产所有者，甚至来自一个推进殖民银河系这类大型项目的单一主体；Noah 也考虑由 AI 运营、拥有产权的企业。无论传统 GDP 能否统计这种变化，物质世界都可能发生爆炸式转型。
分配层面的断裂点最终在于所有权，因为可规模化的 AI 劳动力可能把人类工资推至生存线以下，同时将收入集中到资本一侧。 广泛持有标普500指数或土地，或许能维持消费需求，但 Dwarkesh 并不依赖这一点：他预计会出现再分配，并称当人们无法“靠自己白手起家”时，即便自由意志主义的论证也会失效。他给出的乐观类比是退休人群：他们凭借政治权力，或许能获得相当于劳动者工资25%的收入，却不会因此把生产者挤出体系。
Noah 关于人类有价值工作的比较优势论证，只有在 AI 面临刚性资源约束，或政治刻意为人类保留工作与资源时才能成立。 Dwarkesh 计算称，一台价格4万美元、每年运营成本仅几千美元的 H100，如果额外一年智力劳动仍值10万美元，其回报率将超过200%，从而推动算力持续扩张，直到机器劳动力的成本远低于人类生存线。Noah 承认，因此受保护的高薪工作本质上是伪装成就业政策的再分配，而不是人类劳动天然拥有的经济避难所。
如果“deep learning just works”能够解决持续学习和计算机使用，AGI 可能在几年内到来；如果这些能力类似进化过程中更古老、更困难的成就，则可能还需数十年。前沿训练算力已经连续多年以约4x的速度增长，但数据中心支出已约占 GDP 的1.2%，这种轨迹不可能无限延续。Dwarkesh 的比喻是一枚算力“火箭”：要么在物理和金融扩张耗尽前进入太空，要么进展退回到更缓慢的算法创新。
近期证据并不支持短期内出现递归式 AI 研究爆发：据报道，熟悉代码库的资深开发者使用 AI 后反而慢了20%，尽管他们自认为快了20%。 Noah 仍给出约20%的智能爆炸概率，但两位嘉宾都强调，细节丰富的预测往往很快失效；推理模型的扩散、公共产品的开放以及蒸馏技术，已经削弱了此前关于保密性和中美能力差距的假设。
最终的战略资产不是一次性的 AGI 突破，而是推理能力本身。 未来的训练集群或许能以普通 token 速度支持10万个模型实例，而一个模型可以跨所有已部署副本持续学习；用 Dwarkesh 的话说，“你的推理能力就是你的地缘政治力量”（your inference capacity is literally your geopolitical power）。但更大的对齐风险可能是“AI 挑拨我们彼此对立”，这使国家之间的沟通与信任变得更加重要。

精读

1. AGI 始于 AI 能够完成完整工作

Dwarkesh 对 AGI 的操作性定义是经济性的：AGI 应能完成“几乎任何工作”，约占全部工作的98%，且至少达到人类的水平、速度和成本。对于更近期的讨论，他使用自动化95%的白领工作作为标准，因为机器人领域仍有大量长尾体力任务。
仅仅会推理还不够。模型或许能解决困难问题，但人类编辑可以吸收反馈，在6个月里学会 Dwarkesh 的偏好并持续改进；如今的系统却会反复回到基线上下文。“既然我雇来的人能做到这一点”，而模型做不到，他据此判断这还不是 AGI。
Noah 的反驳值得保留：人类都是通用智能体，却并不意味着彼此可以互换。他无法同样出色地完成 Dwarkesh 的访谈，Dwarkesh 也未必能匹配 Noah 写经济学文章的节奏；《Star Trek》里的 Spock 和 Kirk 都很聪明，但各自拥有异质的优势。
Dwarkesh 在系统层面化解了这一异议：不必让每个模型实例或微调版本都能完成所有工作，但必须存在某个模型、微调版本或实例，能够胜任每一种相关白领岗位。“上帝和一个只是以更快速度像人一样思考的东西之间，存在一条光谱”；Dwarkesh 说他不确定其他人所说的超级智能究竟是什么，而 Noah 猜测是“上帝”（God）。

2. 持续学习是通往收入的缺失桥梁

经济层面的错位是 Dwarkesh 的核心证据：一台机器可以推理，但 OpenAI 年收入约100亿美元，McDonald’s 和 Kohl’s 的收入却都更高。看起来在智力上意义深远的能力，并没有释放出自动化完整人类劳动所隐含的数万亿美元收入。
Noah 将缺失的那一层描述为员工建立上下文、追问失败原因并在实践中发现微小效率的能力；模型对一家企业的理解可能“在会话结束时就被抹掉”。Dwarkesh 也承认，系统提示词和强化学习微调都不像这种持续学习。他没有明确的技术解决方案，而这正是他认为 AGI 可能仍需数年才能到来的原因。
Noah 追问，表面上的低采用率是否可能反映审美偏好或代际滞后：也许 AI 已经能写出更好的经济学博客，但读者仍然偏爱真人。Dwarkesh 预计阻力会小于通常的判断，因为真正的能力会带来即时性、个性化和极低的交付成本。

3. Waymo 显示消费者会迅速放弃人工服务

Dwarkesh 认为最好的采用案例是 Waymo 对比 Uber。在已经部署 Waymo 的城市里，消费者并没有拒绝自动驾驶出行，反而“喜欢这个产品”；即使供不应求时需要等待20分钟，无缝的机器服务仍然胜过对真人司机的抽象偏好。
职业协会或许能保住谁有资格自称医生或律师，但无法抹去更好的体验。如果聊天机器人真的能提供同等水平的医疗建议，立即交谈显然胜过在候诊室等3个小时——尽管 Erik 仍希望 AI 诊断后有人类跟进。
Noah 仍保留互补性问题：此前每一种技术工具都以不同的相对成本执行任务，最终与人类并肩工作。Dwarkesh 的回答是，人类劳动者也彼此互补，但企业仍会转向单位美元表现最好的方案；AI 的决定性优势在于极低的“生存工资”。

4. 失败的自动化预测低估了工作内容

Noah 的先验判断来自两类反复失败的论断：“技术永远做不到某件事”，以及“人类劳动将被淘汰”。历史上的失败并不能证明这类事情不可能发生——工业革命本身就是前所未有的事件——但它确实使确定性的时间预测变得可疑。
2015年，Noah 在 Bloomberg 的同事曾当众吼叫，称自动驾驶卡车将摧毁蓝领劳动。10年后，卡车司机反而短缺，受雇卡车司机数量创下新高。Geoffrey Hinton 预测放射科医生很快会消失，结果就业人数和工资同样上升。
Dwarkesh 认同这一诊断：预测者识别出某项醒目的能力，例如推理，然后误以为它就是自动化就业所需的完整能力组合。他的长期判断则不同：到2100年，机器或许能以至少不逊于人类、且更低的成本完成智力和体力劳动，并可按需扩大机器人口。

5. 闭环式 AI 生产可能将增长推高至20%以上

一旦 AI 能完成视频剪辑这类日常工作，而不只是回答博士级数学问题，Dwarkesh 预计世界会变得“相当疯狂”。人类人口限制了劳动力增长；当数据中心和机器人工厂同时提供资本与劳动力时，机器人可以建造更多工厂，形成爆炸式生产闭环。
他的判断是“20%以上增长”，而 Tyler Cowen 的判断是比稳态高约5%。Noah 等人指出瓶颈和监管限制，Dwarkesh 则认为，简单说“我们生活在一个堕落的世界”并不能量化经济究竟有多少部分仍受约束，也不能据此推导出实际增长率。
Noah 提出不可回避的 GDP 问题：如果99%的人既没有工作也没有收入，谁来购买多出来20%的产出？Dwarkesh 说，一个拥有殖民银河系这类愿望的单一主体，就能创造惊人的需求；Noah 也把企业和所有者，包括由 AI 运营的企业，视为潜在需求来源。“只要一个主体在乎，它就可以去做。”

6. 后劳动力经济将打破熟悉的 GDP 直觉

Noah 反驳称，GDP 传统上代表人们自愿购买的最终产品，而不是自主系统建造戴森球。如果 AI 的活动只是服务于少数统治者、在内部定价的投资，那么被统计的经济就已经与劳动收入换取商品和服务的经济截然不同。
Dwarkesh 接受这种怪异性，但更看重物质产出而非语义：拆解火星、发射探测器，或向银河系扩张，无论是 Sam Altman 下令还是 AI 自行决定，都是爆炸式活动。他反复强调，这既不是他希望看到的世界，也未必是最可能出现的情形。
普通人仍可能通过资产升值参与其中。持有标普500指数的人，在爆炸式增长下会成为千万富翁；对探测器或工厂有价值的土地也可能带来可观收入——前提是现有产权能够在转型中存续。
长周期福利比较同样无法干净定价。Dwarkesh 会拒绝再多的1500年代货币，因为当时根本不存在抗生素；同理，延寿疗法、欣快药物或尚未预见的 AI 赋能商品，都可能让未来的普通消费价值远高于今天的消费篮子。

7. Noah 看到需求不足，Dwarkesh 看到资本再配置

Noah 将这一风险类比为过度生产：企业竞争会把利润压到接近零，随后因为消费者无法吸收产出而停止扩张。他举出的当代案例是 BYD 向供应商借款，而有国家支持的省级竞争者不断增加；企业压力最终可能推动再分配，以恢复购买力。
Dwarkesh 不同意这一类比。Noah 将中国的过剩产能归因于金融压抑、汇率政策和政府制造的市场扭曲，而不是有用生产本身存在内在上限。在没有类似扭曲的情况下，AI 投资应当流向回报最高的领域——太空、长寿，或尚未被想象出来的方向。
两人的分歧最终落在动机上：Noah 认为数万亿美元的数据中心支出需要付费客户，Dwarkesh 则认为生产只需服务于控制资源的人。相比一个神一般的所有者，Noah 更倾向于设想由 AI 日常运营的企业；企业已经拥有财产、可以提出需求，也可以保留名义上的人类董事会。

8. 资本所有权成为后劳动力社会契约

两人都接受由此产生的分配问题：劳动收入占比可能接近零，而本就更加不平等的资本收入将几乎拿走全部收益。Dwarkesh 对未来的乐观模板是社会对待退休人群的方式：他们几乎不创造当前经济产出，却能凭借政治权力获得相当于劳动者工资25%的转移支付。
Noah 提议建立主权财富基金：向顶层所有者征税，用税收购买他们持有资产的股份，再聘请包括 a16z 在内的机构，以“2 and 20”的收费模式管理公共投资组合。他指出，资本主义者、社会主义者和阿拉斯加都曾接受过广泛持有资产的版本。
Noah 指出，主权石油基金总体上劣迹斑斑，挪威和阿拉斯加是例外。他更偏好由市场决定投资方向，再对相当一部分回报征税；但他承认自己还没有确定税应落在何处，也不希望由政治人物来指挥投资。

9. 比较优势无法让工资抵御可规模化算力

Noah 对人类就业的条件性论证借用了 Marc Andreessen 的例子：他是“我见过打字最快的人”，但不会亲自打字，因为世界上只有一个 Marc。如果 AI 遇到某种特定的总量约束，即使人类在每一项具体任务上都更差，也可能保住高薪工作。
Dwarkesh 认为这种约束只是暂时的。如今全球或许有约1000万台 H100 等效算力，几年后可能达到1亿台，但供给仍可持续扩张；他称一台 H100 大致拥有相当于人脑的 FLOPs，价格约4万美元，年运营成本则是几千美元。
如果额外一年智力劳动仍值10万美元，购买一台 H100 一年就能带来超过200%的回报。因此投资会持续进行，直到硬件、折旧和运营成本等于边际劳动价值——而 Dwarkesh 预计这一水平将低于人类生存线。
Noah 回应称，为人类保留土地、能源或工作，就能创造受保护的人类就业。Dwarkesh 认为这不是比较优势，而是通过低效配置规则实施的再分配；Noah 承认这一点，同时指出现实政治本来就经常通过最低工资、执照制度和行会式限制进行再分配。

10. 在爆炸式经济中，现金胜过固定福利篮子

Dwarkesh 希望政策制定者在工资崩塌前“咬牙接受现实”。扩大 Medicaid 无法购买 AI 可能创造的所有惊人服务，而寄希望于通过起诉 OpenAI 获得一笔万亿美元和解金，会让其他人“基本上彻底完蛋”；如果人类工资跌破生存线，某种形式的 UBI 就是最干净的答案。
UBI 能在 AI 创造出任何现有官僚体系都无法命名的商品时保留选择权。如果衰老被解决，人们应获得 GDP 的一部分，自行决定在数千万美元中拿出多少购买疗法，而不是获得“AGI 世界的食品券等价物”。
对于意义问题，Dwarkesh 不相信失去就业是人类唯一无法适应的转型。人类已经适应了农业、工业化、国家以及极端政治制度；他“怀疑”自由加上数百万美元，最终就会成为这个物种无法承受的变化。Erik 开玩笑说，广播可能会成为“最后一份工作”。

11. 手机可能在人类工作终结前先终结人类繁衍

Noah 的绝对化挑衅是：“手机毁灭了人类。”避孕和女性教育降低了生育率，但他认为随后全球范围内、没有上限的生育率跌破更替水平，源于手机、线上陪伴替代品，以及性与生育之间的切断。
Dwarkesh 接受 TikTok 当前造成的伤害，但想象了一个更好的终点：每个人都能拥有一位专属的 Steven Spielberg，为其制作引人入胜的长篇叙事，让熟悉的人物贯穿其中。Noah 则更悲观——线上互动本身取代了人类历史上赖以繁衍的线下关系。
在 AI 劳动力主导的世界里，生物人口的重要性会下降。人口过去一直推动国家实力，但当有效劳动力主要由模型构成时，Dwarkesh 的表述非常直接：“你的推理能力就是你的地缘政治力量。”

12. 时间表取决于算力能否进入“太空”

短时间表的最强论证始于一个意外：用数学和代码训练模型，让它短暂思考，推理能力——亚里士多德定义人类的能力——就出现了。Dwarkesh 认为，推理模型与早期系统的部分区别，在于更高的可靠性，以及学会回溯和追踪解法的方式。如果看似困难的能力来得如此容易，那么持续学习和计算机使用能力或许只需研究者“训练它去做”。
30年时间表则颠倒了能力层级。进化是在相对较近的时期才优化出明确推理能力，而运动、常识、持久状态和长期记忆，则经过数亿乃至数十亿年才积累出来。狮子可以长时间追踪猎物；当前模型却无法可靠地连续工作1个月。
过去10年，前沿训练算力每年增加约4x——Dwarkesh 说，“4年就是160x”——但数据中心支出已经约占 GDP 的1.2%。能源、TSMC 的先进制程晶圆，以及经济中投入 AI 的 GDP 占比，不可能永远以4x速度增长。
因此他的预测有两种模式：算力“火箭”要么在扩张放缓前抵达 AGI，要么进展必须依赖能力更弱的算法创新。一座训练规模的集群仍可在普通 token 速度下运行约10万个模型副本，最终支持数亿乃至数十亿个实例。

13. AI 自动化研究仍是未经证实的反馈回路

METR 的结果让 Dwarkesh 不再相信加速会轻易发生：熟悉代码库的资深开发者使用 AI 后慢了20%，尽管他们自认为快了20%。工具可能制造进展感，却降低实际测量的生产率。
Noah 仍认为出现某种智能爆炸的概率约为20%。不确定性来自两项相互竞争的观察：AI 反复让看似困难的能力显得容易，但尚未展现出推动自身发展所需的可靠、累积式工作表现。
Noah 用 Leopold 的《Situational Awareness》提醒人们预测的风险。关于美国和中国能力、瓶颈及竞争的详细判断很快过时，因为公共访问和蒸馏技术暴露出的信息超过预期；Dwarkesh 则反驳称，Leopold 确实识别出了3个关键解锁点之一——测试时算力，另外两个是工作场景入职和计算机使用。

14. AGI 更像工业化，而非原子弹

Dwarkesh 反对国有化，认为它既不具备政治可行性，也不值得追求。这不是1945年的美国，AGI 也远比一个封闭的武器项目更复杂；他预计国有化会大幅拖慢进展。
他认为更好的类比是工业化：没有任何一台单独的机器构成这场转型，互补创新决定技术扩散。早期工业化国家相对于落后的清朝中国获得了巨大的地缘政治优势，但这种优势并不像拥有第一枚原子弹那样，能够即时形成决定性垄断。
中美竞争仍可能取决于谁先抵达不连续点，因为更高的推理能力意味着更多经济产出，也让一个模型能够跨多个副本学习。Dwarkesh 更大的担忧是“AI 在彼此挑拨我们，而不是我们让 AI 彼此竞争”。
他的征服者类比解释了其中机制：Cortés 和 Pizarro 将知识用于对付相互隔绝的帝国，而阿兹特克人和印加人无法分享彼此的教训或共同弱点。AI 也可能利用类似的沟通失败与信任崩塌。

15. 持续学习可能比品牌成为更强护城河

尽管训练成本不断上升，前沿市场仍出现了更多竞争者，并未像半导体制造那样整合。模型价值仍大幅高于训练成本，因此新进入者理性上可以多花10倍；只要资本市场愿意为可信团队提供资金，固定成本本身就不足以阻止进入。
Noah 认为 ChatGPT 当前的护城河是品牌：它是 AI 领域的 Kleenex 或 Xerox，是消费者首先想到的默认名称。如果最佳模型能从部署中持续改进，并携带用户或企业知识向前延续，更强的技术网络效应才会出现。
Noah 认为，各实验室必须先解锁在职学习，才可能实现每年数千亿美元或数万亿美元的收入。一旦做到这一点，积累的工作场景经验将比品牌更重要，并可能把市场均衡从今天这个意外宽广的竞争格局中改写。
Meta 的激进招聘在这一算术下完全合理。如果一名身价1亿美元的研究员，能让 Zuck 每年约800亿美元的算力账单效率提升1%，节省金额就已经超过其薪酬；Noah 的问题是，竞价为何还没有达到真正的盈亏平衡点。

Miles Dieffenbach：深入 Carnegie Mellon 的40亿美元捐赠基金，以及 DPI、TVPI 与非流动性的计算逻辑 Miles Dieffenbach揭秘CMU 400亿美元捐赠基金