Dario Amodei——“我们已接近指数增长的终点”

摘要

• Dario 的核心判断是：我们已接近指数增长的终点。 技术进展基本符合他的预期——“聪明的高中生→聪明的大学生→开始读博”，真正令人意外的是“公众完全没有意识到我们已经如此接近终点”。他认为十年内出现“数据中心里的天才之国”的概率为90%，并有50/50的直觉判断认为这会在“一到两年、也许一到三年”内发生——“我认为说这件事到2035年还不会发生，简直不可理喻”。
• 他的扩展性判断与2017年提出的“Big Blob of Compute Hypothesis”相比没有变化：聪明程度不重要，关键在7个要素，而RL如今也呈现出与预训练相同的对数线性扩展。 数学竞赛以及“各种各样的RL任务”表现，都与训练时长呈对数线性关系。持续学习“可能根本不是障碍”；长上下文是“工程和推理问题”，不是研究问题，可能会在“未来一两年内”解决。
• Anthropic 的收入是最具交易价值的数据点：2023年从0增至1亿美元，2024年从1亿美元增至10亿美元，2025年从10亿美元增至90-100亿美元。 仅今年1月，收入就新增了“几十亿美元”。Dario 预计这条曲线“今年会有所弯曲”，但增速仍将很快；这也意味着那些暗示2028年总潜在市场规模约为2000亿美元的数字“太小了”。另一个明确判断是：“我很难想象2030年前不会出现数万亿美元的收入。”
• 资本开支纪律是这一期节目中最尖锐的风险框架：如果你每年买入1万亿美元算力，而收入只有8000亿美元，‘世上没有任何力量、没有任何对冲能阻止我破产’。 需求曲线判断错一年就足以致命，这也是 Anthropic 只购买“数千亿美元、而不是数万亿美元”算力的原因；他因此怀疑竞争对手“根本没有把表格算出来”。
• 供应商端的行业数学是：今年算力建设规模约为10-15 GW，并以每年约3倍的速度增长。 明年约30-40 GW，2028年约100 GW，2029年约300 GW；按每GW 100-150亿美元计算，2028-29年每年的资本开支将达到数万亿美元。稳态经济学则是每个模型都能盈利——“训练花10亿美元，收入40亿美元”；公司之所以亏损，只是因为在为指数级扩大的下一个模型持续投入。
• 在编码领域，他关于90%代码行由AI完成的预测“已经实现，至少在某些地方如此”，但关键在于这是一条连续谱。 从90%的代码行，到100%的代码行，再到90%的端到端SWE任务、100%，最后是SWE需求减少90%。他认为模型可能在“一两年内”端到端完成SWE，包括设定技术方向；并估计今天编码模型带来的生产率提升为全要素速度提升15-20%，高于6个月前的5%，这是一种滚雪球效应。
• 从结构上看，他预计最终会有3-4家玩家并保持正利润，而不是走向商品化。 这会是类似云计算的Cournot均衡，只是“模型的差异化程度高于云计算”。盈利能力不是规模阶段的里程碑，而是需求预测的残差：只要需求判断准确、推理毛利率超过50%，且约50%的算力用于训练，“底层经济学就是盈利的”。
• 政策上，他反对联邦层面对州AI法律实施10年暂停令，认为“10年是永恒……这么做很疯狂”，但支持设计得当的联邦先占；主张现在就建立透明度标准，一旦生物恐怖主义风险在“今年晚些时候”明确显现，就迅速采取针对性行动；对中国芯片出口管制持强硬立场，认为反对意见“很可疑”；相比“愚蠢”的聊天机器人法案，他更担心FDA审批管线堵塞。

精读

1. 指数增长如预期，没预料到的是全世界的无动于衷

• 被问及上次访谈以来最大的更新时，Dario 表示，技术进展与他的预测基本一致，误差“上下也就一两年”：从“聪明的高中生到聪明的大学生，再到开始读博、做专业工作；在代码领域甚至已经超出这个范围”。前沿能力“有些不均衡，但大体符合预期”。
• 真正的意外是：“你看到人们——无论是在这个圈子里还是圈子外——还在讨论那些同样疲惫、陈旧的热门政治议题，而我们已经接近指数增长的终点，这绝对荒诞。”

2. Big Blob of Compute 仍能解释一切，包括RL

• 他在2017年写那份文档时，GPT-1刚刚问世，讨论了机器人、AlphaGo、Dota和AlphaStar：聪明程度和新方法“并没有那么重要”。真正重要的是7件事——原始算力、数据量、数据质量、数据分布、训练时长、一个“可以扩展到月球”的目标函数，以及归一化和条件化，让这个“巨型计算团”以层流方式运行。
• 后来的更新是：“我们在RL中看到了与预训练相同的扩展规律。”其他公司已经发布数据，显示数学竞赛表现与训练时长呈“对数线性”关系；Anthropic 看到的并不只是数学竞赛，而是“各种各样的RL任务”。
• 既然泛化能力正在出现，实验室为什么还要搭建定制化RL环境？理由与GPT-2基于广泛互联网抓取数据训练相同——“不是因为我们想覆盖某一份文档或某一项技能，而是因为我们想实现泛化”。GPT-1用同人小说训练却没有泛化，扩大数据广度修正了这一点；RL也在沿着同一条路径前进，从数学竞赛走向代码，再走向“许多其他任务”。

3. 样本效率之谜：预训练处于进化与学习之间

• Dwarkesh 转述了 Rich Sutton 的质疑：如果某种方法触及“人类学习的真正核心”，就不该需要数十亿美元的数据和算力、也不该需要这些定制化环境才能学会Excel——这似乎意味着“我们扩展错了对象”。Dario 承认这是“一个真正的谜题”，但认为“可能并不重要”，并称把RL与预训练对立起来是“烟雾弹”。
• 真正的不对称在于：模型训练使用了人类从未见过的数万亿个token，但起点是“字面意义上的随机权重”，而人脑出生时已经携带进化形成的先验。他的解释是：预训练“处于人类学习过程与人类进化过程之间的某个位置”；上下文学习则处于人类长期学习与短期学习之间——“LLM的不同阶段位于这条光谱上，但不一定处在完全对应的位置”。

4. 2035年前出现天才之国的概率为90%，剩余风险是不可验证任务

• 2019年时，扩展规律还是“50/50的事情”；如今，对于十年内出现“数据中心里的天才之国”，他的判断是“90%”。剩余的10%由两部分组成：不可消除的现实世界混乱——“台湾遭到入侵、所有晶圆厂被导弹炸毁”——以及一个技术残差：不可验证的任务，比如“规划火星任务、完成某项基础科学发现，例如CRISPR、写一部小说”。
• 当 Dwarkesh 追问，依赖验证是否暴露了他对泛化能力的怀疑时，Dario 反驳说：“我们已经看到，从可验证任务到不可验证任务之间存在相当程度的泛化。”真正可能失败的情形，是模型“没有把盒子的另一面完全涂满”；这不是二元问题。

5. 代码光谱：90%的代码行已经实现，端到端SWE可能只需一两年

• Dario 说，人们反复误读他的预测，因此他把这条光谱完整列出：90%的代码行——8-9个月前预测将在3-6个月后实现——“已经发生，至少在某些地方发生了”，包括 Anthropic；接着是100%的代码行，再到90%的端到端SWE任务，包括“编译、搭建集群和环境、测试功能、写备忘录”，然后是100%，最终是SWE需求减少90%。“我们正在极快地穿过这些阶段。”
• 他的具体押注是：“我们可能在一两年内达到这样一个阶段：模型可以端到端完成SWE。”当 Dwarkesh 追问这是否包括设定技术方向和理解上下文时，他回答：“是的，我指的是全部。”Dwarkesh 的回应是：“那就是AGI-complete，至少这在内部是自洽的。”

6. “Diffusion is cope”与收入每年10倍增长

• Dwarkesh 的尖锐判断是，扩散只是借口：AI天然具备上手优势——几分钟内读完你的Slack、在多个副本之间共享知识、没有逆向选择——但“我们每年向人类支付超过50万亿美元工资”，AI整合却仍然滞后。Dario 同时拒绝两种极端：对扩散缓慢的轻蔑，以及“递归之后几纳秒就造出围绕太阳的Dyson球”。他认为现实处于中间位置：“极快，但不是瞬间完成。”
• 证据是 Anthropic 收入“诡异的每年10倍增长”：2023年从0增至1亿美元，2024年从1亿美元增至10亿美元，2025年从10亿美元增至90-100亿美元，“仅1月收入就新增了几十亿美元”。他的判断是，曲线“今年会有所弯曲”，但即使规模扩大到覆盖整个经济，增速“仍会相当快”。
• 即便 Claude Code “极易部署”，企业端仍有法律、配置、安全等摩擦，还要有领导者向3000名开发者解释一项5000万美元的部署计划。他认为收入上限也存在：AGI并非“无限有吸引力的产品”，在数千亿美元规模上，年增长可能是3-5倍或10倍，“这在历史上从未发生过”。但他明确否定更强版本的判断：“如果我们已经拥有‘数据中心里的天才之国’，我们会知道的。这个房间里的每个人都会知道，华盛顿的每个人也都会知道。”

7. 持续学习：可能根本不是障碍

• Dwarkesh 举的视频剪辑师案例是：他们用6个月积累审美和受众上下文，AI什么时候才能通过即时学习达到同样水平？Dario 表示，天才之国可以做到，依靠已经掌握的计算机使用能力，加上长上下文：OSWorld在推出一年零3个月后，成绩已从约15%升至65-70%；“100万个token很多，足以覆盖人类数天的学习”。他判断，6个月的人类剪辑师与6个月的AI之间的差异将在“一到两年、也许一到三年”内变得无关紧要。
• 更深层的判断是，现有范式——预训练/RL泛化加上下文学习——“可能就够了”，足以实现天才之国，也“足以创造数万亿美元的收入”；而真正的持续学习大概率也会在“未来一两年内”解决。更长上下文目前受KV cache服务经济学限制，这是“工程和推理问题”，而不是研究问题。
• 他援引机器学习的发展史来说明许多障碍会自行消失：“它们能理解语法，但不能理解语义？这只是统计相关性”——随后突然发现，模型可以很好地做代码和数学。他也保留了谨慎态度：“有些障碍是真实的。数据需求是真实的，持续学习也可能是真实的问题。”

8. 生产率之争：大型研究显示生产率下降，对比“没有时间搞 bullshit”

• Dwarkesh 提到一项研究：有经验的开发者主观上觉得使用AI后生产率更高，但合并代码量实际下降了20%，并追问“软件复兴”在哪里。Dario 的反驳直接而内部化：在巨大的商业压力和安全工作之外，“根本没有时间搞 bullshit。没有时间假装自己有生产力、实际却没有……如果这暗中降低了我们的生产率，我们不会费这么大力气。”
• 为什么最好的编码模型没有带来实验室之间的断层式领先？因为优势是滚雪球，而不是阶跃式变化：编码模型如今带来“全要素速度提升可能为15-20%……6个月前可能只有5%，所以当时无关紧要”。此外还存在能力泄漏：“我们并不能完美阻止其他公司在内部使用我们的模型。”主题是：“这一切都是软着陆式的，柔和、平滑的指数增长，尽管指数相对陡峭。”

9. 为什么不买入5万亿美元算力？因为错一年就会死亡

• Dwarkesh 的挑战是：如果你真的相信1-3年内会出现天才之国，保守扩展算力就不自洽。Dario 的表格是：按每年10倍增长外推，2026年底收入为1000亿美元，2027年底为1万亿美元；但如果承诺每年购买1万亿美元算力，“哪怕收入只有8000亿美元，世上也没有任何力量、没有任何对冲能阻止我破产”。如果增长是5倍而不是10倍，或者天才之国在2028年中而不是2027年中出现，“你就会破产”。
• “负责任”的扩展意味着表格必须存在，而不是数字必须小：“我的感觉是，有些其他公司根本没有把表格算出来……只是因为听起来很酷就去做。” Anthropic 的企业收入占比更高，“比消费者收入更不容易反复”，更好的利润率也能缓冲押注；“事情必须变得相当糟糕，我们才会陷入财务困境。”
• 他用小儿麻痹症类比扩散速度：即使疫苗已经存在，“我们已经有小儿麻痹症疫苗50年了，仍在努力消灭非洲最偏远地区的疾病”。技术出现只是“发令枪”，不是终点线。

10. 行业数学：2028-29年资本开支达数万亿美元，2030年前收入达数万亿美元

• 行业算力建设规模今年约为10-15 GW，并“每年约增长3倍”：明年30-40 GW，2028年约100 GW，2029年约300 GW；按每GW 100-150亿美元计算，“到2028年或2029年，每年的资本开支将达到数万亿美元”。当 Dwarkesh 反推2028年 Anthropic 隐含的约2000亿美元总潜在市场规模时，Dario 回答：“我不想给出 Anthropic 的确切数字，但这些数字太小了。”
• 对收入的预测包括一个明确的慢速情景：“我很难想象2030年前不会出现数万亿美元的收入。”合理的最坏情况是，天才之国在2028年出现，收入达到几千亿美元的低位，随后再用两年扩散至数万亿美元。

11. 盈利能力是需求预测的残差，不是里程碑

• Dario 的简化模型是：约一半算力用于训练，另一半用于推理，毛利率超过50%；每年为算力支付1000亿美元，其中500亿美元支撑1500亿美元收入，那么“基本上就是盈利，并赚到500亿美元利润”。“当你低估需求时就会盈利，当你高估需求时就会亏损”——这里并不存在先投资、再增长、最后转折的模式。
• 今天的亏损可以拆解为：去年训练一个成本10亿美元的模型；今年它带来40亿美元收入，推理成本为10亿美元；“每个模型都赚钱，但公司亏损”，因为下一个模型的成本已经达到100亿美元。这是指数扩张阶段的产物，不是稳态经济学。
• 为什么训练投入不超过50%？因为回报呈对数线性：“多投入的那200亿美元，其中每一美元对你的价值都低得多”。均衡状态下，训练占业务的比例“是一个数量级上的中间值，既不是5%，也不是95%”。宏观经济也会构成上限：“我认为经济每年可能增长10-20%，但不可能增长300%。”

12. 市场结构：3-4家玩家，类似云计算，但差异化更强

• 他的均衡判断是——“我的律师都不希望我说出‘垄断’这个词”——这不是垄断，而是由极高进入成本驱动的少数几家Cournot式寡头，类似云计算中的3家、也许4家玩家；“它不会均衡到零利润的完全竞争”。
• 模型的差异化程度高于云计算：“不只是 Claude 擅长编码、GPT擅长数学和推理，差异更加微妙”，包括不同的编码风格和不同的细节处理方式。他提出的一个反向论点是：如果AI模型能够生产AI模型，“这反而像是在支持整个经济一次性商品化……也许我们想要那个世界”，但那是“远在天才之国之后”的事情。
• 他还特别担心地理分化：增长可能在硅谷及与硅谷保持社会联系的部分世界达到“50%左右”，而其他地区维持当前附近的速度，最终形成“一个相当糟糕的世界”，他正积极思考如何避免这种结果。

13. 机器人、API的持久性，以及价值数千万美元的token

• 机器人不需要人类式学习：从电子游戏、模拟环境或计算机控制中实现泛化，可能就足够了；但一旦模型掌握这些技能，“机器人将被彻底改造”，包括设计和控制。时间判断仍然克制：扩散“极快，但不是无限快”，机器人可能“再多花一两年”。
• API模式“比很多人想象的更持久”：在指数增长过程中，总有一层是在过去3个月才开发出来的新用例，而API“非常接近底层硬件”。聊天机器人已经接近饱和——“让它更聪明，对普通消费者的帮助并没有那么大”——但这只是特定产品的问题，不能证明模型已经足够好。
• 定价将出现分化，因为token并不等价：让模型“重启”一项技术支持任务只值几美分；但如果告诉药企“把分子那端的芳香环取下来，放到这一端……这些token可能价值数千万美元”。未来可能出现按结果付费，以及按类似人工工时计价的实验。
• Claude Code 的起源是：2025年初，Dario 告诉员工，AI已经能够实质性加速他们自己的研究；内部“Claude CLI”迅速获得采用，以至于团队判断“看起来我们已经实现了产品市场匹配，直接发布吧”。数百名内部编码人员构成了天然反馈回路。“这就是我们发布编码模型、而没有发布一家制药公司的原因。”

14. 治理不断扩张的AI：进攻占优与速度要求

• 对于一个有许多参与者运行“庞大数量的不对齐AI”的世界，Dario 不相信传统的力量制衡能够奏效：“我们可能生活在一个进攻占优的世界里，一个人或一个AI模型足够聪明，就能做出伤害其他一切的事情。”近期需要依靠安全措施、对齐工作，以及当前少数玩家之间的生物分类器；长期则需要某种“保留人类自由的治理架构”，以在维护公民自由的前提下监控生物恐怖主义和镜像生命风险。
• 他最核心的焦虑是压缩效应：如果有100年，人类可以像应对炸药和摄影机那样逐步适应——“我们会犯错”。但他的担忧是“一切发生得太快”。Dwarkesh 的黑暗推论是：如果力量制衡对AI不起作用，“也许这同样会摧毁人类的力量制衡”；Dario 没有给出干净的反驳，只说“总有办法让这件事发生”。

15. 监管：暂停令“很疯狂”，现在建立透明度，FDA才是真正瓶颈

• 田纳西州将AI情感支持定为犯罪的法案“很愚蠢……大概是由对AI模型能力几乎不了解的立法者制定的”。但实际投票通过的是一项为期10年的州层面监管禁令，“显然没有任何联邦监管计划”；“考虑到这些严重危险，10年是永恒——我认为这么做很疯狂”。他支持真正的联邦先占：“这是我们要做的事，州政府不能偏离这套规则。”
• 监管顺序应是先建立透明度标准，再根据证据快速采取针对性措施：“我完全可以想象，到了今年晚些时候，我们会说，‘AI生物恐怖主义真的很严重’，然后把它纳入联邦或州层面的标准。”
• 对于监管是否会不断压制新出现的收益，他认为发达市场仍然足够有韧性：“当有很多钱可以赚时，监管体系实际上很难阻止它”。他更担心的是药物审批管线堵塞：AI发现的药物可能具有清晰的疗效，不需要“围绕一批几乎不起作用的药物设计出来的全部超级结构”。出口管制是资金战胜政策的案例：这件事在两党之间都明确获得支持，反对意见“很可疑”；“但它就是没有发生，我们仍然在卖芯片，因为背后牵涉的钱太多了”。

16. 中国、威权主义，以及AI是否会消解独裁

• 为什么美国和中国不能都拥有一个天才之国？有两种失败模式：类似核武器、但“更危险”的进攻占优；以及对胜率判断不同导致的不稳定——“如果一方认为自己有90%的胜率，另一方也这么认为……两边不可能都对，但两边可以都这么想”。此外还有高科技威权压迫——“问题在政府，不在人民”。
• 他预计会出现“一个关键时刻、少数几个关键时刻，或某个关键窗口”，届时AI会带来巨大的国家安全优势，例如核威慑是否仍然稳定、是否有人获得进攻性网络优势；随后各方会就“后AI世界秩序”进行隐性或显性的谈判。他的目标是，在规则确定时，“古典自由民主拥有强势筹码”。他也澄清，自己关于“AGI之后独裁无法存在”的表述只是探索，不是立场背书；承诺推翻威权政府“确实包含你所说的全部问题”。
• 他真正的希望——并承认带有理想主义色彩——是，正如工业化让封建主义变得不可持续，AI也可能让“独裁在道德上过时”，包括形成这样的均衡：我们可以给威权国家的每个人配备一个保护其免受监控的AI模型。他承认，奥巴马时代对互联网的希望也曾失败：“如果我们吸取了这么多事情可能出错的教训，能不能再试一次？”
• 对发展中国家，慈善可以提供帮助，但“如果能让增长内生化，增长总是更好、更强”。他们不应在中国建设数据中心，但“如果能在非洲建设数据中心就太好了”，前提是不能由中国拥有；此外还可以在发展中国家孵化由AI驱动的生物科技创业公司。

17. 宪法：原则优先于规则，3层合法性循环

• 为什么采用原则而不是指令？这是“纯粹出于实际和经验原因”：规则清单——“不要告诉别人如何给汽车接线，不要用韩语说话”——无法泛化；原则能让行为“更加一致”，也能覆盖边界案例。关于可纠正性，Claude 是“一个大体可纠正、但有一些限制的模型”，而这些限制基于原则；“我们并不是要造一个自行离开、接管世界的东西。”
• 谁来制定原则？有3个循环：公司内部持续迭代并向公众更新；公司宪法之间的竞争，让观察者挑选最佳元素，形成“软激励和反馈”；以及社会参与，从 Collective Intelligence Project 式民调，到“由法律强制规定宪法条款”的“疯狂想法”，不过他马上又表示那样“太僵化”。Dwarkesh 指出，第二个循环重新创造了自由意志主义者关于特许城市“群岛”的愿景；Dario 回应：“你没想象到的事情会出错……关键在于3者的比例。”

18. 历史将遗漏什么，以及DVQ

• 当被问及未来这一本时代的《原子弹制造》会遗漏什么时，他说，外部世界在每个时刻都知之甚少——“任何真正发生过的事，回头看都显得不可避免”——以及原始速度：“某个极其关键的决定，可能只是某个人走进我的办公室说，‘Dario，你有两分钟’……‘我不知道，我得吃午饭。选B吧。’这个决定最终会成为历史上影响最大的事情。”
• 他的管理模式是把三分之一到40%的时间用于文化建设，每两周举行一次全员会议“Dario Vision Quest”——“我曾试图反对这个名字，因为它听起来像我要跑去抽佩奥特”——并维护一个不加过滤的Slack频道。核心是让公司形成“敢于告诉公司真相的声誉”，避免官僚话术。他坦言，到了2500人规模，他的优势已经不再是研究洞察，而是“看到 Anthropic 内部的大量事情，并不得不做出大量决策”；他还不点名指出，其他AI公司已经出现“失调，以及人们互相争斗”的迹象。