自动化公司会是什么样?
自动化公司会是什么样?
摘要
- Dwarkesh 的核心重构是:AGI 的优势不在于原始智商,而在于数字员工可以在保留隐性知识的情况下被复制。 “人类历史上第一次,可以直接把资本变成算力,再把算力变成劳动”,将数万亿美元转化为数十亿数字员工。
- CEO 职能将成为算力消耗大户:苹果会不会每年花1000亿美元为“Mega Steve”做推理? “当然”——这相当于购买数百万个主观小时,用于战略规划和五年期蒙特卡洛模拟。“Mega Steve 的一个战略洞见,可能就值数十亿美元。”
- 人才稀缺将让位于算力约束。 想要大概率达到 Steve Wozniak 水平的工程人才?没问题。只要有了1个,额外复制的成本就是几美分。限制因素不再是寻找或训练稀缺人才——“只是算力。”
- 最深刻的差异在于可进化性——一段可能是在引用 Gwern Branwen 的话中提到,公司无法克隆自己,因为它们“由人组成,而不是由可互换、易复制的小部件组成”;自动化公司与人类公司之间的差距,将类似于真核生物与原核生物之间的跃迁。
- 对“一家公司经济”的对冲是:内部规划仍然需要市场提供“更慢但不带偏见的外部反馈”。 尽管“随着 AI 系统进步,这种平衡可能会发生变化”。
精读
1. 资本 → 算力 → 劳动:AGI 真正的解锁点
- Dwarkesh 开场的观点是:把 AGI 想象成个人助理,“低估了它真正的集体优势”,而这种优势就是数字可复制性——员工可以在保留技能、判断力和隐性知识的情况下被复制数百万次,资金则通过将数万亿美元转化为“维持数十亿数字员工所需的电力、芯片和数据中心”来供给。
2. Mega Steve——年耗1000亿美元的 CEO
- 现实中的 Steve Jobs 必然只能通过经过筛选的报告、仪表盘、重要会议和战略摘要来了解世界;“Mega Steve”可能从数百万个经过提炼的复制体所看到的一切中学习,“就像 Tesla 的全自动驾驶 AI 模型可以从数百万名司机的驾驶记录中学习。”
- 算力账本是这样的:每年1000亿美元的推理预算,可以买来五年期蒙特卡洛模拟,以及这样的思考时刻:“如果我们收购 eBay、挑战 Amazon,FTC 会如何回应?……我还剩5分钟数据中心时间。让我评估 1,000种替代策略。”
3. 思维融合终结社会学习的生物学劣势
- 人类知识无法复制粘贴——每名员工都需要数十年训练。AI 模型通过“直接借助潜在表征”进行沟通,Mega Steve 不断生成并重新吸收专业化复制体;从外部看,AI 公司将像一个统一智能体,能够以完整的保真度和上下文即时传播思想——这种社会组织方式的变化,其幅度堪比从狩猎采集部落走向股份制公司。
- 根据数千年数据得出的结论,“人口规模是关键输入”,决定社会产生新想法的速度。人口数量远超当今最大公司的 AI 公司,拥有多出几个数量级的机会来创造创新和改进。
4. 可进化性:克隆之谜
- 一段可能来自 Gwern Branwen 的问题被完整引用:为什么卓越的公司不克隆自己,然后占领每一个细分市场?问题似乎在于,公司无法复制自身——它们甚至可能无法在时间维度上复制自身,最终走向“硬化与衰老”。
- Dwarkesh 用生物学规模作类比:人类公司与自动化公司之间的鸿沟,将相当于从原核生物 → 真核生物的复杂性跃迁。
5. “一家公司经济”问题——以及市场的约束
- Dwarkesh 对全面大一统的对冲是:短期内,内部规划可能比市场竞争更高效,但它需要更慢、无偏的外部反馈;一家企业如果扩张得过大,“就有可能让内部目标偏离市场现实”;它的规划必须与真实的成功或失败挂钩,“而这正是市场所提供的东西。”
- 但他没有把可能性彻底排除:“随着 AI 系统进步,这种平衡可能会发生变化”——AI 公司将像软件一样,成功的业务单元可以完美复制,反馈循环也会更快。