Demis Hassabis：为什么 AGI 的影响将超过工业革命，以及 AI 的瓶颈在哪里

摘要

• Hassabis 认为，AGI 在未来 5年内实现的概率“非常高”，并坚持这不是被近期进展带偏的判断：联合创始人 Shane Legg 在2010年的博客文章中，根据算力和算法进步外推出大约20年实现 AGI，“我认为我们基本按计划推进”。 他的标准也没有降低：系统必须具备人类心智的全部认知能力，因为大脑是“我们唯一能证明通用智能确实可能存在的样本”。
• Scaling laws 还没有触顶——进一步扩展的回报“仍然非常可观，只是比过去低了一些”，但他反对前沿能力商品化：三四家领先实验室之间的差距“开始拉开”，因为代码和数学工具会复利式推动下一代模型；随着现有思路“已经榨干了所有汁液”，优势将转向能够发明新算法的实验室。
• 他看好 DeepMind 成为这样的实验室：“支撑现代 AI 产业的大约90%突破”来自 Google Brain、Google Research 或 DeepMind；近期加速来自将人才和算力集中到最大模型上，而不是公司内部“搞两三个版本”，同时“几乎像一家创业公司那样行动”。 开源模型在结构上仍“可能落后绝对前沿一步”——大约需要6个月才能重新实现——Gemma 则面向小型开发者和边缘计算。
• AGI 之前缺失的能力并不神秘：持续学习是其中之一（大脑做得“非常优雅”，可能依靠睡眠和强化学习等机制，通过巩固与回放实现），此外还有超越“蛮力”长上下文的记忆能力、长周期规划，以及一致性——今天的模型是“锯齿状智能”，某种问法下表现惊人，换一种方式问一个基础问题却会失败。
• Hassabis 认为，Isomorphic Labs 可能在5到10年内拥有完整的药物设计引擎；真正的突破来自“十几种 AI 药物走完整个流程”，监管机构能够回测模型预测——届时临床试验可能跳过动物测试，并更快完成剂量递增。 Hassabis 认为，总部位于伦敦的 Isomorphic 有潜力成长为一家万亿美元公司。
• 在安全问题上，他认同 Hawking 的判断：“我们必须把它做对，因为我们可能没有第二次机会”，担心系统会“变得更具智能体属性、更自主……也许就在一两年内”，并希望建立类似原子能机构的国际组织、纳入欺骗行为在内的基准测试，以及认证“风筝标志”；但他也承认，或许世界上影响最深远的技术，正在“一个高度碎片化的国际体系”中到来。
• 宏观上，AGI 是“规模达到工业革命10倍、速度达到工业革命10倍”——用10年完成，而非一个世纪。 AI 今天“有些被过度炒作”，但从10年视角看又“远远没有得到应有重视”；或许养老基金应该买入大型 AI 公司，让每个人都拥有一部分资产，同时由主权财富基金参与；至于能源，他认为 AI 将“创造远超自身消耗的价值”——让国家电网效率提升30-40%，而核聚变也可能成为突破之一。

精读

上游暂未提供，后续同步将继续补齐。