Securing Superintelligence

超级智能将成为决定性的国家安全能力，但一个国家若无法控制或对齐它，就无法可靠地将其转化为战略优势。 他们给出的实用定义是：在几乎所有领域都超过最优秀人类的系统，并且很可能会以清晰可辨的智能爆炸“曲棍球棒”形态出现。运行速度达到人类10–100倍的 AGI，或许仍可处于“暂时的滑溜控制”之下；而像成年人之于幼儿那样远远超越人类的超级智能，可能就做不到了。

美国面临一个“过度约束问题”：与中国竞速会放大失控风险，而单方面放慢速度，则可能把战略筹码拱手让给当前并不受嘉宾信任的对手。 嘉宾认为，安全倡导者和国家安全官员往往各自淡化对方的核心前提。两种前提可以同时成立，但今天还不存在一个由硬件支撑的“信任但验证”机制，能够调和二者。

前沿实验室的竞争正越来越明确地指向 AI 研究自动化，因为机器速度的研究员可以递归式改进创造它们的系统。 对管理层而言，上行空间是获得绝对忠诚、持续工作且不会在聚会上泄密的员工；危险则在于，“这头野兽开始拥有自己的生命”。Jeremie 表示，OpenAI 研究员似乎比 Anthropic 员工更害怕发声，并明确认为前沿实验室容易遭到中共渗透。

可投资的基础设施叙事与物理安全不可分割：正在设计的设施，可能承载2026年末或2027年的训练运行，但今天的数据中心仍包含廉价且可能造成灾难的攻击路径。 曾到访一座约100亿美元设施的前特种作战人员发现，花约3万美元实施“一两个行动”就可能让它瘫痪1年。即便采用物理隔离，如果不在施工前就把间距和屏蔽设计进去，也无法抵御 TEMPEST 式电磁窃取，因为等到那时再改已经成了“单向门”。

半导体和电力供应链制造的脆弱性，不可能仅靠国内算力支出在短期内买断。 TSMC 的制造能力位于台湾；据称 ASPEED 占据基板管理控制器市场的70–80%；变压器供应链也包含中国制造的组件，嘉宾称这些组件已被用于植入基础设施后门。被攻陷的控制器或变压器，可能成为固件级后门、可远程烧毁的资产，或需要更换的物理故障，而美国未必能生产这些替代品。

完美防御不可能实现，因此提出的安全模型是“可观测性加威慑”，而不是一座不可攻破的堡垒。 项目应把攻击成本抬高到足以迫使对手调集足够人员、设备或权限，从而留下情报特征；随后再把检测与可信、可控的报复结合起来。Edouard 认为，“今天大国之间的稳定，实际上并不是靠真正的防御维持的”；它依赖的是后果威胁。

这份报告既是在警告资本开支、治理与集中化风险，也是争夺 AI 竞赛胜利的蓝图。 Nathan 将监控、人员审查、供应链重构和报复要求视为不应启动国家级项目的理由；Harris 兄弟称这种反应是一次“罗夏测试”，但认为无论如何，大多数安全升级都不可避免。真正的“大交易”需要安全、可治理的芯片和验证硬件，但缓慢的设计与制造周期以及不确定的防篡改能力，意味着“信任但验证”很可能不在近期可行窗口内。

🔗 原始收听与视频来源： 用 Jeremie & Edouard Harris 探讨超级智能：国家安全、间谍活动与 AI 控制