先锋 趋势 方法 投研 作者
Dean Ball 谈加入 OpenAI:新权力中心、前沿 AI 政策与“主角能量”
返回节目精读

Dean Ball 谈加入 OpenAI:新权力中心、前沿 AI 政策与“主角能量”

摘要

  • 任职11个月后,Ball 判断美国《AI行动计划》大约完成了“30%到40%”,能源、军事采用、制造业和部署均取得实质进展,但基层执行能力与上层应激式政治之间的裂缝正在扩大。 他最大的起草遗憾,是文件读起来像“30多个彼此分散的主题目标”,而不是围绕通用型智能体、美国主导地位和全球正和式扩散展开的一套战略。随后,政府在未提前90分钟通知的情况下,对非美国籍人士实施前沿模型出口管制,验证了盟友最深的担忧;尽管如此,Ball 仍希望政策制定处于“高度神经可塑阶段”。

  • Anthropic 的供应链认定与 Fable 禁令说明,正当的安全担忧可能与薄弱的前沿 AI 背景判断、个人摩擦和事后政治正当化纠缠在一起。 该认定仍在诉讼中,到2027年夏季出现最高法院裁决并不离谱;与此同时,战争部似乎正在逐步停用 Anthropic,但其他机构——据报道甚至包括在 Anthropic 的监控和致命武器红线下继续使用其产品的 NSA——仍在使用它。Ball 认为,Fable 限制是一次试图把模型赶出市场的临时操作,不是一条连贯的普遍规则:“如果你是 Fable 用户,你的世界在过去一周里变笨了。”

  • 将前沿模型监管转入机密、情报主导的流程,可能让政府获得能力垄断,同时抛弃社会的“并行算力”。 Ball 接受必要时进行机密工作,但反对这样一个世界:未知模型按照不公开的标准接受测试,访问决策由大约20名官员作出,其中可能有15人缺乏深厚的 AI 背景。州层面的前沿法规提供了更有希望的反例:California SB 53、New York’s RAISE Act 和 Illinois SB 315 正在大幅趋同,而 Illinois、Connecticut、Virginia 以及可能还有 Ohio 正在搭建审计或独立验证机制。

  • 中国不愿购买美国芯片,部分是战略信号;更大的技术意外在于,世界模拟系统可能让灵巧机器人技术大幅提前。 Ball 预计,北京会宣称半导体自立,同时 DeepSeek、Alibaba、Zhipu 等公司私下游说采购美国芯片;他承认,自己关于 DeepSeek 顶级模型将在2026年第一季度末前闭源的预测错了。持续运行的3D世界模拟立刻改变了他的机器人预测:从人类示范构建的合成数据管线,可能远早于他预期地解决操作问题——他的反应是:“好吧,机器人的灵巧操作将在8个月内被解决。”

  • Ball 加入 OpenAI,是因为前沿实验室已经成为一种新的政治与经济权力中心;如果置身其外,就无法理解其中决定性的资讯与治理选择。 他将其与现代金融的兴起相提并论:政府没有能力写出每一条规则,私人标准必须填补缺口,而 AI 本身也会成为治国工具。他的新团队将向前看6–12个月,与研究人员密切合作,尤其关注现有监管触及不到的内部部署——现有监管通常由公开发布触发。

  • Ball 的基准情景是,递归自我改进会让曲线再次陡峭化,而不是瞬间进入奇点;但即便不连续跃迁的概率只有10%–20%,也足以要求现在就开始制定具体预案。 他希望预先定义指标、明确实验室之间的协调选项,并厘清政府何时必须介入。他更尖锐的担忧是执行:实验室可能有计划,却仍不确定“我们是否会真正照着执行”,因此内部信念与书面承诺同样重要。

  • AI 已与半导体、能源、初创公司和具有国家重要性的 IP 深度交织,2027年的增长失望可能触发一种隐性的政府兜底。 Ball 描绘的情景是:数据收集放缓,资本开支预期被砍,股票下跌20%–30%,并通过相互连接的资产负债表产生连锁反应;随后,即使政府没有明确承诺救助,干预也可能成为公共利益所必需。政府仍掌握《国防生产法》和合法暴力的垄断,因此实验室最持久的防线是广泛扩散:每家银行、每所大学和每个主要行业都应在防止没收或国有化上拥有利害关系。

  • Ball 认为,这一转型可能创造一个短暂的“主角能量”时代:个人判断力在机器成为主要行动者之前达到最大杠杆。 他的安全边界是个人化的:保留独立公开写作,提前定义辞职红线,同时抵抗政府俘获与商业权宜之计;如果团队沦为橱窗装饰,就离开。他会深度使用 AI 进行研究和思想合作,但仍认为人类写作的文章有价值,因为“人生的每一条路径都极其不可能”,模型无法从自己从未经历的经验中作出观察。

精读

1. 《AI行动计划》是为面向未来的华盛顿而写

  • Ball 说,AI 能力演进的轨迹几乎没有给他带来根本性意外:他原本就预计2025年末或2026年初会出现“具备可怕网络攻击能力的模型”,生物能力则会在不久后出现。真正意外的上行因素,是普通人采用编码智能体的速度如此之快。

  • 但在计划起草时,华盛顿并没有生活在这套预测中。Ball 将文件称为“奇怪的诠释学”:它面向当时的官员,却同时预判这些读者很快会变得“多30% AGI化”、随后是50%,并以不同方式重新阅读其中的措辞。

  • 他偏好的统一论点是:通用型智能体即将到来,政府并不主导其开发,而国家必须“顺着河流的水势前进”。目标是美国主导地位和地缘政治力量,但实现方式应当是推动全球增长与广泛参与,而不是纯粹的零和战略。

  • 最终的计划没有完全把这些想法缝合起来,更像“30多个彼此分散的主题目标”。如果再多两个月,Ball 还会加入针对行业采用的工作,尤其是 HHS 和 VA:它们拥有单一支付方规模的医疗数据以及政府提供的医疗服务,能够支持价值异常高的 AI 实验。

2. 执行有实质进展,但高层政治已经脱离战略

  • 如果把计划当作待办清单,Ball 估计,在发布大约11个月后,计划“可能完成了30%到40%”,按政府标准看是不错的表现。一些国家安全层面的执行仍属机密,因此公开评分必然不完整。

  • 一段刻意写得平淡的文字甚至设想,在国家危机期间,军方可以征用美国数据中心,并将它们拼接起来执行一项未说明的任务。Ball 以此说明,官僚语言中隐藏着一些重要、近乎“Leopold Aschenbrenner 式”的想法。

  • 可见的执行包括核政策、军事采用 AI、支持自动驾驶初创公司和美国制造业,以及即将出台的 FERC 改革,旨在加快为超大型用电户接入电网。军方采用速度和美国更广泛的采用情况都让 Ball 感到积极意外。

  • 断裂发生在顶层:职业官员在执行计划,而内阁级官员面对 Mythos 等事件时,却不参考计划的逻辑就直接反应。Ball 看到的既有对真实风险反应不足,也有错过风险重点的恐慌式措施;但他希望这仍是一个“政策制定的高度神经可塑阶段”,3个月后可能会变得不同。

3. Anthropic 供应链之争仍在法律与机构层面延续

  • Ball 将这项认定放在一条更长的行政权力扩张轨迹中:这条轨迹始于 Obama 的“笔和电话”。每届政府都会把边界向外推,头条关注会消退,而诉讼会在大多数观察者转移注意力后持续很久。

  • Anthropic 的案件最近已在 DC Circuit 进行辩论,预计将作出裁决。Ball 假设 Anthropic 输掉后会继续上诉,并认为到2027年夏季出现某种最高法院裁决并不令人意外——即便最高法院只是拒绝受理。

  • 在政府内部,结果不是彻底清除,而是碎片化:战争部似乎确实在逐步停用 Anthropic,可能在年底前或再过一年内完全停用;但其他机构仍可以自由使用它。

  • 据报道,NSA 仍保留与 Anthropic 的合同,尽管它属于战争部;报道还称,NSA 接受了 Anthropic 禁止国内大规模监控和自主致命武器的限制。Ball 对这一表面矛盾的回答很简单:“美国政府内部有很多不同的声音。”

4. 机密模型治理牺牲了社会的并行智能

  • Ball 将网络安全行政命令中没有争议的软件漏洞工作,与自愿性的发布前制度区分开来:模型将在发布前30天接受测试,细节主要列为机密,情报体系——实际执行者是 NSA——将发挥主导作用。

  • 他担心未来的前沿模型访问被设限,能力与标准保持秘密,政府在安静地决定哪些能力应当受到限制。除了反对政府垄断所体现的公民自由立场,他还认为,对于历史上最重要的技术之一,“公众有知情权”。

  • 一个文明本身就是信息处理系统,公民提供着“并行算力”。自2023年以来,公共 AI 政策社群已经在处理 Mythos 级能力方面取得真实进展;立法可以吸收这种分散的专业知识,而集中保密只会让背景知识有限的高级官员在负荷过重的情况下临时决策。

  • Ball 不认为从 CISA 转向其他机构,是出于对 Biden 项目的党派敌意。他的判断是制度性的:一个 AI 治理体系正由大约20个人临时拼凑,“其中15个人并没有太多 AI 背景”。答案是国会、公众监督和更多声音,而不是简单地责怪这些官员。

5. 各州正在趋同于前沿规则,同时分裂普通 AI 市场

  • Ball 看到,私人治理、审计和独立验证背后的动力比预期更强。Anthropic 和 OpenAI 都发布了支持这一理念的文件;Illinois 通过了前沿审计要求,Connecticut 和 Virginia 授权开展研究或试点,Ohio 则在考虑更强有力的实施方案。

  • California SB 53、New York’s RAISE Act 和 Illinois’s SB 315 使用了极其相似的透明度语言,Illinois 还加入了审计要求。对 Ball 来说,这正是民主实验室联邦主义按预期运作:各州不是制造拼布式法规,而是在一个共同框架上趋同。

  • 不那么显眼的记录则更糟。消费者保护、算法定价,以及数百项合成媒体或 deepfake 法律制造了令人困惑的合规负担,初创公司可能尤其难以承受。

  • 职业许可是最尖锐的样本:Illinois 已将心理健康服务定义为只有人类才能提供的服务,这可能意味着聊天机器人回答“我很难过,你能帮我吗?”都属违法。Ball 认为,主张联邦优先的人一边攻击精心设计的前沿安全法规,一边忽视这些更具限制性的拼布式法规,十分荒谬。

6. 中国的芯片立场分层存在,而世界模拟改变了 Ball 的机器人时间表

  • Ball 区分中国的政策宣示与实际执行。宣称建设本土芯片生态,既服务于民族自豪感,也是在告诉国内外受众中国不再需要美国;但这不意味着每家中国 AI 公司都认同这一偏好。

  • 他确信 DeepSeek、Alibaba、Zhipu 等公司正在游说北京采购美国芯片,也相信尽管存在限制,一些交易仍在发生。中国可能仍会把限制进口作为重大目标,但不能把公开立场解读为完全的商业脱钩。

  • Ball 明确判断错的是灾难风险政策:他预测 DeepSeek 的领先模型将在2026年第一季度末前停止开源。“这个预测错了”;北京看起来仍然更担心劳动力冲击,而不是 AI 灾难风险。

  • 技术上,持续运行的世界模拟最让他意外。早期系统只能梦境般地重建场景,用户一移开视线,物体就会改变;然后“有一天它突然就能用了”。通过 Apple Vision Pro 等设备捕捉的人类示范、合成世界,以及少量高保真肌肉数据,突然让灵巧的机器人操作看起来近在眼前。

7. 在 Fable 抬高上限之前,消费工具已经在复利式改善日常生活

  • Ball 对“非常普通的人组成的奇怪小群体”使用编码智能体感到兴奋,尤其是用 Claude Code 和 OpenClaw 构建东西的在家教育母亲。他自己的例子是,为 Mexico–Korea 世界杯比赛生成国家资料包并匹配零食。

  • Labenz 的例子是使用 Claude Code,将实时 NBA League Pass 数据整合进一个 Nate Silver 风格的仪表盘,估算每场比赛“成为一场好比赛的概率”。这解决的是一个小但真实的问题:一个不追踪任何单一球队的人,可能同时面对8场比赛。

  • Fable 的提升则具有类别上的差异:“一个极其聪明的模型”,也是“一次真正的智力跃升”,让 Ball 想起自己第一次接触 o3。过去他曾以为 o3 会永远让人觉得天才般聪明;但享乐适应仍然发生了,他预计如今的 o3 相比之下会显得相当迟钝。

  • 在一项 FERC 程序中,Ball 让 Fable 审阅自己大约40页的专家证词和对方专家70页的反驳,然后让 Mythos 在 Cowork 中阅读材料并开展研究。他没有使用模型生成的文字,但其分析“以一种我大多做不到的方式把这家伙彻底击溃了”,让他遗憾自己没能更多使用 Fable。

8. Fable 禁令像是被政治染色的临时安全政策

  • Ball 认为有3种因素相互作用:正当的安全或安保担忧;判断前沿模型风险时背景不足;以及 Anthropic 在多次与政府冲突后的政治地位。他无法知道三者的比例,但认为任何遗漏其中一项的分析都不完整。

  • 他的判断不是华盛顿宣布了一条持久规则,要求只要模型存在漏洞,就必须实施出口管制。官员想让 Fable 离开市场,于是拿出了“我们能想到的、基本确信真的能把这东西弄走的唯一办法”。

  • Ball 转述的解释包括安全担忧,以及难以联系 Dario Amodei;这呼应了供应链事件中的抱怨——Amodei 花了数小时才回电话。Ball 认为,这种反应中存在一场华盛顿地位竞争,即“谁才是更大的猴子”。

  • 后续解释强调了一次 jailbreak,随后又称 Anthropic 将模型提供给一家与中国有关联的公司。Ball 认为这是事后抓取理由:那家公司是 SK Telecom,属于拥有 SK Hynix 的韩国 SK 集团;在他看来,加固一个重要盟友的电信网络完全合理。

9. 前沿实验室已经成为一种新的政治与经济权力

  • Ball 将今天的实验室与荷兰共和国和英国现代金融的兴起相比较。新的金融工具需要共同规则,之后才会出现类似 SEC 的机构;同样,前沿 AI 需要治理,而国家无法足够快地独立建立起这套体系。

  • 因此,大量治理将起源于公司内部,以及制定规范、审计和标准的私人机构。关键不在于公共权力消失,而在于公共机构缺乏立即提供完整体系所需的能力与专业知识。

  • AI 也会像金融一样成为治国工具:货币服务于名义上与银行业无关的政策目标,因为它对几乎一切都具有基础性作用。Ball 预计,高级智能也会获得同样的跨领域角色。

  • 无论是白宫,还是离开白宫10个月后——即便拥有异常强的接触权限、出差机会和人脉——都没有让他超越对这一机构的抽象直觉。随着基础性政策可能在未来18–24个月成形,OpenAI 提供了评论无法提供的接触和实际责任。

10. Ball 的新团队将领先于政策,并进入部署围墙之内

  • Ball 将自己的新团队描述为一支精品团队,与 Chris Lehane 负责的 Global Affairs 组织不同。Global Affairs 处理传统政策、游说,以及来自全部50个州、联邦政府和国际司法辖区的需求;两支团队互不汇报。

  • 新团队的时间窗口是6到12个月:识别今天几乎不可见的问题,预判能力将把社会带向何处,并在公众压力固化前制定政策。Ball 希望其思想产出能够比肩一家优秀独立智库。

  • 这要求“细节、细节、细节”,而不是泛泛相信模型会变得更强。Ball 预计,自己大量时间会用于“和技术团队一起折腾”路线图、能力、内部部署,以及1年后的世界究竟与现在有何不同。

  • 现有监管通常由公开发布触发,但关键选择可能涉及仅在实验室内部部署的模型,因为安全、监管、算力或风险因素而不对外发布。Ball 推测 Mythos 2 和 OpenAI 的后续模型可能正在推进,但强调自己尚未看过 OpenAI 的路线图;他加入的原因,就是与研究人员和高管一起塑造这些判断。

11. OpenAI 的使命很重要,但 Ball 保留了独立的美国声音

  • Ball 预计会加入 OpenAI 的 MAC——Mission Advisory Council 或 Mission Advisory Committee,他记不清具体是哪一个——该机构将研究人员、Global Affairs 人员和其他人聚集起来,参与政策与内部治理决策。他认为,让人类受益的使命在公司内部被认真对待。

  • 难点在于解释:宏大的使命并不能机械地解决含糊不清的选择。因此,能否保留不经 OpenAI 编辑审查的公开写作,对 Ball 是否接受这份工作很重要。

  • 他预期会有善意分歧,而不是 AI 安全圈有时想象的那种“卡通式”邪恶阴谋。OpenAI 仍保留一些“Xerox PARC”式研究文化,包括内部异议;当自己的判断与最终公司决策不同时,Ball 希望能自由地公开解释。

  • 他的目标仍然是让这场转型“对国家和世界都走向正确结果”,但国家优先:他认同自己是美国爱国者,而不是世界公民。他也接受,自己是在帮助一家竞争性公司制定战略,而不是在为一个抽象行业提供建议。

12. 递归自我改进大概率是连续演进,但尾部风险危险

  • Ball 从通用技术出发:一种通用技术可以被应用的目的之一,就是把它应用于自身,因此递归并不陌生于技术史。“如果 AI 不存在递归自我改进,那反而会令人意外。”

  • 从至少 GPT-4 开始,模型可能已经帮助改进模型,也可能更早。这使得单一、干净的断裂成为可能,但不是 Ball 的默认情景;他的反复先验是,历史中“连续性总是比不连续性更多”。

  • 因此,他的第一项工作是经验性的:“测量两次,再下刀一次”,研究路线图,并重新评估近期 RSI 是会带来一次陡峭跃升,还是另一次平滑加速。他反复提醒,自己尚未加入 OpenAI,也尚未查看内部计划。

  • 即便不连续跃迁的概率只有10%或20%,也足够现在就开始准备。Ball 希望预先确定具体指标,与指标挂钩的行动触发条件,实验室之间减速或暂停的选项,以及公司何时应当引入政府。

13. 协调既需要反垄断空间,也需要内部愿意执行计划

  • Ball 支持考虑由 FTC 发布一封“无行动函”,明确在狭义定义的安全协调范围内,实验室之间的合作不会被以卡特尔行为起诉。范围适当时,它可以在危机前创造选项,而不会预先授权广泛的商业串谋。

  • Anthropic 的 Fable 安全措施让这一论点变得复杂:以“安全”为名在特定领域降低输出质量,在 Ball 看来像是消费者保护问题。行业范围内的产品降级协议显然具有反竞争性,因此实验室可能会削弱自己要求协调空间的理由。

  • 在实验室内部,他感受到的更多是眩晕,而非恐惧——人们正在接近悬崖,却不知道悬崖另一边是什么。RSI 可能只是复制推理模型之后基准测试曲线的拐点,也许再“强30%”:不是奇点,但仍然具有巨大影响。

  • 与主流预期相比,Ball 的立场“极其通胀”;只有相对于东湾一小群安全研究者时,它才显得通缩。他更大的担忧是组织层面的:实验室可能既不确定 RSI 意味着什么,也不确定自己是否会执行计划。战略必须建立起“真正听从自己计划”的信念。

14. 人类能动性可能在机器成为主要行动者前达到顶峰

  • 结构性力量就是 Ball 所说的河流:人们出生时便与历史的水势形成“非自愿的联合”。伟大的历史行动者拒绝只是随波游泳,而是通过坚定抵抗改变河流最终的走向。

  • 他从政府工作中获得的最大更新,是结果有多频繁地取决于极少数人之间的关系。基础设施建设是结构性问题;相比之下,战争部与 Anthropic 的冲突,很大程度上是 Dario Amodei 与高级官员之间一段糟糕关系的结果。

  • 如果人类正接近“人类智力的日蚀”,讽刺之处在于,这可能是最后一段高度集中的“主角能量”时期。Ball 将其比作一颗垂死恒星膨胀成红巨星:机器智能诞生之际,可能迎来一场美丽、丑陋、英雄主义或反派式的绽放。

  • 实际要求是控制熵:“你希望有一场火,但又不希望把森林点着。”实验室和政策制定者需要人为约束、明确红线,并采取违背狭窄经济利益的行动;未来几年可能要求的是“行动,而不是承诺”。

15. 正式控制不如制度能动性与品格重要

  • 被问及超级政治行动委员会 Leading the Future 和纽约政治人物 Alex Bores 时,Ball 提醒不要假设捐助者会直接指挥政治机器。即便是拥有数百亿美元资产的人,也会面临委托—代理问题;资助者通常会选择自己大体信任的组织,而不是为每一步行动写剧本。

  • 他的比喻是一个“发条娃娃”:Leading the Future 看到一名政治人物以 AI 监管者自居,于是试图警告其他人,跟随他会带来失败。结果,这次干预反而提高了 Bores 的知名度,并在他的党内初选周围制造了 Streisand 效应。

  • Ball 将超级政治行动委员会的行为与 OpenAI 区分开来,尽管 Greg Brockman 是其资助者之一。他推测 New York’s RAISE Act 和 California’s SB 53 可能没有在至少获得 OpenAI 默许支持的情况下通过,并指出自己已经把 Bores 当作朋友大约2年。

  • 在品格与可纠正性之间,Ball 的直觉偏向品格,但希望获得更多经验数据:把“正确的雪水”放在山顶,让梯度发挥作用。儒家的礼与仁解释了规则为何会失效——世界变化太快,无法把适当行为全部编纂出来,因此及时的道德判断必须来自经过培育的德性。

16. 公众股权只有在公众直接持有时才可能奏效

  • Ball 承认,人类创造了模型训练所依赖的知识公地,但不接受仅凭这一点就必然应当获得补偿的前提。文明是一座共享图书馆,其继承者既被期待使用它,也被期待回馈它。

  • 另一种账本是消费者剩余:如果社会希望 AI 公司为训练数据付费,那么也应当补偿 AI 公司创造的巨大正外部性,因为这些收益并不会完全由它们获得。Labenz 将其具体化:儿子患癌时,他可能愿意支付 ChatGPT Pro 价格的100倍。

  • Ball 仍接受,AI 可能是对集体知识一次深度异常的汲取,而分享上行空间在政治上可能明智,在宇宙意义上也可能公正。他强烈反对由政府持有股权,因为股权可能成为控制公司的杠杆;如果安全措施要求对实验室施加严厉限制甚至禁令,政府还会面临利益冲突。

  • 他更能接受拿出 AI 公司大约15%–20%的股权,在美国居民之间分配。如果估值从约1万亿美元升至10万亿美元,结果可能只够买“一辆入门级 Mercedes”,有意义但并不改变人生;即便公司价值达到5万亿–10万亿美元,也只会捕获消费者总剩余中的一小部分。

17. AI 基础设施已经形成隐性的“大而不能倒”问题

  • Ball 看不到一套刻意设计的救助战略,但相互连接的资产负债表已经覆盖前沿实验室、VC、初创公司、半导体、能源和实体基础设施。许多名义上独立的企业,不过是围绕同一轮前沿扩张资本搭建的薄壳。

  • 这轮建设正在为小型模块化反应堆、聚变、电池、材料、冷却和水系统等具有国家价值的 IP 提供融资,而不依赖传统联邦补贴。他最喜欢的例子,是清理水力压裂产生的轻度放射性“采出水”,用于数据中心的闭环冷却——“这是资本主义最老派的例子”。

  • 失败不必意味着 AI 碰到了能力墙。2027年,实验室可能发现进展需要跨职业多年缓慢收集数据;增长仍会继续,但二阶导数下降,资本开支预测被下调,相关股票下跌20%–30%。

  • 这些下跌可能迫使市场抛售,损害相互交织的公司之间的承诺,并危及具有战略重要性的技术。此时,干预就变成一个公共利益问题。正如 COVID 期间暴露出的疫情兜底机制,政府支持可能只是隐性的,因为“世界就是这样运转的”,即便实验室既不应要求,也不应期待这种支持。

18. 政府最难施展的权力是算力优先级,实验室的防线是扩散

  • 现有模型已经释放出非凡的国家安全效用,因为政府拥有“数据过剩”。Ball 说,仅 National Geospatial-Intelligence Agency 每年收集的信息,就足以需要800万名人类分析师处理,而联邦政府雇员总数大约只有300万。

  • AI 正在情报综合、网络攻防和目标识别等领域释放这套系统的潜在“动能”。Ball 说,Project Maven 将 AI 接入后,导弹目标识别所需人员从约2,000人降至20人;他推测在今天的智能体时代,这个数字可能已经是5人。

  • 实验室也从研究人员那里获得杠杆:CEO 无法忽视稀缺技术人才组成的内部选民群体,并可以有可信度地警告政府,不可接受的要求会引发叛乱。自动化 AI 研发可能削弱这一约束,而国家仍然掌握合法暴力的垄断。

  • 根据《国防生产法》第一章的优先权,政府可以认定先进算力稀缺且关键,要求超大规模云服务商优先服务政府,并支付市场价格。近乎无限的联邦需求可能挤出私人用户;实际障碍在于资金与制度能力,而不是某种新颖的法律理论。

19. 广泛部署与开源让国家—实验室博弈保持多元

  • Ball 偏好的防止没收机制,是把依赖分散到整个社会。一家实验室组成的游说团体只是一个不受欢迎的行业;而每家银行、每所大学、每个商业领域和每个主要机构都要求继续获得访问权,就会形成一支能够制衡政府野心的 Madison 式联盟。

  • 秘密化会产生相反的均衡:如果只有实验室、官员、JPMorgan 和 Apple 能看到前沿能力,国有化就会更容易。Ball 希望 Fable 级及更强的系统广泛可用,让 AI 变成“普通资本”,由整个经济中的资本所有者共同支持。

  • 开源对共享基础设施尤其重要。一个广受信任的 AI 仲裁系统,可能让参与者带着私人顾问参与,同时依赖一个集中、可审计的模型;国内各派和国际用户可能都要求系统开源,才会接受它。

  • Ball 预计,随着经济与国家安全压力加剧,数字开源在近期和中期会落后,但 Gemma 和 GPT-OSS 已经表明,美国大型实验室仍可以参与其中。机器人可能不同:智能硬件的寒武纪大爆发需要共同的物理智能模型,而在 Ball 看来,物体层面的安全风险相对较小。

20. 成功意味着持久制度,而不是个人接触或游说胜利

  • Ball 认为,存在一片开放的思想空间,可以在认真对待 AGI 的同时捍卫古典自由主义和共和国的基础。他还希望建立资金充足的独立验证组织,配备“实验室级的人才资本”,并支付足够高的薪酬,以吸引真正强大的评估人员。

  • 他衡量成功的具体标准,是未来前沿能力仍广泛扩散,AI 明显催生新的组织形式,政府与实验室之间拥有更清晰的规则,实验室也能对自身社会角色提出建设性的解释。他认为自己对这些结果的贡献只能算有限。

  • 他与政府的关系很复杂:亲密朋友仍在政府内部,而另一些官员“恨我入骨”;他还听说,一名年轻求职者仅仅因为转发过他的内容,就可能被当作红旗。相比成为一名全能型 Trump 批评者,狭窄且有理有据的批评反而保留了更多信任。

  • 他的团队不是游说部门,Ball 说这很适合自己,因为“我不擅长这个”。Global Affairs 将负责日常联邦政府沟通。他认识 Sam Altman 大约18–24个月,和其他 OpenAI 高管合作更多,但“我不会说我们是哥们”。

21. Ball 的安全边界是一封辞职信,以及一种可辨认的人类声音

  • 在进入白宫之前,Ball 曾给自己写信,记录自己的信念,并提前写下防止被权力腐蚀的辞职触发条件。如今他认为 OpenAI 比那份工作更重要,也认为自己应该重复这一练习:“提前画好你的红线。”

  • 镜像般的另一种危险,是为了让商业继续运转,而向政府让渡过多的私人能动性。如果新团队变成深思熟虑却无法影响决策的橱窗装饰,他也会离开;如果当时仍在政府任职并经历 Anthropic 供应链认定,他说自己“肯定会辞职”。

  • GPT-5.5 和 Opus 4.8 最近为他书籍第一章生成的观点与框架,比他原本的想法“好得多”,尽管他最终没有采用这些输出。模型已经从构思、研究一直支持这项工作,未来也会出现在致谢中。

  • 对于监管意见、官方信函和移民推荐等形式化工作,Ball 接受大量 AI 代笔;但他把文章视为个人交流,仍要自己完成。模型依然不擅长结构性隐喻和克制——知道“我本可以走到那里,但我不会这么做”——而他父亲的去世、Roosevelt Room 和 OpenAI 供应链,则提供了机器从未亲历过的生活材料。