先锋 趋势 方法 投研 作者
Jake Sullivan谈如何应对AI不确定性及管理对华竞争
返回节目精读

Jake Sullivan谈如何应对AI不确定性及管理对华竞争

摘要

  • Sullivan把未来几年内出现变革性AI当作规划情景,而不是预测。 AI 2027是“完全可信的情景”,但AGI在2027年、2028年甚至2030年出现都不是必然;知情专家仍存在根本分歧。他主张围绕当下的网络、生物、劳动力和军事风险打造具体工具,让政府练出应对“智能爆炸”所需的能力。

  • 美国在前沿技术上领先,但在政府和国家安全领域部署AI方面仍“落后于曲线”。 Sullivan在拜登政府时期推动的备忘录,要求五角大楼、情报界、财政部、商务部和国务院加速采用AI,特朗普政府也没有将其废弃。但官僚体系、涉密计算规则、国会和国防主承包商仍是障碍。演示有帮助,但他预计国会只有在现实冲击出现后才会行动——无论是灾难、就业流失,还是外国军事突破——这意味着政策只能持续追赶。

  • 特朗普政府的AI行动计划体现出显著的两党延续性,但Sullivan认为其对华政策存在可信度缺口。 他支持该计划的投资议程、拟议中的全球AI联盟、生物安全条款以及恢复合成前DNA筛查;他担心的是,一边承诺拒绝向中国提供高端算力,另一边却做出H20决定,前后不一致。面对极高的技术不确定性,他倾向于准备充分但保持弹性的政策工具,而不是过早制定高度规定性的监管。

  • Sullivan支持美国芯片和AI向全球扩散,前提是前沿训练和大部分算力仍留在美国。 海湾交易应满足严格的网络安全、物理安全、内部威胁和防转移标准,并设置限制,避免美国从石油依赖换成算力依赖。当Labenz提出一个可能在美国司法管辖之外运行递归自我改进的5吉瓦沙特数据中心时,Sullivan“非常强烈地”认同前沿训练运行应在美国境内进行——这使美国电力供给成为战略瓶颈。

  • 中国是需要管理的竞争对手,而不是需要脱钩的经济体,也不是华盛顿应试图推翻的政府。 Sullivan提出的具体威胁模型包括:补贴驱动的“第二次中国冲击”出口、围绕言论的胁迫、预置在美国基础设施中的Volt Typhoon恶意软件、世界上规模最大的和平时期军事扩张——很可能是整个人类历史上最大的一次——以及围绕台湾的潜在冲突。他追求的结果既不是冷战,也不是政权更迭,而是让美国具备足够的经济、技术和军事能力,阻止中国主导的技术栈带来“更强的胁迫、更少的自由”,以及美国人更弱的机会。

  • 出口管制争论的核心,在于前沿算力究竟是狭义的军事投入,还是广泛创造繁荣的通用引擎。 Sullivan认为军民融合使善意用途限制无法执行,因此美国不应把相当于先进喷气发动机的战略投入交给竞争对手;管制应保住前沿优势,但不能阻断游戏或普通应用。Labenz留下的问题仍未解决:如果目标变成运行数量多出10倍的AI员工,“小院高墙”就开始看起来像广泛封锁——即便Sullivan拒绝接受中国消费者会失去AI医生这一说法。

  • 相比AI军备竞赛或与中国达成大交易,Sullivan更倾向于“管控竞争”。 这一模式是在设置护栏、开展直接的AI风险对话、进行类似军控的接触并防止误判的同时,“拼尽全力竞争”;他称竞争是一种“大病”,任何G2协议都无法治愈。至于战略主导权,他刻意保持模糊,回答说要“摸着石头过河”,因为当前的不确定性使僵硬的宣言更危险而非更有用。

  • AI赋能战争和劳动力扰动,是检验美国国家能力的两项近期考题。 乌克兰战场展现了可消耗的大规模系统、自主武器、AI辅助情报、后勤和指挥控制的雏形,而Sullivan担心解放军可能比五角大楼更快采用这些能力。在经济层面,他预计无论总量增长如何,扰动都会发生;随着人们面对收入、家庭供养、意义感和职业目标的变化,他主张完善社会保险。

  • Labenz将Sullivan呈现为一位克制、务实的“建制派最佳代表”,同时指出其对极端AI情景的讨论仍有缺口。 标准的政策和国际关系剧本,对最具颠覆性的情景几乎没有答案;Labenz敦促领导人把风险管理与面向美国人的积极愿景结合起来。

精读

1. 短时间线应写进计划,而不是预测

  • Sullivan的规划假设是,未来几年内出现变革性AI,可能对经济、社会、战争、国家竞争和非国家威胁产生影响。但他明确拒绝认定AGI会在2027年、2028年甚至2030年到来。

  • Labenz认真看待AI 2027以及由开发者触发的智能爆炸。Sullivan读过这一情景,曾将其“极其广泛地”分享出去,并发现技术专家在“完全可信”和不那么可信之间分歧明显——这不是陷入瘫痪的理由,却说明政策必须容纳一系列宽幅结果。

  • Sullivan的具体优先事项是先解决现实问题,例如2025年的AI网络风险和不足的社会保险。他认为,这样做能够发展政策工具并形成共识,为应对失准、起飞和P(doom)“提前做好更充分的准备”,而不是假装这些问题无关紧要。

  • Labenz转述了Sullivan私下给AI安全社区的建议:深入研究具体的下行情景,为官员提供清晰的威胁模型,并配套具体的应对方案。

2. AI政策需要一份风险与机会账本

  • Sullivan将AI分为四个篮子:安全、经济、社会和存在性问题。他给政府的规则刻意简洁——识别具体风险和机会;如果一项干预能扩大上行空间或降低伤害,就“采取行动;如果不能,就不要行动”。

  • 安全风险包括网络、生物、对手的“奇兵武器”和决定性军事优势;经济风险包括就业替代,以及财富和权力的集中。与之相对的,是生产率提升、气候和能源问题求解、公共健康,以及扩大美国国家安全能力的可能性。

  • 社会层面既有虚假信息和疏离感,也有让所有人获得教师、医生、护士和个性化照护的前景。Sullivan认为,“机器人末日”和由超级智能引领的乌托邦都过于难以推演,无法给出确定答案;Labenz则追问,优先处理近期问题,本身是否隐含了对时间线的判断。

  • Sullivan感到沮丧的是分析供给不足:除了“标题党、炫技式展示或末日论”,他几乎没有看到能够系统梳理完整风险—机会版图的研究。这种严谨性的缺失,限制了政府判断应在哪些领域采取行动。

3. 一个几乎不用技术的政府无法领导技术

  • Sullivan走访了前沿实验室负责人、怀疑者、投资人、学者和国家安全体系。由此形成的备忘录指出,美国在前沿技术上领先,但必须以“更大的紧迫性”和“更高的灵活度”,推动五角大楼、情报机构、财政部、商务部和国务院采用AI。特朗普政府没有将其废弃。

  • Labenz提出的执行层面问题十分尖锐:据称白宫工作人员缺乏类似ChatGPT的访问权限,有时会在家中使用工具,回到安全办公室后再继续工作。Sullivan如今已经是“说重度用户都算保守”的使用者,但他承认,自己担任国家安全顾问时,因为文化、法律约束和涉密系统等原因,使用这些工具远少于现在。

  • 现场演示给Sullivan留下了印象,但他怀疑仅凭令人不安的聊天机器人或生物武器演示,就能推动国会行动。议员通常会对现实影响作出反应——例如9·11规模的事件、连锁式失业,或外国军事能力——正如《爱国者法案》在灾难后出台,“部分是出于好的原因,部分则相反”。

  • 在技术发展方向和时间线都未确定、特朗普政府也显示出对立法兴趣不大的情况下,Sullivan倾向于做好准备、制定灵活标准并打造可部署工具,再通过华盛顿、硅谷和整个美国社会之间的对话决定何时启动。

4. 全球芯片扩散必须以美国本土算力为锚

  • Sullivan认为,AI行动计划中存在两党共同认可的实质内容:通过投资守住前沿领先地位,与志同道合的国家合作,以及采取包括合成前DNA筛查在内的生物安全措施。他最主要的反对意见,是拒绝向中国提供高端算力与H20等决定之间存在不一致。

  • 他的海湾框架有三条主线:让世界运行在美国而非中国的AI和芯片之上;要求对转移、内部人员、网络攻击和物理破坏提供强有力的防护;避免以对外国算力的依赖替代对石油的依赖。

  • “细节决定成败”,因为阿联酋和沙特的公告当时仍只是公告。Sullivan支持销售,但也支持设置数量限制,坚持美国AI算力、未来扩建项目和前沿训练运行的“大头”必须留在美国境内。

  • Labenz追问,一个5吉瓦的沙特数据中心能否在美国控制之外承载递归自我改进。Sullivan同意前沿训练运行不应发生在海湾地区,并将这一目标直接与打破美国电力瓶颈联系起来;价值观差异值得审视,但不应因此把合作伙伴全部列入黑名单。

5. Sullivan的中国威胁模型具体且有边界

  • Sullivan反对脱钩:两国必须保持经济关系,并“作为大国在未来无限期地共存”。他的“小院高墙”原则,只把管制留给具有国家安全用途的高端能力。

  • 经济威胁是“第二次中国冲击”:国家补贴和低价出口,可能压垮那些遵守不同规则的企业,甚至掏空未来产业。他的回应是与G7及其他国家协调防御性措施,而不是走向战争。

  • 胁迫案例更为尖锐。当时休斯敦火箭队总经理发表涉及香港自由战士的言论后,中国向NBA施压;Sullivan警告,如果中国AI运行整个世界,北京可能会“为你的言论标价”。Volt Typhoon预置的恶意软件,则让美国的供水、电力、管道和其他基础设施直接暴露在风险之下。

  • Sullivan称,中国的军事扩张是世界上规模最大的和平时期军事扩张,很可能也是整个人类历史上最大的一次。中国对台湾的野心,以及其在经济、技术、军事和外交层面挑战美国的能力,使其独一无二。Sullivan将竞争与王毅级别的外交、尽可能的合作以及已经启动的AI风险对话结合起来;“宝贝,现在是冷战时间了”明确不是他的立场。

6. 出口管制暴露了军民两用的分水岭

  • Labenz提出太平洋战争类比:切断中国获得被称为“新石油”的芯片,可能制造类似石油禁运对日本造成的“用掉它,否则就失去它”压力。Sullivan认为,没有证据表明中国因此感到必须发动攻击,并区分了有针对性的高端管制与全面禁运。

  • Sullivan也看到了两种说法之间的张力:一方面声称管制徒劳无功,另一方面又说管制约束不可接受。中国预计会发展更好的国产芯片,也在实施自己的出口管制;他认为,经济和技术上的“可打牌”是竞争的常态,并非通向战争的必然道路。

  • Labenz承认,在AI 2027或Dario Amodei式的时间线下,管制可能产生实际影响,但他质疑管制会不会从禁止精确的军事用途,演变为禁止前沿模型,或阻止美国运行数量多出10倍的AI员工。到了那一步,中国公民完全可以追问,美国是否在扣留他们的“AI医生”。

  • Sullivan的回答建立在军民融合之上:服务科学和商业的芯片,也能构建军事、情报和经济国家治理优势,而没有切实可行的办法监管最终用途。他否认自己寻求广泛剥夺消费者使用权,但不愿把决定性投入交给中国——正如美国不会向其提供先进喷气发动机或高超音速技术。

7. 美国领导力不要求改变中国政权

  • Erik Torenberg引用了Dario Amodei在《Machines of Loving Grace》一文中的提议:说服中国“放弃与民主国家竞争,以获得所有好处,而不必与一个更强大的对手作战”,并将其解读为政权更迭。Sullivan的明确回答是:塑造中国政府不应成为美国政策目标,尽管他尊重Amodei的伦理立场和民主承诺。

  • Labenz认为,Kimi K2在部分英文创意写作基准测试中领先、Moonshot具有亲西方的审美,以及数十年接触可能为友好关系打下基础,都存在上行空间。Sullivan的基准情景仍是Xi Jinping巩固权力、将国家安全作为国内社会控制工具,以及共产党得到强化;但他不会排除演变的可能。

  • 现实主义并没有消灭民间交流的乐观空间:Sullivan希望“两个庞大、有抱负、充满活力的国家”之间有更多学生往来、文化交流和社会连接。政策应保护美国利益和价值观,同时观察中国的内部轨迹,而不是试图对其发号施令。

  • 中国廉价、开源的AI构成了有意义的软实力:如果能力相当,各国会选择更容易获得、成本更低的技术栈。Sullivan的回应是技术表现——许多国家偏好美国工具,是因为它们“确实很强”,因此持续保持前沿领先本身就能产生吸引力。

8. 管控竞争是均衡状态,而不是大交易

  • Sullivan设想的均衡状态是,任何一方都不会轻易获胜。两国继续“竞争、角力、偶尔肘击”,同时由护栏防止冲突;拜登政府的工作公式是“拼尽全力竞争”,并密集管控竞争。

  • 强大的AI带来了现代版军控轨道:一边建设能力,一边讨论共同风险、防扩散、错误和升级。Sullivan援引美苏长期保持接触的历史,说明激烈竞争与降低风险可以并存。

  • Labenz提出的质疑值得保留:无法核验的数据中心活动,加上双方都追求战略主导权,可能使AI竞争比核竞争更不稳定。Sullivan偏好在这一阶段保持模糊:停留在前沿,阻止对手取得无法回应的领先,同时保持沟通,“摸着石头过河”。

  • 大交易无法消除底层竞争,Sullivan称其为一种“大病”。他提出的、刻意“无聊”的替代方案,既拒绝击败中国,也拒绝幻想建立G2共治就能让竞争消失。

9. 战争与工作将检验机构能否适应

  • 乌克兰战场展现了“未来的片段”:大量可消耗系统改变战场规模;AI正在进入无人机平台,而人类仍处于决策回路之中;全自主武器如今已经可以想象。这场转型也延伸到情报、后勤和指挥控制。

  • Sullivan最大的军事担忧不是理念,而是组织能力。五角大楼、国会、官僚体系和国防主承包商,可能无法“以足够的规模和速度”采用AI,而解放军似乎准备得更好;这需要两党共同接受一次“当头棒喝”。

  • 尚未解决的国内问题是,在扰动发生之际,人们如何挣钱、养家并找到职业意义。Sullivan认为,AI令政策制定者格外不适,因为这项由私营部门主导的技术具有深远的国家安全影响,而预测区间又极其宽广;他的回应是完善社会保险和保持“能做成事的精神”,而不是否认问题。

  • Labenz的总体判断是,Sullivan克制的建制派务实主义,对管控竞争有帮助,但标准的国际关系剧本无法覆盖极端AI情景;他敦促人们为美国人提出更积极的未来愿景。