OpenAI 对决 Anthropic:五角大楼如何选定合作伙伴
摘要
- Anthropic 选择了2项不可谈判的安全底线——不得进行大规模国内监控,不得部署完全自主武器,即使代价是失去联邦业务。 2月26日,Dario Amodei 表示:“这些威胁不会改变我们的立场。我们无法问心无愧地接受他们的要求。”随后,Trump 下令联邦政府在6个月内停止使用 Claude,国防部长 Pete Hegseth 则指示将 Anthropic 列为供应链风险。
- 这项供应链措施可能带来足以关乎生死存亡的惩罚,但截至录制时,其正式法律地位仍不确定。 Hegseth 表示,任何军方承包商、供应商或合作伙伴都不得与 Anthropic 开展商业活动,但主持人看到的只有他的社交媒体帖子,并非送达公司的正式程序文件。Anthropic 表示将通过诉讼抗辩。
- OpenAI 宣布达成协议,将模型部署到五角大楼的机密网络,同时声称保留的基本底线,正是 Anthropic 因坚持这些底线而遭惩罚的内容。 合同未公开,眼下有2种解释:要么官员是在对 Anthropic 展开政治性报复,要么 OpenAI 通过法律措辞接受了实质性让步。Casey Newton 的判断是,除了国防部长之外,局中几乎没人知道究竟是哪种解释。
- 这场争端的关键,在于“所有合法用途”能否在 AI 和隐私法让大规模监控行为保持合法的情况下保护美国人。 联邦机构可以合法地从数据经纪商处购买数百万美国人的数据,并可能将其输入 AI 系统进行大规模分析;Casey 称这种行为在“功能上等同于”国内监控。他的框架是:“这就是整场博弈的核心。”
- OpenAI 提出的“安全栈”或许能让员工得到安慰,却未必能解决数据来源的根本问题。 模型不一定能判断个人数据是通过合法方式收集,还是从数据经纪商处购买;知情人士将这些防护措施称为“安全剧场”。这意味着员工审查、内部抵制以及最终吹哨,将承担非同寻常的分量。
- 对投资者而言,这一事件将政治站队从声誉层面的噪音,提升为实质性的交易对手风险和平台风险。 Trump 的一名前官员将针对 Anthropic 的行动称为“谋杀企业未遂”,Kevin 则认为,这可能是本世纪联邦政府对一家美国大型企业采取的最严厉行动。早期消费者反应可能朝相反方向发展:一些用户正从 ChatGPT 转向 Claude,其中包括购买 Claude Pro 的 Katy Perry。
精读
1. Anthropic 的安全底线触发非同寻常的联邦威胁
Kevin 将升级节点定在2月26日星期四,距离五角大楼最后期限只剩1天。Amodei 拒绝在大规模国内监控和完全自主武器问题上妥协:“我们无法问心无愧地接受他们的要求。”
Trump 周五深夜发表声明,下令所有联邦机构停止使用 Anthropic 技术,并允许在6个月内完成过渡。由于声明没有提到供应链认定,也没有援引《国防生产法》,Casey 起初认为,政府或许会“从整场闹剧中抽身,设法挽回一些颜面”。Casey 表示,援引《国防生产法》将实际把 Anthropic 国有化或部分国有化,并迫使其制造一个按政府意愿行事的 Claude 版本。
1个多小时后,Hegseth 进一步升级行动:“立即生效,任何与美国军方开展业务的承包商、供应商或合作伙伴,都不得与 Anthropic 开展任何商业活动。”截至录制时,Casey 的限定至关重要:尚未出现正式程序文件,而 Anthropic 表示将提起诉讼。
2. OpenAI 获得一份保护条款仍无法核实的协议
在周四一则表达对 Anthropic 声援的泄露消息之后,Sam Altman 周五宣布,OpenAI 将把模型部署到五角大楼的机密网络中。OpenAI 坚称,协议包含同样针对大规模国内监控和自主武器系统的限制。
Casey 认为,冲突源于五角大楼要求实现“所有合法用途”。在缺乏有实质意义的 AI 监管或全国性隐私法的情况下,Anthropic 认为,仅仅要求合法并不能构成足够的安全保障,反而会让危险做法继续存在。
Kevin 仔细解读 Altman 的声明后发现,其中存在解释空间:五角大楼“同意这些原则,将其体现到法律和政策中,而我们把它们写入协议”。Amodei 表示,Anthropic 也曾获得类似让步,但随附的“法律术语”会让这些承诺失去效力。
Casey 提出了2种尚未解决的解释:官员可能出于意识形态或个人原因对 Anthropic 展开报复,包括外界报道的 Emil Michael 与 Amodei 之间的积怨;也可能是 OpenAI 接受了 Anthropic 拒绝接受的条件。答案或许就在尚未公开的合同中。
3. 合法购买数据暴露技术护栏的弱点
Casey 举的具体例子,是联邦机构再次对潜在移民展开社交媒体全面抓取。官员可能否认这属于监控,但如果 AI 能够实时审查每一条帖子,二者在实际操作上的区别将越来越空洞。
数据经纪商可以合法汇总数百万美国人的信息,联邦机构也可以合法购买这些数据。Casey 认为,这种安排不符合国内监控的法律定义,但在实践中“功能上等同于”国内监控。将这些数据输入模型,也无法让模型可靠判断数据究竟是如何取得的。
OpenAI 告诉员工,公司相信自己通过模型层面的“安全栈”赢得了更强的保护。Casey 回忆称,涉及 Bryan Cranston 的 Sora 防护措施此前也曾被承诺,却未能按时落地;Kevin 的消息人士则将这份新方案称为“安全剧场”。
主持人认为,问题不只是合同纠纷:强大技术究竟由谁控制——开发它的人,还是部署它的军方和政府?
4. 政治忠诚正成为开展业务的前提
Trump 前官员 Dean Ball 将这场施压行动称为“谋杀企业未遂”。Casey 将其背后的治理逻辑比作中国对待科技公司的方式:与党保持一致,否则就可能被碾碎。
Kevin 判断,这项受威胁的行动“以相当大的幅度”成为本世纪以来、或许是有史以来,对一家美国大型企业最严厉的惩罚。他将这种寒蝉效应与硅谷的右转联系起来,并举例称 Tim Cook 为 Trump 制作金色奖杯,Greg Brockman 则向超级政治行动委员会捐款2500万美元。
OpenAI、Google DeepMind 以及其他实验室的员工签署联名信,支持 Anthropic 的立场。Casey 认为,这种行动具有实际意义,并希望员工能够拿到合同、仔细审查其中内容;如果实际部署接近国内监控,也应当吹哨。
Casey 将监管俘获的指控用于 OpenAI:它凭借“感觉、魅力”和政治关系,进入了一场涉及其最大竞争对手的争端,最终接受了这样一个事实——政府业务要求企业按照政府的条件运作。“这就是监管俘获。”
5. Altman 的信誉与 Anthropic 的道德立场正面临真正考验
Casey 强调了 Altman 爬上的那根“树枝”:他的前同事批评他会对不同的人说不同人想听的话,这一批评与他在2023年被解雇的经历有关。Casey 希望 Altman 确实守住了2条底线,但担心天真或欺骗可能让监控现在发生,并在或许3年或5年后出现“自主杀人机器人”。
Kevin 提出了3个未决问题:供应链认定是否会正式落地、会约束哪些对象;OpenAI 接受了哪些 Anthropic 不愿接受的条件;以及消费者会作何反应。一个早期信号是 Katy Perry 发布了自己刚购买的 Claude Pro 套餐,并配上1颗红心。
Amodei 长期以来都会给员工《原子弹的制造》,因为他相信,先进 AI 对国家安全和全球秩序的重要性,可能不亚于核武器。Kevin 的结论是,这正是 Amodei 预料中的道德冲突:政府希望以“他们的条件”获得强大技术。