(预览)Anthropic 乱局仍在继续:前沿 AI 与法律的不确定未来,Netflix、约会应用、F1 问答
摘要
Anthropic 与五角大楼的决裂,与其说是已经落定的禁令,不如说更像一场充满变数的谈判。 特朗普政府取消了1份国防合同,提议在“未来大约6个月内”逐步将 Anthropic 排除出政府机构;Pete Hegseth 还威胁实施更广泛的限制,称任何与美国签有合同的人都不能与 Anthropic 合作,但1周后这一威胁仍未落实。Dario Amodei 的愤怒备忘录泄露数小时后,《金融时报》报道称双方重新展开谈判。
Ben 的核心判断是,前沿 AI 可能成为独立的权力来源,而把财产权视为不可改变,可能是一种危险的自满。 法律是人造制度,最终由政府的强制力背书;足够强大的 AI 可能成为“终极武器”或“最锋利的刺刀”。因此,一个受到威胁的国家可能抛弃 AI 实验室原本指望它来保障的那些权利。
负面后果不只是失去合同:这场对抗可能诱使一个表面上民主的政府违反自己的法律。 Andrew 问,实验室会不会在未经同意的情况下被国有化并武器化;Ben 称这“可以说是一个乐观结果”。他明确担忧的是法西斯主义——制造一种让法律执行者认定“法律无关紧要”的局面。
从商业角度看,Anthropic 的拒绝可能增强而非耗尽它的“策略信用”。 五角大楼实际上是在公开展示自己有多么需要 Anthropic 的技术;这一立场应能吸引认同其立场的 AI 人才,而 Ben 认为,在用户纷纷删除 OpenAI 的背景下,Claude 整整一周都位居 App Store 第1名。Andrew 的反驳是,疏远政府仍可能在未来1-2年损害这门生意。
Ben 认同 Anthropic 对国内监控的担忧,但不接受供应商逐案决定政府如何使用技术。 隐私规则建立在监控存在摩擦的假设上;如今计算机已经可以“窃听所有人”,AI 则能以巨大规模分析由此产生的数据。他倾向的解决方案是制定尽可能清晰的指引,再由政府律师决定“放行还是叫停”,无需 Anthropic 许可。
Amodei 泄露的备忘录之所以具有治理信号意义,是因为其中的道德确定性可能暴露出 Ben 所担心的前沿实验室盲点。 Amodei 将 Anthropic 遭遇的这一切归咎于没有给 Trump 捐款、拒绝“独裁者式赞美”,以及所谓 OpenAI 的“安全剧场”。Ben 认为这份备忘录观感糟糕,且对他人心理的判断不准确。令人不安的模式在于,他们坚信“我们”独自理解代价、收益和公共利益,因此应该替所有人作决定。
两位主持人都预计最终会妥协,但 Ben 不愿人为制造关于 Anthropic 最终走向的确定答案。 对一位听众认为《国防生产法》让政府拿到“绝大多数筹码”的说法,Ben 回应:“我不知道。我可以推测,但对此有所保留。”不过,Amodei 在 Morgan Stanley 的 TMT 会议上语气更为缓和,Ben 认为协议可能在播客正式发布前就达成。
精读
1. Anthropic 的决裂局面可能正在回到谈判轨道
Andrew 开场盘点:特朗普政府取消了 Anthropic 的国防合同,并提议在“未来大约6个月内”逐步将其排除出政府体系。Pete Hegseth 还威胁要将这家公司列为供应链风险;Ben 说 Hegseth 更进一步,称任何与美国签有合同的人都不能与 Anthropic 合作。1周后,这项更广泛的威胁仍未实施。
Amodei 的备忘录写于周五,正处在“情绪最激烈的当下”,但直到周三才泄露。他把 Anthropic 遭到的对待归咎于没有给 Trump 捐款、拒绝“独裁者式赞美”、支持监管,以及坚守自身红线,而不是为了员工利益参与所谓的“安全剧场”;他称另一套说法是“煤气灯式操控”。
Ben 的结论是两面的:这份备忘录“观感不佳”,暴露出对他人心态的误判,但也印证了他长期以来对 Anthropic 盲点的担忧。备忘录泄露4小时后,《金融时报》报道称五角大楼与 Anthropic 的谈判重新启动;Andrew 后来表示预计会有某种妥协,Ben 也认为这很可能发生。
2. 前沿 AI 可能挑战国家的权力垄断
Ben 的原则是:“假定每个人都很聪明,然后弄清楚他们为什么会做蠢事。”他的回答是:Anthropic 以及更广泛的有效利他主义圈层,常常设想一个 AI 包办一切、人类不再有价值的未来,却默认现代意义上的财产权观念不知为何会一成不变。他指出,自己与 Gregory Allen 的访谈可提供有用背景,但 Allen 并不完全认同他的观点。
回到 Hobbes 和 Locke 的讨论,两位主持人都强调,财产权是法律构造,由据称维护这些权利的政府赋予强制力。Ben 更尖锐的表述是:“法律在刺刀尖上形成,国家在刺刀尖上建立。”
如果 AI 自身成为一种权力来源,Ben 说,政府可能因感到受威胁而侵犯财产权——不只是因为它想要这项技术,也因为它担心失去对暴力的垄断。Andrew 问,这是否意味着前沿实验室可能在没有参与决策的情况下被国有化、武器化;Ben 回答是,并称这“可以说是一个乐观结果”。
Ben 的关键澄清是:他并不是在 Palmer Luckey 这个话题上主张,民主国家的领导人只需自行决定即可。他担心的是,当 AI 的能力达到今天的100倍或1,000倍时——这“可能很快就会到来”——目标错位会让政府产生转向反民主的动机,进而“彻底摧毁财产权这一概念”。
3. Anthropic 的道德立场在商业上有号召力,但在制度上有风险
谈到“策略信用”,Ben 认为这场对抗可能反而有利于 Anthropic 的主业。五角大楼传递出的信息近乎是:“我们要禁掉你,因为我们实在太想要你了”;与此同时,Anthropic 应能吸引认同其立场的 AI 人才,而 Ben 认为 Claude 整整一周都位居 App Store 第1名。
Andrew 的反驳值得保留:疏远政府可能在未来1-2年拖累 Anthropic。Ben 认为更深层的风险是:即便公司自身行事得当,Anthropic 仍可能促使国家采取糟糕行动,动摇“美利坚合众国最根本的合法性”。
在国内监控问题上,Ben 大体认同 Anthropic:为一个调查存在现实阻力的世界制定的规则,在计算机可以“窃听所有人”、AI 又能以巨大规模分析由此产生的数据的情况下已经不够用。但“一切都是取舍”;他希望有清晰的指引和政府律师审查,而不是让 Anthropic 对每个个案都有发言权。
4. 对前沿实验室而言,危险在于道德确定性,而非口头宣称的善意
在一位听众提出《国防生产法》“不算拿到了全部筹码”,但“拿到了大多数筹码”的说法后,Ben 被问及 Anthropic 为何仍公开划出红线,坦率地回答:“我不知道。我可以推测,但对此有所保留。”他的怀疑集中在他所看到的 EA 式姿态上:“我们是世界上最聪明的人”,因此“我们应该替所有人作决定”。
这些 AI 实验室假定,AI 必须“为了所有人的福祉”而被使用;但当 Ben 追问谁来界定这种福祉时,隐含的答案总是:“我们来决定。”他谨慎地加以限定——“我不是说他们已经走到那一步”——但仍看到了这种危险的“影子”:有些人确信自己代表善,以至于反对者变得可以牺牲。考虑到这项技术潜在的力量,Amodei 的“狂热”尤其令人不安。
5. 反弹把制度分析与政治站队混为一谈
Ben 说,党派性批评者和 EA 阵营的批评者,往往都把他的论点简化成是否与 Trump 或政府站在一起,继而给他扣上“法西斯”“跪舔者”的帽子。讽刺之处正在于:“我担心的正是法西斯主义”——具体而言,是政府对 AI 的恐惧超过了对人造法律的顾忌,因而放弃自我约束。
他拿特朗普第1任期的网络中立之争作类比。Ben 支持网络中立,但反对套用 Title II 的遗留官僚体系,认为这会限制宽带投资。那篇文章最初题为“为什么 Ajit Pai 是对的”,后来他改了标题;他收到数千条——甚至数万条——回复和死亡威胁。许多批评者后来反而支持由平台决定哪些内容可以发布,而文中引用的推文却消失了。
现在之所以必须正视这一问题,更大的原因在于时机。Ben 说,2026年,赌注仍低到足以让人展开辩论,甚至嘲笑过度反应;但如果指数增长曲线最终兑现,这场冲突可能演变为政府与 AI 公司之间的对抗,无论白宫由哪个党派执掌。