Anthropic 的网络安全冲击波、Ronan Farrow 与 Andrew Marantz 对 Sam Altman 的调查,以及一件好事
摘要
- Anthropic 尚未发布的 Claude Mythos Preview,可能标志着 AI 前沿转向自主发现漏洞。 Anthropic 声称发现了一个存在27年的 OpenBSD 漏洞,以及一个被500万次自动扫描漏掉的 FFmpeg 漏洞。通过 Project Glasswing,Anthropic 将向 Cisco、Broadcom、Microsoft、Apple、Amazon 等公司提供总额1亿美元的 Claude 使用额度,以便在可能到来的网络安全“清算”前进行防御性测试。
- 眼下的约束可能不是发现漏洞,而是修复漏洞的产能。 Kevin Roose 认为,资源充足的公司或许能找出并修复最关键的那1%软件,而未来约6个月可能迎来一轮大规模打补丁和重写代码的周期。老旧代码、人类审查员有限,以及客户更新缓慢,共同构成“人力瓶颈”。悬而未决的问题是:Mythos 消耗的究竟是有限的漏洞存量,还是能够持续发明人类从未想过的攻击链。
- 这次发布暴露出私人 AI 能力与公共监管之间的尖锐错配。 Kevin 表示,据他了解,美国政府曾将 Anthropic 视为供应链风险,并要求各机构停止使用 Claude,导致国家安全机构无法直接获得它们可能迫切需要的技术。Casey Newton 认为,一个足以迫使整个软件行业大范围重写的软件模型基本不受监管,“真的、真的让人不舒服”。
- Ronan Farrow 和 Andrew Marantz 对 Altman 的调查,通过证据累积而非单一铁证展开论证。 他们发现,数量极其庞大的人——包括与 Altman 关系密切、相识多年的联系人——指称他反复欺骗他人,其中一名未具名董事称 Altman “不受真相约束”;与此同时,报道也记录了真正的支持者,以及一场由 Elon Musk 的中间人传播未经证实材料的抹黑行动。
- 治理层面的爆炸性事实是,用来为 Altman 回归正名的外部调查没有产出书面报告。 尽管 OpenAI 是一家非营利机构,2023年解雇事件又牵涉广泛公共利益,但利益相关方拿到的只是约800字的公告,描述了一场模糊的信任破裂。Farrow 的直截了当的结论是:“根本没有报告”,因为调查过程被刻意留在书面记录之外。
- OpenAI 的关键人物风险看起来不再那么绝对,但治理风险仍未消失。 一些支持 Altman 回归的务实投资人告诉记者,如果当时掌握今天的信息,他们可能不会做出同样选择;Farrow 报道称,高管们曾不时讨论接班安排,Fiji Simo 被提及为潜在人选,尽管公司否认存在这些讨论。Casey 将有关 CFO Sarah Friar 被排除在财务规划之外的报道,与更大范围的模式联系起来:先设置护栏,再“熟练地绕开护栏”。
- 本期节目用2种截然不同尺度的惊叹,作为对 AI 权力集中的制衡。 Artemis II 搭载4名宇航员飞抵距离地球252,756英里的位置;年费25美元的 Acme Weather 则把概率预报和社区报告转化为闪电、日落、极光以及邻里彩虹提醒。它的产品命题谦逊得令人耳目一新:“如果我家附近有一道彩虹呢?”
精读
1. Anthropic 暂不发布前沿模型,为防守方争取先手
节目组破例处理这期内容,原因是 Claude Mythos Preview 虽已宣布,却被 Anthropic 刻意延后发布,打破了节目“要么发布、要么闭嘴”(ship it or zip it)的规则。Project Glasswing 得名于一种透明翅膀能让自己“藏在人群视线中”的蝴蝶,这也对应了该模型的设计目标:找出潜藏在整个软件栈各处、平时几乎不可见的漏洞。
Anthropic 转而向一个防御性测试联盟提供访问权限,成员包括 Cisco、Broadcom、Microsoft、Apple 和 Amazon——按 Kevin 的说法,几乎涵盖所有主要科技公司,唯独没有 OpenAI 和 Meta。公司将提供1亿美元的 Claude 使用额度,让包括 Anthropic 竞争对手在内的基础设施供应商,能在模型向更广泛用户开放前修补系统。
Casey 的解释是理性的责任规避:如果发布一种网络武器,让非专业人士能够找到 Linux 内核漏洞并接管机器,势必招致犯罪和国会听证。他承认,在经历与五角大楼的冲突后,这种安全立场可能提升 Anthropic 的品牌形象;但 Kevin 认为,把一个不准备公开销售的模型免费交给外部使用,是“糟糕透顶的营销策略”。
2. Mythos 据称发现数十年和数百万次扫描都未发现的漏洞
Anthropic 声称,Mythos 找到了 OpenBSD 中一个存在27年的漏洞。OpenBSD 是用于防火墙和路由器的开源操作系统,设计初衷就是抵御黑客攻击。真正惊人的地方不只是速度,而是这个漏洞在近30年的专业安全研究中一直未被发现。
第二个展示案例是 FFmpeg,这是一款广泛使用的开源视频软件。Anthropic 表示,自动化安全工具曾对其代码扫描500万次,却始终没有发现 Mythos 找到的关键漏洞;这几乎是一个非常干净的案例,说明推理系统能够从传统自动化反复失败的结果中提取有效信号。
Casey 说,网络安全专业人士15年来一直警告他,互联网是靠“唾沫和胶水”勉强粘在一起的。前 Yahoo 和 Facebook 安全负责人 Alex Stamos 给出的外部判断,让这个说法的分量陡增:自主系统现在已经能够串联出人类会漏掉、耗时太久才能发现,或根本没有时间调查的攻击链。
3. 打补丁的瓶颈可能比第一轮6个月冲刺持续更久
Stamos 提出了2种情景。乐观情景是,世界面对的是一份有限的关键漏洞清单,防守方可以逐一修补;更黑暗的情景是,Mythos 级系统能够持续发明陌生的攻击链,让问题不断扩张,直至可能触及超级智能门槛。节目主持人没有假装知道哪一种情景更有可能发生。
Kevin 认为,未来6个月内,每一款主要软件都可能需要打补丁、重写并重新发布,这一判断并非没有道理。集中资源或许能够守住最关键的1%——Linux、主要开源库、路由设备和网络设备——形成他所谓的“整个网络安全行业被迫重置”。
长尾问题会打破这一乐观时间表。维护者收到的漏洞和补丁提案,可能超过人类能够审查的数量;无数设备仍在运行老旧代码,必须等设备所有者最终更新固件。Kevin 举的典型失效点,是俄克拉何马州 Tulsa 一家中型企业里负责管理路由器的人——他可能只是把安装修复程序的时间往后拖。
Casey 让这个威胁变得具体:即便没有 Mythos 这种水平的模型,伊朗已经在攻击美国的水务和能源基础设施。因此,他担心的不是某个抽象的未来对手,而是现有敌对势力一旦获得同等能力后,可能拥有更大的杠杆。
4. 私人能力差距正撞上薄弱的公共监管
政府关系呈现出悖论:Kevin 表示,据他了解,本届政府曾试图将 Anthropic 定性为供应链风险,并要求联邦机构停止使用 Claude;与此同时,Anthropic 手里却握有一个可能对国家安全有价值的模型。就 Kevin 所知,美国政府无法接触这一模型;Casey 则将此与监管体系联系起来——上一届政府曾试图建立这套体系,但本届政府出于竞争力考虑将其废弃。
Kevin 将这一刻与2019年的 GPT-2 相提并论。当时 OpenAI 因担心虚假信息而将模型扣留数月,尽管 Casey 开玩笑说,它当时“连一首五行打油诗都写不好”。此后,内部能力与公众可获得的能力基本保持接近。Mythos 重新打开了这道缺口,Kevin 担心,即使克制发布是负责任的做法,保密本身也会放大公众的偏执与恐慌。
Casey 认为,Anthropic 的创立理念正在按预期运转:先打造最强模型,再利用自身的前沿地位,约束国内监控、自动化武器和漏洞扩散。他尚未解决的疑问在于其中的循环逻辑——为了引导这个危险的前沿,必须先“打造这个前沿,尽管它很危险”;但一旦能力泄漏,这个自我实现的预言可能就再也无法控制。
对个人用户而言,只要防守方仍有缓冲时间,Casey 不认为需要陷入恐慌。他给出的底线是做好传统安全卫生:使用 1Password 等密码管理器,为每个账户生成唯一的随机密码,并通过验证器应用启用多因素认证来保护邮箱和银行账户,而不是只依赖“8个字母”。
5. Farrow 和 Marantz 通过累积证据构建 Altman 案
Farrow 形容这篇超过16,000字的人物特写是刻意做到“法证式、甚至公平平衡”。一些读者读完后认为 Altman 构成严重危险;Farrow 的母亲读完则说:“你知道吗,我还挺喜欢他的。”记者团队广泛采访相关人士,并认真讨论是否纳入某些材料,尤其是在反方论据显示其可能不公平或过度煽情时。
但他们的核心发现依然是:数量极其庞大的人在与 Altman 交往后,哪怕双方关系亲密、持续多年,也指称他会在大事小事上撒谎。这里没有一个“偷吃被当场抓住”的决定性时刻。即便是那个略显滑稽的细节——Altman 声称自己每天都穿灰色毛衣,却有一天穿着绿色衣服出现——也说明这套论证依靠的是叙事上的证据累积,而不是一份秘密黑料清单。
记者将有事实依据的批评,与竞争对手之间的互相攻击区分开来。Farrow 说,Musk 的中间人传播了“相当辛辣、也相当缺乏依据的材料”,其中一些内容被夸大,或明显是假的。Andrew 表示,这种竞争烈度符合一种信念:谁先拿到权力之戒,谁就能控制世界。这场抹黑行动并不能抹去已有事实支撑的投诉,但确实让每个消息源背后的利益动机都变得更复杂。
6. 缺失的调查报告是治理层面的爆炸性事实
Andrew 说,他们的报道显示,Altman 并非像他和 Paul Graham 对外维持的说法那样,只是主动选择离开 Y Combinator。报道还显示,他与阿联酋和沙特王室的关系比外界此前了解的更深,并披露了 Ilya Sutskever 备忘录和 Dario Amodei 笔记中的细节。
当推动 Altman 离任的 OpenAI 董事会成员同意离开时,他们坚持要求一家外部律师事务所展开调查。OpenAI 是一家501(c)(3)机构,又是在一场具有公共影响的丑闻中走出来的公司,因此高管及其他利益相关方都期待,在这场调查后来被用来证明 Altman 回归合理之前,至少能看到一份详细摘要。
但 OpenAI 最终只发布了一份约800字的公告,称各方之间出现了模糊的信任破裂。Farrow 直接回答了这个持续已久的问题:“根本没有报告”,因为调查过程没有形成书面文件。一名由 Altman 协助选出的董事、也是调查监督者,如今表示书面文件并无必要。Farrow 指出,法律专家往往把刻意不写成报告视为危险信号。
最严厉的证词来自一名 Microsoft 高管和一名未具名董事,而不只是竞争对手。那名 Microsoft 高管认为,Altman 最终变成 Bernie Madoff 或 Sam Bankman-Fried 的可能性“虽小但真实”;未具名董事则称他“不受真相约束”,并指称他“几乎带有一种反社会人格式的漠视,不在乎欺骗他人可能带来的后果”。
7. Altman 的支持者将争论重新拉回 OpenAI 最初的承诺
Altman 的关系网络让忠诚始终流动:他估计自己投资了约400家科技公司,而创始人和投资人也反复出现在彼此的董事会中。Andrew 说,记者遇到的既有朋友,也有敌人;考虑到硅谷的“雇佣兵本性”,还包括曾经两者皆是的人——这有助于解释为什么人们的公开立场会随权力转移。
Farrow 发现,在那些支持 Altman 回归的务实型、增长导向投资人中,态度出现了有意义的变化。当时信息极少,而让 Altman 回归的上行空间显而易见,他们选择给予其疑点利益;如今几个人都表示,如果当时知道今天所知道的一切,“我不知道自己还会不会这么做”。
Kevin 的反驳是,Altman 确实拥有有判断力的支持者,也明显有能力把优秀人才团结到重大项目周围。正面评价往往来自私下,或来自与 Altman 有关系的人;但 Andrew 证实,真正的支持者确实存在,尤其是那些认为对不同受众说不同的话,本来就是创始人的常规行为。
Andrew 的反驳回到了最初的契约:OpenAI 把自己定位为一家非营利、以安全为导向的研究实验室,并承诺积极遵守监管。如果今天的辩护只是说,这就是“一家正常的竞争性企业”,那么最初相信它的人是不是太天真?Casey 补充道,关于 Satya Nadella、Sundar Pichai 或 Tim Cook 的讨论,并不会被长期的诚信问题定义。
8. OpenAI 的信任问题正演变为治理与接班风险
Farrow 同意,制度结构比任何一个人的个性更重要。OpenAI 的创始人自己曾警告不要出现“AGI 独裁”,这意味着个人诚信本就是其创立逻辑的一部分;但更大的失败在于,一个系统把具有重大影响的技术交给私人公司、公司内部控制机制,以及彼此“泼泥巴”的竞争混战。
Andrew 提到,人物特写截稿后不久,OpenAI 收购了科技聊天节目 TBPN,进一步增强了讲述自身故事的能力。记者还说,安全 fellowship 和治理公告集中在文章发布前后出现:Andrew 称治理方案“充满 AI 味道且虚无缥缈”,Farrow 则表示,这些公告意在占据与调查报道相同的公共讨论空间。
经济激励进一步放大了治理问题。Andrew 回忆,Altman 曾承认 AI 存在泡沫,“总会有人损失一大笔惊人的钱”。这个周期是否会走向破坏性后果,并不独立于领导层的言辞:泡沫能涨到多高,部分取决于那些推销未来的人有多激进地周游世界兜售这套叙事。
一名前同事概括的反复模式是:先打造复杂的护栏,再设法绕开护栏。Casey 将这一点与有关 CFO Sarah Friar 被排除在部分财务规划讨论和一些关键会议之外的报道联系起来;报道还称,她怀疑 OpenAI 今年能否做好 IPO 准备。Farrow 补充说,高管们曾不时讨论接班问题,Fiji Simo 被提及为潜在人选,尽管公司否认存在这些讨论;此后 Simo 因健康原因休假。Andrew 如今认为,没有 Altman 的 OpenAI 并非不可想象,更像是从 Steve Jobs 到 Tim Cook 的交接,而不是公司走向灭亡。
9. Artemis II 与 Acme Weather 让人重新感受一种更小尺度的惊奇
Kevin 选的“一件好事”是 Artemis II:4名宇航员 Victor、Christina、Jeremy 和 Reid 飞行252,756英里,超过此前任何人类抵达过的距离。《纽约时报》把这个距离换算成23.7亿根 Nathan’s Famous 热狗,Casey 带着讽刺说,这个比较确实很容易想象。
和孩子一起观看任务直播时,Kevin 学会了“terminator line”——分隔月球明亮区域与黑暗区域的明暗界线——以及应当说“远侧”而不是“暗侧”。这次任务如此强烈地唤回了“孩童般的喜悦与惊奇”,以至于他认为,NASA 应该获得把人类每年送上月球所需的任何预算。
Casey 选择的 Acme Weather 让 Dark Sky 原班团队 Adam Grossman、Josh Reyes 和 Dan Bruton 重聚。Apple 于2020年收购了此前的应用,并在2022年将其关闭;Acme Weather 目前已登陆 iOS,Android 版本计划推出。它展示的是预报区间,而不是虚假的确定性,让用户看到基础信号何时真正指向大幅温度波动。
年费25美元的订阅包含闪电、绚丽日落、未来12小时内降水、高紫外线、极光和彩虹提醒。彩虹检测采用类似 Waze 的社区上报机制:当足够多的邻居提交目击报告后,Acme 会提醒那些困在办公室里的用户走到户外,“见证造物的壮美”。