Anthropic 的 Fable 反噬、AI 国有化、通胀升温与加州失灵的选举

摘要

• Anthropic 的 Fable 5 可能在几乎所有基准测试中登顶，但其 30 天数据留存和针对用户的能力降级，把模型质量变成了企业治理风险。 Chamath 警告，员工或科学家可能在不知情的情况下触发安全机制，从而失去关键能力；Sacks 则强调，即使客户签订了零数据留存协议，Anthropic 仍可能保留提示词、输出、文件、记忆和上下文。此次有限度的回撤——只是告知用户自己被降级——并没有消除底层的用户画像或能力把关：「他们正在制造一个新的 AI 有产者与无产者阶层。」

• 小组预计，受限的闭源模型将加速本地部署、定制模型开发以及对开源算力的需求——目前中国供应商占据优势。 Friedberg 表示，Anthropic 对生物学用途的限制已经干扰 Ohalo 的基因组建模、遗传构建设计和 RNA guide 工作，本地运行的开源模型很可能成为替代方案。Chamath 将电力视为真正的硬约束：他计划中的容量已从 2 GW 扩至接近 3 GW，但估算成本却从每吉瓦约 40亿-50亿美元升至 1000亿美元——「没有电力，这一切讨论都没有意义」。

• 讨论中最有力的安全折中方案，是监管危险的物理输出，而不是暗中限制通用智能的访问。 Friedberg 承认，模型可以助力网络、物理和生物武器研发，但同样的能力也能治愈癌症、改善粮食生产并成倍提升软件产出；「这些工具本来就是一体两面」。讨论将 KYC 等访问控制，与核酸合成筛查等下游控制进行了对比：后者自 2009 年起就有实验室自愿执行安全措施，如今已支持强制记录留档。

• Bernie Sanders 提议征收 50% 股权税，暴露了 AI 高管反复告诉公众其产品将消灭工作的政治代价。 Sacks 反对强制没收，但理解这种反弹：企业用人类积累的知识训练模型，预测 50% 的工作岗位会消失，然后又对由此产生的能力设置门槛，普通美国人自然会问：「这笔交易对我有什么好处？」Friedberg 提出的替代方案是投资而非征收——把 Social Security 信托基金中 4万亿美元的债权转化为公民账户，持有美国生产性企业的股权。

• Friedberg 认为 AI 带来的是收入和招聘繁荣，而不是劳动力替代事件；小组也谨慎区分了几位 CEO 彼此不同的预测。 他说，AI 被用于创造产品的频率是削减成本的「100 倍」，一名工程师可能完成 100 倍甚至 1000 倍的工作；他自己的团队还申请新增 15 名工程师。Sacks 对比了 Elon 所描述的遥远丰裕社会和「全民高收入」终局、Dario 关于未来 1-5 年初级知识工作者减少 50% 的具体预测，以及 Sam Altman 最近的说法——实际观察到的失业并没有达到预期。

• 5 月通胀数据构成了本期最明确的宏观风险：CPI 同比升至 4.2%，PPI 升至 6.5%；如果伊朗冲突引发能源冲击，商品价格可能进一步大涨。 Friedberg 设想，在 Kevin Warsh 领导的美联储下，隔夜利率可能升至 5.5%-6%；Chamath 的尾部情景是，中国重新入场、每天额外购买 300万桶石油，油价从低于 100 美元升至 150-200 美元。Sacks 认为这组数据基本符合预期，且市场仍在上涨；Jason 和 Chamath 则认为 Nasdaq 上涨 2.5% 可能是在交易局势解决，而不是失控的通胀螺旋。

• 洛杉矶市长选举计票引发了尖锐但未有定论的争论：宽松的选举规则究竟只是看起来脆弱，还是确实促成了腐败结果。 小组指出，Pratt 的现场投票占比从 35% 降至选后邮寄选票中的 19%，而 Raman 则从现场投票的 26% 升至 37%；Friedberg 称其为「任命制度」，Sacks 称其歪曲，同时也表示「现在」没有欺诈证据。Jason 主张展开调查，不能把差异本身当作证据；Friedberg 和 Sacks 则主张实行选民身份证、清理选民名册、收紧选票保管链条，并减少未经请求寄出的选票。

精读

1. Fable 5 跑赢基准测试，却击穿信任层

• Jason 将 Fable 5 介绍为 Mythos 级 Anthropic 模型，几乎横扫所有基准测试，但 token 价格是 Opus 4.8 的 2 倍。Anthropic 的经济学逻辑是，更强的推理能力应当总体消耗更少 token；这是否真的能缓解 token 成本压力，仍不清楚。

• 此次发布之前，Anthropic 在 4 月决定不广泛发布 Mythos，理由是其具备黑客攻击能力。Palo Alto Networks CEO Nikesh Arora 称 Opus「货真价实」，其公司已用它修复漏洞；而 Fable 5 上线时，生物武器和黑客攻击话题被屏蔽，前沿 AI 研究也受到额外审查。

• 真正的运营层面意外是强制留存：Anthropic 将至少保存提示词 30 天，并判断用户是否在进行前沿 AI 研究。原始政策可能在用户毫不知情的情况下将这类用户切换到较弱模型，而相关机制藏在一份 319 页文件的深处。

• Anthropic 的部分回撤只是增加可见性，并没有恢复访问权限：公司会告知前沿 LLM 开发者自己何时被安全机制降级。Chamath 的两面评价概括了本期基调——这是「令人难以置信的模型」，公司也在「全力开火」，但它同时附带审查和治理风险，可能让它成为严肃企业的禁用选项。

2. 企业采用模型，前提是多样化与退出选项

• Chamath 对企业最大的担忧，是意外的依赖故障。科学家、高管或下游 API 用户可能在不知道原因的情况下触发 Anthropic 的分类器，突然失去「非常重要的业务差异化来源」；因此，企业需要控制权、供应商多样性，以及能够消除单点故障的治理机制。

• 他对 Anthropic 的直白评价是：「他们讲真话」——但「当你真的接受它、把它吃下去时，这个真相很糟」。个人面对的是审查风险；企业面对的则是更广泛的禁用问题，包括业务连续性、专有数据控制、不可预测的权限，以及不确定谁会从其信息中学习。

• Friedberg 表示，Ohalo 的服务条款名义上禁止模型使用客户工作内容训练，但当被问到自己是否信任这一承诺时，他的坦率回答是：「我不确定。」尽管如此，公司仍将 LLM 用于专有基因组学工作：预测基因表型、设计 RNA guides，以及设计能够生成特定蛋白质的遗传构建体。

• 这些工作流过去对科学家而言既有很高价值，速度也很快，但过去几周新增的生物学限制正在移除有用能力。他预期的应对方式很直接：在本地运行开源模型，将其与 Ohalo 的数据结合，并建立内部基因组语言模型和预测模型。

3. 安全限制正在把需求输出给中国开源模型

• Friedberg 的因果链条非常清晰：美国闭源实验室限制科学用途；企业仍然需要这些能力；美国开源模型落后；因此企业转向中国开源模型并在本地运行。他表示，这一迁移已经在初创企业和大型企业中显现。

• 竞争风险并不只是模型收入。如果美国实验室和政界施加其他国家没有的约束，中国就能在生物科技、材料科学和工业系统上叠加优势；美国企业则会失去生产率，最终由劳动力承担代价。

• 他的反对意见是绝对的：「你不能就这样停止 AI。」政治或社会层面试图压制 AI，并不会让这项技术消失；只会「把某个其他人的手逼出来」，把美国企业主动放弃的优势拱手让给外国供应商。

• Jason 认为，本地推理之外还有第二个落点：企业会从一个开放基础模型开始，加入专有信息，并拥有这个专业化模型。Friedberg 确认，这正是 Ohalo 计划采取的路径。

4. 用户画像叠加监管，可能把安全变成市场控制

• Sacks 重申了自己 8 个月前的指控：Anthropic 正在推进「一场建立在恐慌营销之上的高度复杂监管俘获运动」。在他看来，Fable 争议已让这一观点从少数人的尖锐立场，逐渐变成开发者共识。

• 他所描述的强制监控远不止提示词和回答。Agent 系统会向模型传递记忆、文件和大量上下文；Anthropic 将保存这些材料 30 天，构建用户画像，并据此决定客户配得上哪些能力——即使企业客户此前已经谈妥零留存。

• Sacks 认为，原始机制最具欺骗性的地方在于：它可能在用户不知情的情况下改写提示词，或将请求转给较弱模型，却仍按前沿能力收费。如今降级会伴随披露，但公司依旧决定谁「配得上」这些能力；讨论中举出的例子包括一条线粒体查询，以及 Ben Thompson 关于 GLP-1 与癌症风险的问题。

• Sacks 用假设性的商业交易说明了更隐蔽的风险：偏袒 Novartis 而非 Eli Lilly，或偏袒 JPMorgan 而非 Citibank；这些例子由 Jason 补充。如果没有保存精确模型运行结果的指纹，监管机构和客户可能永远无法证明信息究竟是被有意削弱，还是遭到操纵。

5. 如果替代方案也被监管掉，自由市场辩护就失效

• Jason 对自由市场的反驳是，有偏见的模型应当像付费植入内容的搜索引擎一样被淘汰，用户会转向更好的产品。他愿意接受 Anthropic 施加私人限制，因为客户可以选择其他供应商。

• Sacks 的反驳是，Dario 同时还主张设立一个类似 FAA 或 FDA 的机构来审批模型。如果监管阻断竞争者——尤其是开源模型——市场就无法约束 Anthropic；用户可能只剩下 1-3 家获批公司，在旋转门式监管机构旁形成垄断或双寡头格局。

• 小组认为，监管开源模型正是预期中的咽喉点：去中心化权重无法像集中式 API 那样轻易监管。因此，一边要求监管模型，一边实施监控和反竞争式降级，在他们看来就像是「针对你在本地机器上刷 token 的先发制人攻击」。

• Jason 称，没有真正的 KYC 才是「破绽」。Sacks 表示，Anthropic 完全可以识别用户、收取安全保证金，并允许经过披露的企业申请未降级访问。Friedberg 则反驳说，账户和信用卡已经提供了一定程度的基础 KYC；Sacks 不接受这一说法，认为那不过是邮箱地址加支付方式。

6. 开源 AI 正成为一笔基础设施交易

• Chamath 与合作伙伴在 Arizona 买下了 2000 英亩土地，获批建设一座 2 GW 数据中心，原本计划将项目转手给 Blackstone、Brookfield、Google 或其他开发商。但他正在重新考虑，因为大多数兆瓦仍服务于大型专有实验室，开源模型生态能够获得的算力相对有限。

• 他还在其他地方竞标约 1 GW 的容量，考虑建设 3 GW 的开源算力。障碍在资本：项目最初估值约 40亿-50亿美元，按他的估算，如今已变成每吉瓦 1000亿美元——完整建设需要 3000亿美元。

• Friedberg 提出的工作样本是 Arc Institute 的开放基因组语言模型，它吸收了能够获取的基因组数据。就像判断「好的英语还是糟糕的英语」，该模型会推断一串 DNA 字母序列在不同生物体中是否合理；Ohalo 已将其用作植物育种的输入。

• Friedberg 表示，一旦开放权重模型出现，副本就会像印刷书籍通过 Xerox 机器复制一样扩散。因此，Meta 未能做出一款旗鼓相当的开源模型，是一次战略失误：一款强大的美国开源模型本可以将能力商品化，并压缩闭源竞争者的利润空间。

7. 严肃的安全控制应更接近危险输出

• Jason 为 Dario 提供了最强版本的辩护：Dario 可能确实看到了令人恐惧的能力，于是先不发布 Mythos，将其交给选定的网络安全合作伙伴，再在监测滥用的同时逐步发布 Fable。误报可能会把 Friedberg「试图培育更好的土豆」也拦下来，但客户仍可以自由选择不使用该模型。

• Friedberg 通过 Manhattan Project 的类比接受了双重用途前提。模型可以帮助制造网络、物理或生物武器，但同样的智能也能治愈癌症、生产更多粮食、提高收入，并让个人建立企业：「这些工具本来就是一体两面。」

• 他提出的边界应当设在现实呈现，而不是知识本身。产品责任规则以及现有的武器、黑客攻击、间谍活动和生物武器禁令，都可以通过追踪和分阶段闸门加强；一开始就限制通用系统，会牺牲科学与经济上行空间，却无法收回已经「开箱」的技术。

• 肥料提供了一个现实折中：危险供应可以要求身份识别，但不必禁止通用知识。Sacks 提到核酸合成筛查：主要实验室依据 2009 年一项联盟协议自愿执行；运行超过 15 年后，签署方已经支持在实际订单环节强制筛查并留存记录。

8. Anthropic 自己的产品演示，让批评变得具体

• 在讨论肥料监管时，Jason 向 Fable 5 提问，看到模型将他判断为「VC 和播客主持人」，认为他可能具有合法的政策兴趣，随后将其降级。之后他又提出一个有关核武器部件的问题，尽管明确标注为新闻研究，模型仍切换到了 Opus 4.8。

• Anthropic 的界面解释称，Fable 的措施可能会将涉及网络安全或生物学的「安全、正常内容」标记出来，以便 Mythos 级能力在其他地方更早发布。Jason 表示，这些限制会把用户赶走；Friedberg 此前已经说明 Ohalo 正在转向开源模型。

• Sacks 警告，「安全」可能像 2020 年代初的社交媒体战争一样不断扩张——从身体伤害扩展到微侵犯、心理安全、取消银行服务，以及被排除在支付体系之外。AI 用户画像的后果更大，因为它管理的不只是言论分发，而是对生产性智能的访问。

• 辩论最终落在不可逆性上：「你无法关掉互联网，也无法就这样关掉打字机，也无法关掉 Gutenberg 印刷机。」已经发布的开源模型无论美国监管机构之后提出什么要求，都可以被复制、微调和继续演化。

9. Sanders 的 50% 提案，是 AI 领袖主动招来的反弹

• Senator Bernie Sanders 提出的 American AI Sovereign Wealth Fund Act，将对 OpenAI、Anthropic 和 xAI 等大型 AI 公司征收一次性 50% 的股票税，征税对象是股权而非利润。公共基金将获得投票权和同等董事席位。

• Sanders 的道德主张是，AI 建立在「我们集体的、人类的智能」之上：书籍、歌曲、新闻、科学和代码都由社会贡献，随后却被少数富有的所有者有效拿走。Jason 将这一提案描述为一个马蹄形联盟：主权财富基金理念能够跨越不同民粹派别吸引支持者。

• Sacks 认为强制没收会构成不可接受的财产权先例，但仍同情其政治逻辑。AI CEO 用人类积累的知识训练模型，警告 50% 的人可能失去工作，却没有提供明显的参与方式；公众可预见的回应就是：「这笔交易对我有什么好处？」

• Anthropic 和 OpenAI 的公益公司身份进一步放大了矛盾。如果它们的董事会需要在股东价值与公共利益之间取得平衡，Sacks 认为偿还国债也可能算作公共利益。Jason 则表示，它们的「Frankenstein」式宣传也让没收变得更容易：如果这个怪物真的具有生存级威胁，那就「停止制造 Frankenstein」。

10. 公民持有的股权基金，是资本主义版本的替代方案

• Friedberg 提议重构 Social Security，而不是没收财产。他表示，其信托基金实际上只包含一张价值约 4万亿美元的特殊 Treasury certificate，因为它可能只能持有政府债务；这种固定收益结构应当改造成归属于个人、由投资资产支持的账户。

• 基金可以购买包括 AI 公司在内的美国生产性企业股权，以新资本换取股份并注入企业。这些凭证将进入公民账户，使广泛持股成为一项投资，而不是「没收」。

• Chamath 称这一提案天才十足——因此在政治上不太可能实现——但支持加拿大和 Australia 的模式。美国主权基金可以用政府现有的关键金属和材料资产组合启动；小组还提到 Intel、Micron、AMD、SpaceX 和前沿 AI 公司。

• 他的谈判立场比 Sanders 更激进：由于 AI 公司依赖不可替代的基础设施和国家韧性，他表示，如果自己负责运营该基金并直接谈判，最终可能「拥有这些公司 75% 的股权」。

11. AI 的劳动力曲线与成本曲线，指向相反的政治方向

• Sacks 用本期 5 月数据反驳眼下的就业末日论：新增就业 17.2万，超过经济学家预期的 2 倍；失业率为 4.3%；建筑业新增数十万个岗位；软件开发就业处于 3 年高位。

• Friedberg 将企业拆成成本端和收入端。AI 确实能削减成本端的部分劳动力，但与创造收入相比，这一效果只是名义上的：一名工程师可以生产多 100 倍或 1000 倍的产品，而他的工程负责人还申请新增 15 名员工，以推进过去无法实现的工作。

• 这些预测不能混为一谈。Elon 描述的是一个可能很遥远的丰裕社会，机器人普及、工作变成可选项，并实现「全民高收入」；Dario 预测未来 1-5 年初级知识工作者减少 50%；Sacks 则说 Sam Altman 最近承认自己错了，因为数据并没有显示出预期的就业损失。

• Chamath 将 AI 与互联网的零边际成本进行对比：每增加一名 AI 用户，就会消耗 GPU、电力和内存。这种基础设施依赖支持公共持股的论点；Jason 则反驳说，本地运行的开源模型可以以不同方式摊薄固定成本，削弱中心化收费站。

12. 规模统计偏爱已经跨过重大门槛的公司

• Thomas Laffont 的 Liquidity 演示提供了一个反直觉的投资结论：只有 8% 的独角兽达到 decacorn 级别，但 13% 的 decacorn 达到 1000亿美元，且 31% 的 1000亿美元公司最终达到 1万亿美元。

• Sacks 追问，这一规律是否可能从 1万亿美元延续到 10万亿美元，并猜测约 60% 的万亿美元公司可能在未来几年达到这一规模。他明确表示，这是外推，不是数据中直接引用的数字。

• 这些数字面向资本配置者：一家公司跨过重大估值门槛后，再迈上一个大台阶的概率，可能高于从门槛以下达到该门槛的概率。讨论将这种规模优势与开源竞争者面临的资本、电力和基础设施壁垒联系起来。

13. 炙热通胀与争议选举，最终都落在同一个信任问题上

• 5 月 CPI 同比升至 4.2%，为 2023 年 4 月以来最高；PPI 升至 6.5%，为 2022 年末以来最高。预测市场认为 2026 年通胀达到 5% 的概率为 21%，美联储当年加息的概率为 49%，高于伊朗战争前的不足 10%；ECB 已加息 25 个基点。

• Friedberg 将部分涨幅归因于战时能源价格，但又回到政府支出过度才是通胀和不平等的根源这一判断。在 Kevin Warsh 领导的美联储下，他认为隔夜利率升至 5.5%-6% 是合理情景；Chamath 的尾部风险是，中国每天额外购买 300万桶石油，油价从低于 100 美元跃升至 150-200 美元。

• Sacks 认为 PPI 基本符合预期，市场也在上涨。Jason 和 Chamath 将 Nasdaq 上涨 2.5% 解读为市场可能正在交易局势解决；但 Jason 仍称伊朗战争是一个「巨大的灾难性错误」，其通胀后果让迅速退出变得紧迫。

• 在 Los Angeles，讨论引用的市长选举数据显示：Pratt 的现场投票支持率为 35%，Bass 为 29%，Nithya Raman 为 26%；选前邮寄选票中，Bass 为 38%、Pratt 为 28%、Raman 为 20%；而后续选票中，Raman 升至 37%，Bass 为 35%，Pratt 降至 19%。Friedberg 称这一模式在统计上令人警觉。

• Friedberg 将矛头指向法律架构：全民邮寄选票、AB 1921 允许无限制代收选票、身份核验薄弱，以及宽松注册规则；他称其为「任命制度」。Sacks 更进一步，指控选民名册不干净、数百万张选票未被使用、签名匹配薄弱、保管链条缺失，并称这可能是「非法欺诈或合法欺诈」。

• 讨论指出，操纵数千张选票需要协调。Jason 拒绝把差异本身视为证据，并要求展开调查；他提出的合理解释是，民主党地面动员更强，或晚投选民协调行动，使 Bass 和 Raman 都领先 Pratt。Sacks 则回应称，执行这类策略的可能不是个体选民，而是合法的选票代收者。

• 提出的补救措施包括选民身份证、清理选民名册、减少未经请求的邮寄选票、可验证的保管链条和审计。Friedberg 警告，当基本异常无法解释时，公众信任就会崩塌。Sacks 表示「现在没有欺诈证据」，同时坚持认为统计结果很难看，Spencer Pratt 应当进入决选；Jason 则将这一问题留在「需要调查，而不是已经证明」的状态。