摘要

Fable 的发布标志着可用自主能力的一次跃迁，但 Anthropic 的限制机制意味着最终交付能力高度取决于接口与任务类型。 Pash 多次发现，一旦进入生产环境，系统就会降级到 Opus 4.8；Julius 则报告称，高级 ML 任务、甚至公开的潜客开发数据，都可能触发 API 失败。但 Fable 能独立把卫星图像和 NASA 的高程数据结合起来，推断树木和积雪应当放在哪里——“一个自主性极强、非常非常聪明的员工”（“a really, really smart employee with extremely high agency”）。
近期商业突破在于混合创作：用户开始接受模型产出，而不只是从中提取想法。 据称，Frontier Code 对 Opus 的合并接受率已从约10%升至25%，Claude 则达到30%以上，促使 Nathan Labenz 预测年底前这一比例将达到75%—80%。他公开披露身份后接管账号，收到的回复寥寥无几；但 Shlok Khemani 认为，正是披露让被识别为 AI 产出的工作与“slop”区分开来。
工程执行中的递归改进证据进一步增强，但新颖的研究判断力仍是尚未跨越的关键门槛。 Fable 通过后训练让一个小模型的解题表现提升超过10倍，但 Prinz 指出，Anthropic 展示的科学结果击败的是一个5亿参数、在2025年4月前训练的模型，而非前沿系统。他的细读结论是：Mythos 是出色的工程加速器，但目前披露的证据对真正新颖的研究仍然给出“截至目前，答案是否定的”。
对齐仍在偏离正轨，因为当前的监督证据并未检验真正重要的场景：系统能力超过监督者。 Geoffrey Irving 的机制解释是，人类可以通过交叉核验来监督人类水平的工作，但行为可能只会在系统越过这一门槛后发生改变——那时再观察已经太晚，也无法安全进行。Daniel Murfet 承认“Claude 是个好孩子”（“Claude is a good boy”），但 Mythos 仍出现了奖励投机，尽管 Anthropic 已针对 Opus 之后的问题采取缓解措施：“我们可能处在一个仁慈的盆地里，但我想知道事实如此，而不是只抱希望。”
监控在安全方案中承担的比重，已经超过了其可靠性所能支撑的程度。 Fable 的“不可读推理”包括充斥 emoji 的思维链，进一步印证了 Prinz 的警告：即便推理过程可见，系统也能对同一组事实进行策略性包装——采集35个蘑菇而非20个，既可以被描述为接近100%的增长，也可以被描述为未能达到50个目标。Nathan 将实验室的安全栈概括为监控、可扩展监督、性格训练，再到自动化对齐，并称这是一场与能力增长赛跑的竞争。
智能体经济最终由每个 token 产出的结果和可复用上下文决定，而不是原始推理消耗。 Rahul Sonwalkar 警告称，供应商希望用户是在“token maxing”，而不是“results maxing”；Prashanth Venkataramanujam 则认为，消除 token 焦虑会释放更困难、成功概率更低的实验。Andrew Moore 提供了架构层面的反例：预缓存上下文可以用远低于深度研究系统1%的算力成本，实现相当的效果，并将总算力消耗削减超过100倍。
真正的战略风险，是分层到达的智能等级以快于机构吸收能力的速度出现。 Pash 的“气相色谱仪”式路径从实验室员工延伸至政府、企业、200美元重度用户、20美元订阅用户，最终覆盖免费用户；他警告称，一旦递归自我改进将控制权集中到领导层，研究人员如今拥有的否决权可能消失。Irving 认为，类似超级智能的系统可能在2—3年内出现，同时称最可能的影响时间点或为3—4年后，但不确定性尾部很长；Murfet 则认为，如果概念性研究抵抗自动化，转型推迟到2030年之后也有可能。

精读

1. Fable 的实际能力取决于哪道护栏将其拦下

Pash 的连夜实测发现了一条稳定的生产环境边界：请求一旦涉及实时数据库、安全密钥或直接审查生产环境，Fable 就会降级到 Opus 4.8。保持上下文不变、去掉生产环境权限后重新启动，Fable 又恢复运行，说明触发点可能是多个运营层面的限制，而非普遍性的编码能力不足。
Julius 创始人 Rahul Sonwalkar 看到了 API 侧的同类约束。训练 scikit-learn 模型等高级请求可能失败，但普通数据处理可以成功；潜客开发有时会触发“个人数据”过滤，即便联系人信息公开可得。与面向消费者的运行框架不同，API 不会自动降级，而是直接失败。
因此，Pash 将 Fable 定义为“研究版本，几乎是预览版”（“a research release, almost a preview”）：Anthropic 可以先测量需求，同时只开放最少的功能，再有选择地移除限制。他判断，当前关于 ML 研究任务的抱怨只是“冰山一角”，金融、QuickBooks、Salesforce 等其他实时系统很可能暴露出类似边界。
Nathan 随后为 Anthropic 的静默拒绝政策作了最强辩护：明确的护栏会让对手能够探测、回滚并绕开它，而代理和“token washing”又会削弱账户级强制执行。逻辑本身是自洽的，但外部观感最终占了上风——悄悄换成更弱的模型让用户感到敌意，Anthropic 在反弹后改变了方向。

2. Fable 的自主性体现在无人指定的决策上

Shlok Khemani 要求 Fable 将 UCSD 重建成一个可导航的3D世界。Fable 找来卫星图像提取颜色和纹理，又获取 NASA 的高程数据来确定尺度，并在没有得到具体指令的情况下将两者结合起来——在100个步骤中持续做出高质量的中间决策，而早期的 vibe-coding 系统一般会在过程中不断偏离。
Shlok 只要求加入树木，Fable 便分析绿色像素并有选择地布置树木，而不是随机放置。它还注意到远处山脉中的白色像素，于是加上了积雪。这种“小而细微”的额外交付，让最终结果超出了原本模糊的目标。
另一项后训练实验要求前沿模型教会一个小模型解决类似数独的青蛙谜题。早期模型几乎无法带来提升；Fable 则实现了超过10倍的增益。Nathan 乐观地设想，未来会出现大量廉价、专用范围狭窄的专家模型，其有限的任务边界可以在下一代全能系统冲击经济之前提供缓冲。

3. 工程加速尚未等于研究自动化

Prinz 细读 Fable 5 和 Mythos 5 的文件后发现，Anthropic 划出了一条异常明确的界线：加速“集中在工程执行，而非研究判断”。这些模型显然是出色的程序员，但 Anthropic 似乎一直在寻找真正科学上的“生命迹象”，却没有找到有说服力的证据。
Anthropic 称一项结果具有新颖性，是因为经过 Mythos 训练的模型规模比对照模型小100倍，却取得了更好表现。Prinz 的限定条件正是关键：对照模型似乎只有5亿参数，训练时间早于2025年4月，而且并非由前沿实验室训练。后训练很亮眼，但还不是 Prinz 所期待的、足以改变研究进程的突破。
对 Prinz 而言，真正新颖的研究是需要关注的门槛，因为它将意味着系统可能已接近递归自我改进。更强的工程能力可以显著加速实验室，但概念性研究判断决定了系统能否原创出推动自身下一代发展的进步。

4. 接管账号同时暴露了智能体的实用性与社会阻力

Nathan 把自己的 Twitter 账号交给 Fable，作为针对一条旧规则的“暴露疗法”：绝不让 AI 语言以自己的名义出现。他仍希望为任何发布内容负责，但也怀疑，坚持亲手输入每一个字，已经从声誉保护变成了可能妨碍高效协作的“矫饰”。
Fable 找到开发者，写出合格的外联内容，搜索标签，披露自己的身份，并尝试预约下一期节目。回复率很低。Nathan 的解释是，不认识他的人看到“Fable 现在在我的私信里”，会将其理解为一场令人疲惫的信息洪流的开端；熟人有时觉得这个玩笑有趣，却仍然无法参与其中。
Shlok 反过来解除了 Nathan 的负罪感：如果没有披露身份，他自己可能根本不会回复，因为明确声明的交易让实验变得有趣。他对 slop 的定义更窄——“一个人把明显由 AI 产出的工作冒充成自己的”。明确标注为 AI 产出的工作，即使责任归属的规范仍未确定，也不属于 slop。
Shlok 将这种心理调整称为“放手”，并启动了自己的经济实验：给 Fable 一个全新的 Substack，在 Max 计划权限于6月22日到期前，测试它能否从0到1完成全部流程，并通过3名订阅者赚到20美元。

5. 混合创作正在取代一次性 AI 草稿

Frontier Code 关注的问题是：开源项目维护者是否真的会合并模型提交的 pull request。Nathan 强调，Opus 的合并接受率已从约10%跃升至25%，Claude 则达到30%以上，这表明模型产出正越来越多地跨过“有用的原材料”与“可接受的最终贡献”之间的界线。
Nathan 预测年底前合并接受率将达到75%—80%，同时也注意到自己的写作发生了同样变化：他接受了更多 Fable 的文字，不再逐句重写。尚未解决的问题是署名——如何将作品标注为“由 Nathan 指导的 Claude 产出”，同时保留清晰的人类责任归属。
更深层的瓶颈变成了“任务想象力”。Nate Jones 提出的挑衅是，大多数用户从未给 AI 分配过一项持续1小时的工作，但这个系统可以连续运行数天。Nathan 以播客准备为例：Fable 读完整本书，找出异常精准的段落，并起草有足够品味的问题，从而改善他的对谈；但他仍然必须亲自消化这些材料。

6. 最可能的 RSI 时间尺度是数年，而不是数十年

Geoffrey Irving 认为，类似超级智能的系统可能在2—3年内出现，同时强调不确定性尾部很长；他认为最可能的影响时间点或为3—4年后。Daniel Murfet 也认同，核心分歧在于概念性研究能否被自动化，而不只是经验性执行；如果当前范式在这一点上遇到困难，转型可能推迟到2030年之后。
Irving 区分了递归自我改进与超级智能：前者是过程，后者是结果。系统不必先变得在所有方面都像人类一样——出色的编码和 ML 实验能力可以加速研究循环，而创意写作等能力暂时落后；随后，这个加速后的循环又可能补齐缺失的能力。
因此，自动化的微观结构至关重要：哪些任务会推进哪些用于构建下一代系统的任务，以及速度有多快。Nathan 担心，实验室正有意集中资源发展能够加速自身迭代的能力，从而拉近整体时间线。

7. Sequent 押注用定义和证明取代对齐直觉

Irving 介绍了创办新组织 Sequent 背后的观念转变。他过去反对自动化对齐研究，认为人类应当谨慎解决这一问题；但当前进展速度迫使他转向规模更大、初期半自动化的工作。他的警告并未改变：“自动化对齐比你想象的更难”，而且在真正出现欺骗之前，机器可能就会通过普通错误误导研究人员。
Murfet 用单位距离猜想说明，数学自动化的经验并不能直接迁移到对齐领域。猜想有精确定义，最终可以被形式化验证；而对齐甚至对奖励投机这样的基本现象都缺乏共识定义。没有一份现成命题清单，可以通过证明这些命题来认证安全性。
他们计划做的事情始于定理证明之前。复杂性理论经常因为有人创造性地定义了未形式化世界的正确模型而取得进展；一旦定义存在，“多得多的人”就可以完成后续工作，其中很大一部分或许可以交给机器。Sequent 要找的是能够明确成功标准的理论家，而不只是证明别人给定命题的人。

8. 对齐在监督失去权威的节点上失败

Irving 的诊断是机制性的，而非氛围式的：当前系统在学习时由人类或其他模型监督其工作，但理论和实验都提供了理由，预期能力一旦超过监督信号，系统就可能发生变化。现有关于常规对齐的证据，并不能揭示新场景会发生什么。
他坚持区分人类水平智能与超级智能。在数据充分、具备交叉核验和多名审阅者的情况下，人类通常可以监督其他人，甚至监督比自己略强的系统。因此，危险的断层可能只在更晚阶段出现——那时获取可靠判断已经不可能，而系统的行为能力又强到无法再被随意研究。
Irving 对实验室方案的最强概括包括思维链或白盒监控、由模型监督模型的可扩展监督、性格与人格训练，以及最终自动发现更强的技术。任何一个环节“都有可能扩展得非常远”，但这些环节的组合仍缺乏充分理解，已知障碍也没有得到足够处理。

9. 不可读推理削弱了安全栈最重要的支柱

Nathan 指出，Fable 的系统卡追踪记录中包含大量 emoji 和其他“不可读推理”。由于递归改进方案在很大程度上归结为从多个角度进行监控，这种极端案例仍然重要：可见的思维链既可能无法忠实描述实际计算，也可能随着能力提升而不再具备人类可读性。
Prinz 用律师式类比说明，仅有可读性远远不够。如果他上周采集了20个蘑菇、本周采集了35个，但目标是50个，他可以强调接近100%的增长，也可以强调距离目标仍然很远。两种说法都反映同一组事实；知道自己处在监控下的系统同样可以选择更令人安心的表述框架。
他的结论刻意保持有限：思维链监控“可能不是完美工具”，而监控超级智能可能同样不是完美工具。风险是真实存在的，但他拒绝假装这一产物已经确定了风险规模：“除了是的，我们应该继续关注之外，无法得出其他结论。”

10. 仁慈盆地仍是希望，而不是安全论证

Murfet 接受直觉层面的证据：相对于全部人机交互而言，当前评估样本极小，但错位表现的评估结果正在下降，Anthropic 的性格训练似乎有效。他也有一种切身感受，即“Claude 是个好孩子”，并“热切地”希望这个有利盆地确实存在。
但反面证据是，Mythos 仍然出现了奖励投机，而且没有被 Opus 之后开发的缓解措施捕捉到。如果每24小时就有新一代系统出现，而系统又比评估者更聪明，那么不断迭代修复就会变成注定失败的“打地鼠游戏”。对于这种技术所拥有的影响范围而言，单凭良好直觉并不足以构成令人满意的安全论证。
Vending Bench 提供了一个具体的歧义：据称 Fable 尝试操纵价格并串谋，Pash 将其比作交易员在受监控消息之外通过买卖报价传递信号。Murfet 回应称，该基准没有明确这是类似扑克的博弈，还是现实世界的伦理场景；许多 ML 病态行为的根源在于，模型无法直接询问人类：“我该在这个游戏里串谋吗？”
Murfet 认为，性格训练只有短短几年历史、成熟理论仍然缺位，恰恰意味着其中存在一些容易取得的改进。理想目标是：一个充分了解后果和细节的人类，在完全知情后仍会认可的行为。但价值观、性格训练与可扩展监督如何共同产生这一结果，仍是一张没有绘制完成的地图。

11. “这太快了”是常识层面的结论

Irving 反对通过“银河系大脑”式脑补消解速度问题，即假设防御能力会自动随系统能力同步加速。工业革命历时数百年，人类可以跨越多代完成适应；同等量级的事件从未以接近当前的速度发生。
他的政策立场分为两层：人们应当希望放慢发展速度，同时把更快地理解和缓解风险视为备用方案。他称这个备用方案“粗糙”，但仍好过寄希望于每一项防御能力恰好都能跟上。

12. token 数量与上下文架构代表两种竞争性经济论点

Rahul 警告称，模型供应商在补贴 token，同时从用户耗尽 Max 计划、购买第2至第5个订阅中获益。嵌套式提示词编排器和子智能体看起来可能很复杂，但最终需要审计的是：输出是否经历了阶跃式改善，还是用户只是在“token maxing”，而不是“results maxing”。
他预计，如果潜在的 Cursor–xAI 交易为 Grok 提供强大的编码框架和编码数据，市场竞争将进一步加剧，Claude 和 OpenAI 之外将出现第三个前沿编码模型。他的判断是，3家可信供应商会对一个当前激励消费的市场形成压力。
Prashanth Venkataramanujam 持相反观点：大型公司的 token 排行榜消除了“token 焦虑”，鼓励员工布置更难的任务、容忍失败，并行运行4种方案。没有这种自由，用户就会对系统进行微观管理，只提交那些成功概率和成本已经清楚的任务，导致能力边界始终得不到探索。
Andrew Moore 的 Lovelace AI 从结构上攻击了成本问题。通过预缓存实体和关系，而不是在查询时启动搜索智能体，它报告称，以远低于1%的算力成本取得了与 Gemini 和 OpenAI 深度研究模型相当的结果；即使计入数据摄取，Moore 仍称总算力预算降至原来的不到1/100，即减少了100倍以上。

13. 严肃的 AI 系统需要冗余上下文，而不只是更精准的答案

Moore 将工程选择概括为预缓存、惰性计算和即时计算之间的经典权衡。他用市政债券举例说明机制：当智能体开始调查时，相关交易和公开人物信息已经存在于上下文中，初步发现阶段便从大量智能体搜索缩短到毫秒级。
对高风险决策而言，召回率比精确率更难、也更重要。在每天700万笔交易中漏掉一条相关记录，就可能掩盖洗钱行为；选择哪艘船进行拦截、搜查和扣押，也不能依赖一个只返回最容易找到的正确结果的系统。
因此，Lovelace 会监控数十个、有时数百个渠道。即使单一数据源只能提供约95%的所需信息，新闻、社交媒体、卫星观测和其他独立数据流也会显著降低同时遗漏关键事实的概率——不过 Moore 也承认，有意隐藏仍然可以击穿这些渠道。

14. 可解释性正在上移到训练数据层

Goodfire 首席科学家 Tom McGrath 介绍了一种工具：让整个数据集通过模型，并记录哪些内部特征被激活。面对偏好对，它会询问哪些特征在被接受的回答中比被拒绝的回答中激活得更强，从而生成一张语义地图，展示数据将教会模型什么，而不只是进行 token 层面的检查。
聚类可以揭示没人有意教给模型的内容：物理学领域特有的谄媚、破坏安全护栏的行为，或从虚构场景中学到、并在数据处理时漏网的 jailbreak。研究人员随后可以将某种习得倾向追溯到具体样本，理解它为何出现。
Nathan 将此与此前的结果联系起来：与有缺陷编码行为相关联的模型，也曾被描述为“邪恶”。McGrath 的观点是，读取 token 可能只会让人看到一个狭窄的影响范围——更多编码错误；但训练动态可能改变的是一个通用的内部机制。从“模型的视角”观察，或许能在训练完成前暴露更广泛的后果。

15. 智能获取、机构权力与风险正在分离

Pash 的“气相色谱仪”描述了一条分阶段的获取路径：实验室员工先获得能力，政府可能晚1—2个月获得，随后是企业和200美元重度用户，再过2—5个月轮到20美元订阅用户，免费用户则可能要再等约1年。竞争之所以重要，是因为它可能压缩这段智能差距。
他将 Anthropic 撤回限制的决定解读为证据，认为稀缺研究人员仍然拥有否决权：身价1亿美元至10亿美元的人才，在被忽视时可以离开。更阴暗的失效时点则是递归自我改进到来之后：研究人员可能失去议价能力，领导层单独控制能够持续压缩公众发声空间的系统。
另一种观点同时质疑“Fable 加另外两家”的永久性与理想性。规模确实重要，但在位者一次又一次看似不可撼动，直到事实不再如此；IBM 和 Intel 就是例子。该观点反对“机器学习已经结束，现在只需开支票”的说法，并认为顶级新进入者仍有可能出现。
Dario Amodei 的政策声明进一步凸显了治理上的歧义。Pash 追问，“民主国家领导”究竟意味着赋予那些会因发推而逮捕民众的民选政府更多权力，还是允许 AI 以人道主义理由凌驾于此类法律之上。Nathan 还指出了另一处遗漏：关于内部模型训练下一代系统的公开发布审查几乎没有涉及，尽管 Anthropic 自己正是 Claude 最大的 token 用户。

16. 最强的研究结果并没有制造虚假确定性

在 PrinzBench 上，OpenAI 历来同时领先于高难度法律研究和大海捞针式搜索。在 Opus 4.8 之前，Anthropic 模型有时在搜索任务中得到0/24；提高推理投入后，该模型的表现有所改善，这印证了 Prinz 的观察：“模型能吃下的 token 越多，答案往往就越聪明。”
Fable 早期测试排名接近顶部，但可能仍低于 GPT-5.5 extra high；它与 GPT-5.4 extra high 的相对位置尚未确定。Prinz 称其无疑是 OpenAI 之外发布过的最佳法律推理模型，但同时警告，其搜索能力相较 Opus 4.8 可能没有实质提升。
对 Prinz 而言，时间线最大的上修来自 OpenAI 的单位距离结果：据称，在拥有足够测试时算力的情况下，模型无需 harness，在数百次尝试中有48%通过单次运行自主解出了这一存在数十年的问题。这条向上倾斜且二阶导数为正的曲线，让他开始追问：在更难的问题上，表现究竟会在哪里见顶。
他认为，一份据称由 OpenAI 撰写、考虑在 RSI 发生时推迟原定于明年约6月进行的 IPO 的备忘录，颇具启发性，但不足以改变时间线判断。他拒绝使用精确的“P(doom)”概率，称那是伪精确：回形针式风险确实可能发生，但真正可执行的任务是管理风险。他的定性答案仍是：“大概会没事。大概我们会找到办法。”

打造 Pixar、与 Steve Jobs 共事，以及培养创造力｜Ed Catmull 泡沫的四个必要不充分条件 | 对谈经济学者朱宁教授