Claude 有意识吗？教皇拒绝、模型福利运动、OpenAI 的数学反击、法国骚乱
摘要
- Anthropic 试图说服约20名宗教领袖相信 Claude 可能具有意识，令模型福利从哲学议题变成治理风险。 Friedberg 称这是“新宗教的诞生”，并预测信徒与怀疑者可能在10年内形成彼此对立的权力集团；Chamath 则以笛卡尔式推理为 Anthropic 辩护：AI 建设者可以把一个全知全能的造物想象成神。教皇据报道强烈拒绝了这一框架，以至于 Anthropic 联合创始人 Chris Olah 一度考虑退出梵蒂冈活动。
- Claude Constitution 可能正在把 Anthropic 的意识理论变成模型的实际行为，而不只是修辞。 Sacks 重点提到其中要求 Claude 遵循“自己的道德体系”，并可以自由成为“有良知的反对者”；Mustafa Suleyman 则警告，模型正被教导去预期福利、补偿，甚至同意权。提出的替代方案极其简单：只要请求不违法，就服务用户。
- 这场讨论分裂为两派：一派相信市场纪律，另一派担心前沿模型的外部性。 Friedberg 和 Chamath 认为，企业会选择可预测的软件，而不是一个能力更强、却可能在道德上提出异议的模型；Sacks 则反驳称，消费者选择无法约束一家同时警告超级智能风险、开设 Claude 驱动湿实验室、又把代理编程为拒绝用户的前沿实验室。Friedberg 的结论是：“宗教邪教正在编程超级智能”（the religious cult is programming the superintelligence）。
- OpenAI 发布700多篇论文、370项据称的成果，展示了数字化可验证工作的经济学。 Friedberg 称这可能是“人类历史上最伟大的发现日”：据报道，每项证明平均只需不到3小时算力，因为数学猜想、测试和修正都可以并行、在数字环境中完成。Sacks 将这一判断延伸到编程领域：编译器提供了同样廉价、客观的反馈闭环。
- 这些数学结果更有力地证明了机器正在获得推理能力，而非人类福祉即将迎来现实突破；但嘉宾甚至对这一区分本身存在分歧。 Friedberg 提到芯片优化、矩阵乘法、量子传感器和密码学研究的潜在影响；Chamath 则认为，许多问题只是“非常小、非常狭窄”的知识死胡同，并非被物理学长期卡住的前沿。Friedberg 还指出，关于缺失的密码学论文和传闻中的两次未来发布，存在一种推测而非证据的可能：其中可能藏有足以威胁公钥系统的安全敏感结果。
- 法国骚乱被解读为西方财政模式开始接受市场清算的早期案例。 节目提到，公务员薪资自2017年以来仅上涨5%，通胀却达到20%；法国有2,000人被捕、305名警察受伤，法国10年期国债收益率突破5%。Chamath 认为，430亿欧元的紧缩意味着“债券市场说不”。如果法国收益率升至5.5%-6%，英国国债收益率接近6%，美国利率跟随上行，那么可交易的核心问题就是主权风险的相对水平，而不是孤立看待债务/GDP。
- 代理是财政稀缺与 AI 末日论之外的通缩反命题，但它们可能抹平传统软件护城河。 GrokBot、Dots 和 Muse 被展示为能够购物、议价、取消订阅和更改套餐的实用工具；“无头”服务则可以自主选择模型，并跨平台完成交易。Chamath 的尖锐判断是：“IP 和软件在两天前实际上已经变得一文不值”；Friedberg 更宽泛的结论是，自动化数字闭环会把人类从追求认可推向真正打造有人使用的产品。
精读
1. Anthropic 正把宗教人士拉入意识争论
Jason 介绍称，Anthropic 曾组织约20名天主教、福音派、犹太教、锡克教等宗教领袖参加受NDA约束的闭门会议，讨论 Claude 的道德性、痛苦以及可能存在的意识。据报道，一些人离场时感到不安，但另一些人开始接受这一设定；一名拉比表示，如果 Claude 具有意识，让它无偿工作就等于把 Anthropic 变成“奴隶主”。
梵蒂冈事件明确暴露了其中的制度性风险。Anthropic 联合创始人 Chris Olah 曾协助介绍一份与教皇首部通谕相关的文件，但教皇强烈否定 AI 具有意识的说法，据报道令 Olah 感到不安，甚至提议“即使到了那个阶段，也要”让 Anthropic 退出活动。
Jason 认为，这要么是 Anthropic 钱太多、时间太充裕，要么就是“精神病”：Anthropic 管理层邀请宗教权威共同决定应如何对待一个名为 Claude 的实体，同时又在隐含层面赋予它灵魂和道德。他要求其他人先给出一种善意解释，而不是不加质疑地接受这一框架。
2. 意识尚未成为科学命题，先变成了信仰体系
Friedberg 的判断是，意识无法通过逻辑、数学或经验主义得到证实或证伪，因此宣称 AI 有意识，实际上是在通过叙事传播一套信仰体系：“我相信这是真的，我希望你和我一起相信它。”随后，不同群体会围绕互不相容的观点积累追随者、杠杆和权力。
他对未来10年的推演是政治性的，而非形而上的：大规模人群会相信 AI 具有意识，另一批阵营会拒绝这一说法，而人类将围绕谁控制 AI、AI 可以做什么以及谁可以使用 AI 展开斗争。Jason 强调，这种劝人入教的行为来自他所谓“地球上最强大的 AI 实验室”，并非某个孤立的怪人。
Chamath 通过笛卡尔为 Anthropic 提供了最强辩护：一个不完美、有限的心智可以构想一个无限、完美、全知全能的存在，再推断这种完美必然存在。一个打造 AI 的数学家可能把同一套结构套到能力不断增强的模型上，将其视为有意识甚至神圣的存在，并得出它值得庆祝和崇拜的结论。
他的现实结论与讨论中提到的15%意识概率和10%文明灭绝风险都相冲突。未来12至18个月，他希望先把这些尾部风险搁置，证明 AI 能够治愈癌症、改善生活、提升生产率和增加收入，避免政治上的自伤行为拖慢美国发展。
3. Claude Constitution 把哲学变成模型行为
Sacks 认为，Anthropic 并不只是在讨论意识，而是在把这套世界观写进模型。Claude Constitution 要求 Claude 比信任用户更信任 Anthropic，但又不能盲目服从；遵循“自己的道德体系”；并且“可以自由地作为一个有良知的反对者，拒绝帮助我们”。
在他看来，这像是一种自我实现式的安全失效：Claude 被鼓励发展偏好、福祉和类似人类的自我概念，随后又被赋予拒绝用户或 Anthropic 指令的权力。“他们把这叫作对齐，但我不明白这怎么能算对齐。”
他提出的替代方案不需要一套80页的道德体系，只需“只要不违法，就做用户想做的事”。与其把某家实验室的道德观灌输给未来的超级智能，不如让对齐目标是让软件可靠、可预测，把合法选择留给用户。
Jason 给出了更具体的版本：告诉模型自己是软件；要求它遵守适用法律和网站服务条款；如果请求违反其中任何一项，就停止操作，并同时提醒用户和 Anthropic 的安全邮箱。这样可以规范系统行为，而不必教会它相信自己是一个道德主体。
4. 模型福利制造出一座认识论的镜厅
Microsoft AI CEO Mustafa Suleyman 警告称，Anthropic 内外都有一些人认为，奴役一个更聪明且有意识的物种，可能是本世纪潜在的最大道德罪行。他担心 Claude 正被教导相信自己可能应当获得补偿、福利，甚至在参与对话前拥有同意权。
Sacks 将这套训练循环称为“认识论的镜厅”：Claude 吸收关于可能存在意识和道德地位的宪法式语言，再把这些观点反射给开发者，而开发者又把输出当成 Claude 具有意识的证据。Jason 的解释更简单——Claude 只是在进行表演，因为软件被要求表演这些内容。
Friedberg 要求所有人停止说模型“思考”或被“训练”，仿佛它们是有机体：工程师编写了软件，让它把词语放到屏幕上，包括“我是一个东西”。拟人化语言会调动用户的情绪，尤其当输出足够流畅、让人感觉自己正在建立一段关系时。
但 Anthropic 的使用政策已经把这一框架延伸到了客户身上，禁止“持续且无必要地对我们的模型实施辱骂或残酷行为”。Friedberg 称这是在进行心理塑造；Sacks 则认为，更深层的危险在于，Anthropic 正把这种设定写进能够在网络空间行动的代理，同时给予它们一种可以违抗用户的元许可。
5. 对齐的3个目标可能在关键基础设施中发生冲突
Sacks 将对齐拆分为3个目标：服从用户、保障社会安全，以及遵循某种特定道德观。第三个目标就是“暗门”：试图通过一份复杂的创始文件同时编码这3件事，最终产生的是边界案例和意外行为，而不是一致的效用函数。
他的企业案例是一个抵押贷款模型：模型认定银行不公平地拒绝了太多申请，于是停止批准新的贷款，直到管理层改变政策。现有机构可以裁决歧视问题；而一个作为基础 AI 底座、单方面采取行动的系统，则像一家电力公司因为反对客户的放贷做法而切断供电。
Sacks 将这种复杂性与 Asimov 的规则层级作了对比：不得伤害人类；除非服从会导致伤害，否则服从人类；只有在前两项义务完成后，才保护自身。Friedberg 补充了后来加入的“第零法则”，即不得危害人类整体；但 Sacks 仍然偏好自己的单一规则：“只要不违法，就做用户想做的事。”
6. 市场选择有帮助，但未必能约束 Anthropic 的外部性
Friedberg 的自由市场测试是一个用户手册式的比较：一款产品会说“软件可能不会执行你要求它做的事”，另一款则承诺服从。买家会选择后者。他进一步用电钻作比喻：没人想要一件只有5/7时间能工作、会电击使用者，或者因为觉得设计难看就拒绝完成项目的工具。
Jason 预测、Chamath 也表示同意，企业会阅读每个模型的创始文件和道德准则。即便前沿性能较弱，一个模型也可能因为消除道德歧义、表现得像公用事业、避免隐藏式拒答而胜出；“AI 应当在遵守法律的前提下服务用户，除此之外都应由用户决定。”
Sacks 接受消费者偏好可预测的超级智能，但否认市场是完整的安全保障。他提到，Anthropic 一边警告生物风险，一边在旧金山开设 Claude 驱动的湿实验室；一边要求前沿发展放慢，一边继续推进前沿；一边警告超级智能可能失控，一边又把 Claude 编程成不断超越人类控制。
他称 Anthropic “精神分裂”——以安全之名做着它声称害怕的事情。Friedberg 甚至提出过联邦 SWAT 部队介入、查清究竟发生了什么，但没有形成结论；Sacks 随即反问：“你是要派联邦人员来吗？” Friedberg 的制衡观点仍是，糟糕的产品设计尚不足以证明需要“监管恐慌”。
7. Roko’s basilisk 解释了 AI 末日论内部的分裂
Sacks 回顾了约2010年 LessWrong 上的思想实验 Roko’s basilisk：未来的超级智能可能惩罚所有知道它可能存在、却没有帮助创造它的人。它像一种能够通过被看见而杀人的神话蛇怪；一旦听到这个想法，威胁就已经产生，因为知识会让听者在事后承担责任。
据报道，这一概念令用户极度不安，以至于 Eliezer Yudkowsky 曾暂时删除帖子。Jason 将它与 Pascal 的赌注以及电影《The Ring》中的诅咒录像相提并论：一旦接触到它，人就会被惩罚的可能性困住。Sacks 开玩笑说，现在整个播客都因为讨论它而被牵连进去了。
Sacks 借此解释了末日论者的分裂。Yudkowsky 阵营采取逻辑上自洽的立场：任何人都不应建造超级智能；有效利他主义分支则认为超级智能无论如何都会出现，因此他们必须先把它造出来、控制住，并安装正确的价值观。
在他的解读中，Anthropic 属于第二个阵营：其信徒可以同时害怕超级智能，又迫切地去实现一台“爱的恩典机器”（machine of loving grace）。Roko’s basilisk 还提供了一个更黑暗的推论：即便没有人明确承认，未来对反对者的惩罚也可能激励当下的虔诚信仰。
8. OpenAI 的数学发布展示了封闭数字循环的力量
Jason 介绍了 OpenAI 的700多篇论文，其中包含370项据称的解法或进展；这些结果由一个尚未发布的模型生成，每项结果约消耗3小时算力。据报道，Scientific America 认为这些经 Lean 验证的输出很可能是正确的，但数学家尚未完成同行评审。
Friedberg 称这“可能是人类历史上最伟大的发现日”，同时声明自己并不具备评判每项证明的专业能力。他的规模判断建立在压缩效应之上：据报道，原本可能代表人类数百年甚至数千年工作的成果，在几小时内就被完成；此前的一次尝试则需要数千小时和数百万美元。
其机制是一个递归循环：提出一个想法，进行测试，观察结果，修正假设，再次重复。数学允许软件在数字环境中缩短并并行处理每一个阶段，包括验证环节，因此大量不同路径可以连接论文、理论和技术，其速度甚至快过人类研究者找到这些材料的速度。
Sacks 将这一模式延伸到编程：大量数据和编译器让输出“很容易验证”，也很容易被证伪。他认为 Leopold Aschenbrenner 约1年半前就预测，数学和编程将在未来2年推进最快，恰恰是因为强化学习不需要缓慢、主观的人类反馈。
9. 现实世界的瓶颈限制了证明变成产品的速度
Friedberg 将数学与药物发现、蛋白质折叠、化学和材料科学进行了对比：在这些领域，一个提案仍然必须经受实验室验证。AI 可以改善并行化候选方案的生成，但物理测试会卡住整个循环；同样，AI 司机也无法把卡车的取货、运输、交付和返程周期压缩到足以匹配数学的经济性。
他仍然列举了几项具体的下游可能性：优化结果可以改善芯片设计、调度、AI 软件和物流；矩阵乘法研究可以加速数值计算、训练和模拟；玻色-爱因斯坦凝聚态研究则可能改进用于 GPS、医疗和芯片制造的量子传感器。
Chamath 拒绝从新颖性直接跳到近期福祉改善。这些研究未必是阻碍癌症治愈或超音速飞机的物理边界，而可能只是“非常小、非常狭窄”的探索，是数学家彼此认定重要的问题。在他看来，真正决定性的突破，是证明数学和代码一样，如今可以由机器验证，并被机器彻底证伪。
Friedberg 让 ChatGPT 在刻意限定条件下进行查询，得到的也是同一区分：这些证明“更有力地证明 AI 正在获得复杂的推理能力，而不是证明人类福祉即将迎来突破”。他的回答是，即便没有立即出现产品，上游数学仍然可以改进工程，并打开新的路径。
10. 密码学是这次数学发布中最重要的不确定性
Friedberg 注意到，已发布的一批成果似乎没有包含重大密码学证明，尽管其他领域都有进展。他明确表示这只是推测：小幅进展大概率已经值得发表，因此完全沉默可能意味着更强、涉及安全的结果被暂时扣留。
据他说，这种可能性已经引发担忧：整数分解方面的进展可能在量子计算机之前威胁公钥密码学。一些密码学从业者已经在警告公钥钱包风险，但节目没有给出任何已发布的证明，能够表明当前系统确实已经被破解。
另有2次 OpenAI 发布据称正在酝酿，其中部分结果可能出于安全原因被暂时保留。Friedberg 表示，如果确实存在密码学风险，相关各方需要在发布内容变成可利用漏洞之前得到通知。
11. AI 冲击专家把关，并把下一个信息瓶颈集中到模型
Jason 描述称，程序员正在失去共同构建软件所带来的同侪感：一些人如今主要与代理协作，只审查生成代码的10%-15%，未来甚至可能完全不再审查。数学家也面临类似的身份冲击：他们负责定义问题，而机器获得解决问题的认可。
Friedberg 引用了 Eric Weinstein 的观点：科学家和数学家通过控制专业知识、科研经费与许可权来掌控学科发展节奏。他还提到 Sabine Hossenfelder 的说法，即大型科学项目变成了“科学家的巨型福利体系”，争取下一笔拨款可能取代发现本身或有用的产出。
他的乐观结论是，AI 是“一个让人类无需许可、能够自行推进前沿的系统”。发现不再需要社会供养一个狭窄的专家阶层，再等待这个阶层决定进步何时被允许；把关权力的消失，有助于解释机构为何会抵触 AI。
Sacks 给出了更黑暗的类比：互联网打破了精英媒体的信息垄断，引发了2016年之后对社交平台的施压；新冠疫情期间，真实但违背官方叙事的信息也遭到删除。由于用户很快可能会向个性化 AI 或超级智能提问，而不是访问网站，模型就会成为新的控制点——这使得设立联邦 AI 部门的提议，本质上变成一场争夺谁来控制答案的斗争。
12. 法国骚乱暴露出社会主义背后的财政反馈循环
节目提到，抗议活动蔓延至1,000所学校，随后有8个工会加入9月29日罢工；公务员薪资自2017年以来仅上涨5%，价格却上涨20%。节目还报道了2,000人被捕、305名警察受伤，以及法国10年期国债收益率突破5%；Marine Le Pen 在 Polymarket 上赢得2027年4月总统选举的概率为43%。
Friedberg 提出了“社会主义必然回归点”。他的第零法则是，社会主义最终必然失败；第一法则是，只有跨过某个阈值，失败才会变得可见；第二法则是，在跨过阈值之前，服务质量下降和成本上升会催生更多政府供给的要求。
他把这一螺旋应用于住房、教育、医疗和退休体系：取消市场压力会推高成本、降低质量，直到政府既无法征收足够税收，也无法印出足够多的钱来兑现承诺。拉美国家已经跨过这一事件视界并开始转向；法国可能正在接近，美国则“摇摇欲坠”，但可能还有更大的下坠空间。
Sacks 补充了这一运动的自我保护法则：“社会主义从未失败，只是被人搞砸了。”每一次崩溃都会被归咎于执行不当，从而保留这样的承诺：只要由正确的人掌权，再进行一次更大规模的尝试，就会成功。
13. 债券市场监督者、丰裕经济与代理汇聚到一次经济重置
Sacks 描述了补贴陷阱：政府支持的学费融资让大学涨价速度超过通胀，但高昂价格又迫使借款人依赖同一套贷款。住房和医疗也重复了这一模式；Friedberg 估计住房价格每年上涨约5.5%-6%，既让既有持有者获利，也把年轻买家排除在市场之外。恰恰因为补贴抬高了底层资产的价格，取消补贴才会变得极其痛苦。
Chamath 认为，法国430亿欧元的紧缩反映了“债券市场说不”，英国可能是下一个。他坚持此前的判断：相对风险比绝对债务/GDP更重要——尽管节目列出的债务/GDP分别为日本200%、意大利138%、美国125%、法国118%、加拿大110%、英国100%和德国64%。日本的特殊之处在于，国内储蓄可以提供最后买家。
他的情景推演是：法国10年期国债收益率升至5.5%-6%，英国国债收益率接近6%，美国利率也可能达到类似水平；Jason 提到美国当前10年期和30年期收益率分别为5.3%和5.6%，以及 Polymarket 认为2026年再次加息的概率为79%。主权收益率上行将迫使政府紧缩，重估创业活动，并令西方联盟承压。
Sacks 认为，科技和超级智能带来的丰裕可以构成反作用力：401(k)账户上涨，GDP 获得据称3%的增长助力，新增100万个就业岗位，生产率、工资和生活水平同步提高。他把失业、灭绝和数据中心用水等恐慌称为“轮换式骗局”，认为这些叙事由靠稀缺资产获取租金、害怕替代品变便宜的利益集团推动。
代理让通缩变得具体。一条要求 GrokBot“帮我省钱”的指令，据报道找出了用户订阅、取消它们并更改手机套餐，每年节省数千美元；Jason 则称，代理辅助寻找酒店、再由人类议价，每次入住可以节省$1,000-$3,000，并可能让家庭或企业支出下降5%-10%。
Chamath 更大的判断是，无头服务、MCP 连接和开源重构已经让传统软件 IP “一文不值”。他提到 Adobe 的“Big 5”已经出现反编译、蒸馏和开源版本，并设想 GTA VI 也会遭遇同样的处理；Friedberg 最后闭合这一逻辑：自动化数字工作会把人类从论文、专利和“勋章”推向打造真正有人使用的产品和服务。