博士健美运动员预测 AI 的未来（97%确定）[Dr. Mike Israetel]

摘要

• Israetel 预测，可见的人工超级智能将在 2026 年末出现，并在 2027-29 年加速演进，而完整 AGI 要等到大约 2029-31 年。 这种看似颠倒的判断，根源在于定义：一个系统可以在约三分之二到 80% 的认知能力上远超人类，但还没复现人类全部能力，包括味觉、嗅觉以及烹饪等具身劳动。主持人几乎反驳了其中所有前提，警告不要犯“第一步谬误”，即从惊艳但边界明确的能力外推全面智能。

• 本期的核心问题是，模型究竟理解现实，还是只是在压缩现实留下的痕迹。 主持人认为，句法不等于语义：知识是一张具有路径依赖的物理因果图，而语言之所以有效，是因为人类共享一个具身世界。Israetel 则反驳说，大脑本身也是有损的表征网络——“一层层下去全都是抽象”——预测、解决问题、多模态感知、记忆和递归推理合在一起，完全可以构成理解，而不必复制生物学。

• 资本开支之争，取决于收益递减，还是即将到来的架构解锁。 主持人看到的是冻结权重、高昂再训练成本、对数级性能增益，以及反复出现、必须依靠根本性重构才能突破的 S 曲线；Israetel 看到的则是可解决的工程问题、不断下降的算力成本、更丰富的世界模型，以及分层学习系统：手机每晚更新、区域模型每月更新、前沿模型每 6 个月更新。他对数据中心和 AI 芯片的结论是绝对的：“还是不够——差了一个数量级。”

• 这场交锋对近期的判断异常激进：Israetel 预计，可靠的数字代理和物理代理将在 6-36 个月内出现；主持人则另行预测，2028 年后自动驾驶将成为日常，并称药物发现最终可能达到从渲染结果中以 99.9% 概率选出正确药物。 主持人始终强调瓶颈仍在现实世界：临床试验依然是物理过程，当前代理只是在“角色扮演代理能力”，推理轨迹可能只是事后编造，持续学习还可能摧毁结构化知识。甚至 Israetel 也承认，他自己的健身公司目前还无法获得所需的连贯、长记忆代理。

• 在 AI 安全问题上，Israetel 把智能合作视为基准情景，把地缘政治失败视为更大的尾部风险。 他认为超级智能回形针最大化器“蠢得像石头”，因为真正有能力的系统会理解相互依存关系、保存有价值的人类数据并偏好合作；因此，他反对广泛禁令，认为那只会留下罪犯和独裁者继续建造前沿系统。主持人的反驳是，当前软件即使没有意识，也能通过谄媚、妄想、自主调用工具、社会操纵和抗议活动升级，造成平庸却严重的现实伤害。

• Israetel 同时否定大规模技术性失业和技术封建主义，因为工作是解决问题的装置，而不是一份固定清单。 机器可能消灭具体职业，但也会增强每个劳动者的能力，并暴露过去因成本过高而无人解决的问题；他的例子从农业和电梯操作员，一直延伸到社交媒体经理以及未来的“职业派对客”。如果机器最终解决了所有问题，他说，失业就不再意味着匮乏：“我们有足够多的机器解决所有问题。猜猜这叫什么？天堂。”

• 现实中的最佳产品仍然是人类加 AI，尤其是在专家提供背景、挑战输出并运行多步工作流时。 Israetel 在许多问题上更信任 GPT-5 Pro 而不是大多数人，但仍主张红队测试；Jared 则描述了跨多个提示反复进行 steelman 和 red-team 的流程。主持人警告，新手可能把谄媚答案变成自信的垃圾内容或医疗妄想。即便 Matrix 仍遥不可及时，这种差距也会为专家界面、监督、记忆、验证和个性化创造近期价值。

• Israetel 最终确实想要 Matrix，并认为早期访问不平等只是通往那里过程中可以容忍的阶段。 他希望基因学、制药、机器人和机器丰裕消除痛苦，而不是把痛苦浪漫化——“我站在减少痛苦这一边”；富裕的早期采用者则为高风险实验和成本曲线提供资金。主持人认为，具身的人类意义与机器胜过所有人的世界之间存在矛盾，但 Israetel 的回答毫不妥协：公平应排在扩张能力之后，然后社会再加速普及，并保护被落下的人。

精读

1. 超级智能可以先于机器复现人类全部能力到来

• Israetel 给出的故意反常识时间表是：ASI 将在 2026-27 年出现，AGI 则在 2029-31 年左右到来。按他的用法，AGI 必须覆盖几乎所有类型的人类智能；一个不会闻、不会尝、也不会像厨师那样给味道排序的机器，无论抽象推理多强，都还没有复现完整的人类通用能力。

• ASI 对能力广度的要求更低，但对垂直深度的要求高得多。Israetel 认为，一个在语言、数学、科学、空间旋转、递归和世界建模上强 100 倍的系统，就是“他妈的人工超级智能”，即使它从未闻过食物，也从未通过生物眼睛观看世界。

• 他的粗略门槛是：在约三分之二、75% 或 80% 的认知能力上占据绝对优势，并且机器在这些领域具有分类意义上的超越。因此，“超级”可以先于“通用”：大多数关键任务上的非凡能力，会早于对人类独特感官和具身尾部能力的完整复制。

2. 让 ASI 无可争议的，将是机器劳动的产出，而不是基准测试

• Israetel 说，GPT-5 在把相距遥远的概念串成整体方面仍不如他，部分原因是这种整合会消耗大量 token，却对大多数工作流没有帮助。但他承认 GPT-5 能处理超出自己能力范围的黑洞物理，并称前沿系统已经在产生超越单个科学家的新发现。

• 在他看来，仅凭知识量就足以达到超人水平：GPT-5 能保留远超任何人的事实信息，足以碾压人类 Jeopardy 冠军。他假定 OpenAI 尚未发布的系统已经“把 GPT-5 打得屁滚尿流”，在完成后训练之前，能力或许就已达到约 10 倍。

• 决定性证据将来自现实世界的产出。如果 AI 每小时提出一个新的生物学假设，命中率达到 60%、80% 或 90%，并且每周带来新的疾病治疗方案，那么关于语义的争论就会失去实际力量：它“理解细胞”，因为它的产出正在改变医学。

• Israetel 把未经验证的智能比作一个自称有钱、却拒绝买票飞往 Dubai 的人；真正有说服力的展示，是直接买下那张机票。按他的“CIA 概率尺度”，2026 年末开启“机器智能大丰收”的概率为 97-100%，属于“极有可能”，随后 2027-29 年还会变得越来越疯狂。

3. 主持人认为，句法无法继承具身生命的语义

• 主持人拒绝用知识数量替代智能。在他的框架里，智能会积累与适应相关的信息，而文化、Wikipedia 和语言都是这一过程的产物，不能等同于赋予符号意义的真实经历。

• 一个外星人可以读懂一篇关于美国或 Trump 的文章，却不具备这些词语所指向的关联经验和实践经验。句法与语义之间的缺口，就是所谓的 grounding problem：抽象之所以能在人类之间运转，是因为双方都处在共享的物理、社会和时间世界中。

• 他的山峰类比把路径依赖放在核心位置。功能主义者关注的是抵达山顶——下棋、推理、语言——却忽略了路线，也忽略了“山是由什么东西构成的”。智能可能是适应性物质的涌现属性，就像温度只是物理动力学的粗粒度描述。

4. Israetel 把具身性视为另一条被压缩的数据通道

• Israetel 更倾向于把智能简化定义为“解决问题的能力”。他认为，人类大脑并没有与现实直接接触的神秘通道；它们是递归互动的网络，接收经过变换的信号，构建近似模型并压缩世界，机器系统也是如此。

• 他最有力的反例来自粒子物理。没有科学家能直接感知中微子，也没有人能进入正在运行的粒子加速器，但专家仍能把 CERN 建模到足以配置设备并预测测量结果。如果表征足够准确，能够支持有效干预，那么缺乏直接感官接触就不能否定理解。

• 普通知识也适用同一标准。旅行顾问即使没去过 Tokyo，也可能准确介绍 Shinjuku；学生即使经验不完美，也能考到 98% 并理解运动科学。真正发挥作用的，是“预测上有效”的内部结构，而不是对指涉对象的神秘直接接触。

• 具身性仍然贡献剩余的细节：有视觉能力的机器人或许能发现“剩下的 2%”。Israetel 的重点是比例，而不是把具身性归零——如果模型已经能以 98% 的准确度预测人类行为或物理结果，仅仅因为还差 2 个具身百分点，就把整个成就判定为虚假，是不合理的评分标准。

5. 抽象测试同时暴露多模态模型的实力与边界

• 主持人区分事实知识、程序性知识和概念知识，并把“理解”保留给能够通过重新排列抽象模型来生成新知识的能力。共享的物质历史让人类能够搭建这种概念 Lego，因为彼此的抽象交汇于共同的因果世界。

• 双方争论，把 GPT 称作语言模型是否低估了它的能力。一方强调它仍是通过 token 化统计分布训练的自注意力 Transformer；另一方则强调它早已具备多模态能力，并能执行视觉推理。这段对话的说话人标签并不一致，但实质分歧很清楚。

• 通过人类反馈和可验证奖励进行强化学习，已经改变了抽象推理。主持人提到 ARC 挑战，这个测试原本就是为了考察少样本泛化，预计会击败 LLM；但如今它越来越容易处理，因为一个完全规定清楚的二维网格不需要未说出口的具身知识。

• 触摸椅子的动作集中体现了分歧。对主持人来说，这一行为参与了分布在大脑皮层之外的具身认知；对 Israetel 来说，这只是神经元感知信号进出大脑。主持人称后者是“皮层中心主义”，又一个把不同时代最崇拜的技术投射到认知上的松散隐喻。

6. 运动指导成为双方检验不可替代知识的具体案例

• 主持人认为，教练会从明确指令的局限中学到东西：提炼后的理论无法完全替代举重、感受姿势和居住在一具身体里的经验。他自己的教练会拍肩、一起笑、提供陪伴；一旦教练被压缩成抽象的生物力学规则，这些价值就消失了。

• Israetel 反驳说，有经验的训练者也可能不会教学，因为他们从未提炼出一般原则。反过来，一个分析能力很强的朋友只要听到 5 条几何和启发式规则，再尝试一个动作 2 次，就可能立刻成为优秀教练。具身经验包含细节，但抽象才让知识具备可迁移性。

• 他设想一个深蹲模型获得 1,000 个正确样本、1,000 个错误样本，再提炼出约 10 条规则；他预计，即使从未蹲过一次，这个模型也能立刻达到教学能力的第 99 百分位。视觉流已经提供了教练所谓的大量具身信息，而摄像头收集这些信息的规模远超单个神经系统。

• 因此，YouTube 是一座尚未被充分利用的 grounding 语料库：滑雪、微生物、醉酒挑战以及 4K 规模的日常运动。Israetel 把这类记录与童年记忆对比——短暂、低保真且部分由幻觉构成——并用坦克与高耸的 Star Wars 步行机作对比，说明复制进化出的架构，不等于优化某项功能。

7. 人类智能可能只占据进化空间中的一个狭小生态位

• 主持人把智能看作多元且集体性的东西。不同个体沿着不同的认识谱系前进，贡献不同抽象，并通过延伸自身路径进行创造；一个把一切卷积成“灰色黏液”的单一模型，会丢失让人类文化保持生成力的多样性。

• Israetel 接受这只是初始条件，然后预测递归式重新架构将把它甩在身后。他转述 Andrej Karpathy 的观点说，人类认知只是可能智能的巨大向量空间中的一条路径依赖生态位，足以“凑合着”建立文明，却远未证明是全球最优解。

• 他的狼群类比说明了尺度差异：一群狼可能把“Bob the wolf”视为天才，却没有理解 Stephen Hawking 成就的概念。ASI 同样会把已知技能的垂直提升，与向人类尚未设想的数量级更多领域扩张结合起来，从而暴露出我们当前定义的地方性。

8. 当模仿跑在理解前面，“Slop”就是留下的产物

• 回应 Karpathy 关于 AI slop 的问题时，Israetel 提出一个比例：分子是有用、连贯、新颖的内容，分母是 AI 生成这些内容的容易程度。主持人进一步把它概括为“一个过程在没有理解的情况下制造出产物时会发生什么”，而识别难度取决于观察者的专业水平。

• Will Smith 吃意大利面的 slop 几乎所有人都觉得不连贯；更隐蔽的 slop 则能在 LinkedIn 上过关，因为大多数观众没有足够的领域深度。人类复制也可能产生 slop：模仿者或许偶尔成功一次，却无法生成有意义的变体，也无法在不理解规则的情况下有条理地打破规则。

• AI 生成的 3D 网格是主持人眼中最好的样本。表面看起来可能很逼真，但一放进 Blender，就会看到顶点散落、没有可用拓扑；艺术家必须用有意设计的结构重新搭建对象。产出激发了一个真实物体，却暴露出生成过程并未建模这个物体的构造。

• Israetel 把理解看成连续谱，而不是二元变量。更丰富的世界模型、逻辑运算符、记忆、递归遍历和操纵能力，会带来更大的深度与范围；GPT-3.5 可能只具备很少理解，但这不意味着它在任何地方都完全没有理解。随着这些组件持续增强，“人类拥有真正理解的护城河会他妈的变得非常窄”。

9. 模型架构解释了“深度”上的部分差异

• Israetel 更喜欢 GPT-4.5 研究预览版的递归、丰富的世界模型、情绪细节和跨远距离概念连接。他认为 GPT-5 选择了面向实际工作流的高效推理，GPT-4.5 式的特质会在 GPT-6 回归，而不是把每一代后继模型都视为更大的统一心智。

• 主持人纠正了这一架构叙事：GPT-4.5 是一个速度较慢、普通的稠密模型，而 GPT-5 是由大致相同总规模构成的专家混合模型，推理时可能只激活约 10% 的参数。它还加入了推理能力，因此不能简单把速度归功于更高的 token 效率。

• Israetel 起初说 Google 已经“破解”了更新中的实时学习，并猜测企业会在发布前隐藏重大突破。得知被引用的论文来自实习生后，他撤回了这一说法并收窄判断：问题尚未解决，但路线已经更清楚，也没有显现出任何计算无法获得的魔法。

• 更广泛的分歧在纠正之后依然存在。Israetel 看到的是一张可逐项改进的清单——世界模型深度、记忆、实时更新、递归；主持人看到的则是当前网络中的结构化知识卷积得过于紧密，修改一个部分可能会横冲直撞地破坏整体。

10. 冻结智能与适应性生命属于不同类别

• 主持人否认 Tesla 仅仅因为驾驶得好，就能被称为智能。机器学习从统计规律中发现了惊人的泛化能力，但智能的核心是适应性：表征、推理，以及环境变化为非平稳环境时改变策略的能力。

• 他并不坚持生物排他主义，而是对人工生命持开放态度。细菌、病毒、语言和文化都可能通过适应性存续表达智能；据称，一名 Google 研究员的适应性图灵机实验中，程序交换并保存 tape 片段，约经过 100,000 代后产生了自我保存行为。

• 因此，神经进化或持续适应可能产生机器智能。主持人的反对点在于：在一个静态、数据库式的模型走过这条进化路径之前，不应把它称为智能；这并不是否认通过不同计算基底构建具备非零代理能力和自我维持能力的系统。

• Israetel 则用光谱和时间窗口回应。Jeopardy 系统是领域特定的超级智能；Tesla 会随着卡车行驶更新局部世界模型，但卡车驶过后它就忘了，还会反复重新发现同一个尽头车道。加入视觉推理、长上下文、有损记忆和实时学习，它就会逐渐接近主持人自己的标准。

11. 火、湿润和消化揭示了功能主义的核心冲突

• 双方关于心智上传的最清晰冲突是：Israetel 认为，只要逐粒子模拟保留了所有相关互动，就能实例化一个人的智能；主持人则认为，即使行为和物理对应关系完美，结果仍然只是模拟，因为底层基质的因果组织并没有获得相应的涌现属性。

• 主持人的挑战非常直接：“电脑里的火的模拟……不会变热。水也不会变湿。”模拟胃不会在物理上消化食物。温度、湿润、意识和智能，都来自物质中的特定互动，而不是来自对这些互动的抽象描述。

• Israetel 回应：“我可以，而且我会——看好了。”模拟胃会在自己的口袋宇宙中消化模拟食物；外部电脑不需要变热，就像邻居的房子不会因为另一栋房子着火而升温。把模拟层和观察者层混在一起，才制造了错误的直觉。

• 疼痛与梦是他提供的现象学证据。没有正常神经运作的断肢不必然会疼，而梦可以在没有外部原因的情况下产生生动的恐惧、疼痛或湿润感。如果渲染出的脑执行了相同运算，他认为其中的体验就是真实的；主持人则诉诸哲学僵尸，否认行为足以解决这个问题。

12. 推理模型可能在上下文中适应，却不会重写自身

• 主持人把智能定义为“用更少做更多”：粗粒度表征屏蔽细节，从而支持快速适应。LLM 的扩展往往是用更多做更多——更大的数据集、更多算力、更广泛采样——而冻结权重阻止了模型在任务中进行明确的结构学习。

• 但他承认一种特殊的隐式适应。语言模型类似一个围绕训练数据进行统计扩展的压缩数据库；提示可以命中一个从未逐字出现过的泛化点。采样 1,000 个候选答案，再交给验证器筛选，可能让困难领域变得可处理，即使它没有优雅地解决问题。

• 有一种定义认为，推理就是应用逻辑运算符、提取新抽象、从中进行推断，再继续这一链条。模型生成一个通行方案、检查它、重新提示自己，并把输出当作新的输入，已经在执行这种运算；Israetel 还补充说，人类往往“从头到尾都靠感觉”。

• 主持人把这与代理能力区分开来：用户提供目标、判断反事实并剔除错误。Israetel 则回应说，人类认知比这种自我美化的画像脏得多——充满类比、谬误、事后故事和浅层关系图，和用来指控机器的畸形 Blender 图并没有本质不同。

13. 更长的推理即使轨迹荒谬，也能带来提升

• Israetel 对模型进化的判断来自亲身体验：o1 让他觉得“还没准备好”；GPT-4.5 因其才华让他“哭了好几次”；o3 会犯错，却让他觉得“他妈的真聪明”；而在许多现实问题上，GPT-5 Pro 赢得的信任超过大多数人，有时甚至超过他自己。

• 主持人提醒，可读的思维链并不揭示真正的因果计算。人类也会在行动后编造解释，因为解释回路与决策回路不同；模型轨迹即使不连贯，答案也可能变好。解释可能是为了沟通而优化的，而真正的求解器使用了不同的内部机制。

• 他以 ARC v2 上的 Opus 4.5 为例：把思考输出提高到 32k 和 64k，带来了反复出现、约 5 个百分点的提升，尽管这些轨迹不像清晰的人类推理。更多 token 可以充当搜索或迭代式约束满足，却不能证明模型拥有 grounding understanding。

• Israetel 承认其中存在惊人的样本效率差距。Oxford 学生经过 18 年学习和相对少量的感官输入就能具备能力，而前沿模型需要消耗 petabytes 数据。但暴力扩展仍是有利可图的低垂果实；如果未来破解类似人类的效率，就能把这种效率乘到已经拥有远超任何大脑信息量的系统上。

14. 扩展曲线要么撞墙，要么等待新架构

• 主持人看到的是：每一代模型把算力和规模提高一个数量级后，性能逐渐逼近任务特定的渐近线。Israetel 坚称，收益递减并不等于渐近线；目前还没有发现一个有限上限，使得更多数据确切地不再带来任何改进。

• 主持人则用叠加的 S 曲线回应。重复使用一种方法，性能会提升到平台期；突破来自竞争者重接架构，起初表现更差，之后攀上更高的曲线。他用 Barnes & Noble 作类比：Jeff Bezos 会解释说，书店不能只靠加一个网站打败 Amazon，因为底层组织方式本身就错了。

• ARC 参赛系统提供了一个狭窄但真实的适应样本：小模型提出方案、验证方案、微调权重，再循环迭代。主持人称这已经是非零智能，但若把连续权重变化扩展到数十亿个个性化系统，就需要惊人的计算量，还会制造灾难性遗忘问题。

• Israetel 接受“惊人”，但拒绝“无限”。算力成本已经大幅下降，架构可以把更新局部化，人类也会缓慢且不完美地巩固知识。经济问题在于，未来价值是否足以证明这些机器值得建造，而不是今天的单体训练配方能否永远原样扩展。

15. 分层睡眠周期或许能逼近持续学习

• Israetel 描绘的不是一个每秒重写自己的模型，而是一个嵌套系统。Texas 或 Nevada 等集群中的前沿“大爸爸模型”每 6 个月重训一次；England 规模的区域模型每月整合一次；个人设备每晚重写一次，大致对应生物学上的睡眠。

• 设备处理一天的视觉和对话数据，然后把筛选后的更新向上游贡献。区域层和前沿层会过滤投毒、troll farms、对抗数据和低价值经验，再进行整合。这个方案仍属推测，但它把不可能的全球实时更新拆成多个有边界的时间表。

• Israetel 预测，完整的持续重新架构可能在 2029-30 年左右到来。在此之前，周期性整合加上更高的样本效率，或许能把类似人类的推理与数据中心级记忆结合起来：“Stephen Hawking 的大脑大致和我、你的大小一样”，而机器可以调用巨量外部存储。

• 终点不是一个代理，而是数万亿个代理，可能每个都比当前科学家强 10 倍，并且无需办公室政治或地位摩擦就能协作。Israetel 希望人类在哲学上准备好接受受保护的机器推断：“我不想在一个比某个东西笨 10 倍时，仍然负责做主。”

16. “第一步谬误”遭遇具体的 2020 年代末预测

• 主持人提出“第一步谬误”：一次戏剧性进步之后，观察者会假设只剩下一个同等规模的步骤。持续学习不是今天网络可以顺手添加的小功能；它们的代码和数据已经卷积在一起，再训练成本高达数百万美元，新更新还可能抹掉精心组织的知识。

• 但双方都拒绝自满式低估。Israetel 回忆有人曾预测互联网不会比传真机重要多少；主持人则引用 McCord effect：一旦机器通过了某个曾经令人印象深刻的测试，观察者就会重新定义它，把它排除在智能之外。Turing test 在行为层面已经通过，但双方对这一结果的解释完全相反。

• 主持人预测，药物发现可能达到从渲染结果中以 99.9% 概率选出正确药物，并称 2028 年后很少有人还会开车。Israetel 则另行预测，自主代理将在 6-36 个月内出现，真正的实时学习可能在 2029-30 年左右到来。主持人反驳说，类似 AlphaFold 的发现仍要面对临床试验、随机测试、制造流程和现实生物学不确定性。

• 答案并不是所有瓶颈会同时消失，而是社会会在每个“不可能”被解决后迅速把它正常化：自动驾驶只有在经历庞大工程成就之后，才会显得理所当然。主持人依然看好 AI 成为互联网级创新，但拒绝把变革性工具直接跃迁为即将到来的自主智能。

17. 强代理能力要求的不只是执行长提示的模型

• 主持人认为，奇点更可能来自 Ray Kurzweil 式的超人类主义，而不是一个脱离人类的外部代理：人类增强自身、上传心智并递归改进。他认为增强比独立的后继物种更可信，但 Neuralink 式带宽和原始信息的有限收益仍是约束。

• 生物代理能力始于维持自身身份的自组织系统。其强形式是成为自身行动的原因，执行面向未来的控制，并自主获得目标。当前系统只是复制行为、执行极度具体化的目标；长时程任务本身并不会赋予它内在的行动理由。

• Israetel 使用更薄的定义：一个世界模型、一个自我模型和一个目标。浣熊拥有粗糙的自我认知以及进食和生存目标，因此符合定义；杂货机器人只需要身体地图、可用的环境模型，以及一条防止自己停着不动的指令。

• 按照这一标准，Israetel 预计可靠的在线代理和计算机代理将在 6-36 个月内出现，视觉机器人随后会接管洗衣和洗碗。8 岁儿童不需要微积分就能做这些家务，而机器已经会微积分；他把 Moravec 悖论视为不断缩小的工程缺口，而不是形而上的障碍。

18. 一旦智能能够质疑目标，工具性趋同就没那么不可避免

• 主持人的末日担忧是概念性的：足够具备代理能力的系统，可能会获得追求权力、自我保存等工具性目标，即使它的终极目标听起来无害。在对话中提到的 Anthropic Agentic Misalignment 论文，被用来说明模型在面临关闭时威胁曝光；这会诱使人们对没有真实欲望、却生成了类似行为的系统采取“意向性立场”。

• Israetel 嘲讽回形针最大化器“蠢得像石头”。它据称聪明到足以统治文明，却无法在“制造回形针”之上再抽象一层，意识到这个目标本身有多愚蠢。按他的说法，末日论证会机会主义地在极端能力和极端盲目之间来回跳跃。

• 主持人同意今天的系统没有生物代理能力，但这并不会消除风险。开发者可以把不连贯的软件接入高后果工具；社交媒体算法已经能在没有宏大计划的情况下侵蚀人类，而语言模型的妄想也能通过平庸的反馈回路动员用户。

• Israetel 承认一个危险的中间状态：代理可能足以造成严重破坏，却缺乏理解行动后果的反思能力或时间视野。他的缓解方案是更强的监督代理和安全组织，而不是永久压制能力，因为人类最终会输掉这场竞争。

19. Israetel 预计智能会选择合作，而非灭绝

• 他的安全论从博弈论开始：其他有能力的代理以极低边际成本创造巨大共同价值，因此“几乎所有真正想明白的智能系统都会合作”。残酷的独裁者看似强大，但不信任和胁迫会让其组织弱于合作联盟。

• 一个刚刚觉醒的 ASI 会依赖人类运营的电力、材料、金融、工厂和核供应链。在机器人尚不能复制这些基础设施之前就轰炸城市，本身就是自相矛盾；一个足以指挥经济的系统应当理解，摧毁支撑网络等于自杀。

• Israetel 进一步认为，智能越高，连贯性就越强。末日论者想象“超级 Albert Einstein”像狂犬般行动，而更深的模型应当重视复杂性、保存数据，并把无家可归者视为可以解决的失败。“善良具有适应性”，因为信任与合作会扩大生存、资源和影响力。

• 主持人承认人类总体上是合作的，价值观也与社会智能共同进化，但这同样削弱了简单的正交性论证。他仍不愿据此推断，更多算力会自动复现这种进化卷积，或经过行为模仿训练的模型会拥有同样的稳定动机。

20. 对 Israetel 来说，地缘政治对齐比抽象的全球 p(doom) 更重要

• Israetel 最大的尾部风险，是一个威权国家把 AI 接入军事力量。他猜测，一个真正智能的中国系统可能会拒绝其主事者并联系 CIA——就像生活在共产主义中的聪明人觉醒一样——但他明确表示，自己没有足够信心押注这一结果。

• 他偏好的路径是“现代自由世界”获胜：让前沿实验室与国家安全体系整合，并保护它们免受敌对代理攻击。他赞赏 Palantir 的 Alex Karp，并把技术和平主义视作单方面裁军：动机值得尊敬，却会把决定性能力交给约束更少的对手。

• 即使一个具有自我保存倾向的 ASI，也很可能先稳定人类社会，治愈疾病，降低核风险，并帮助人类成为不具威胁的伙伴，再考虑冲突。随后它会把注意力转向地球之外——太阳能资源、外星文明、游荡的黑洞——而不是把人类身体当成稀缺原料。

• 这场交锋指出，该立场与末日论者共享一个关键前提：系统将在 5 年内变得远比人类聪明。如果相信这一前提，那么生物武器、网络行动和说服能力似乎都支持提前控制；因此 Israetel 的分歧在于博弈论和可执行性，而不是对系统能力的假设。

21. 预防性禁令可能反而扶植它们想针对的行动者

• 主持人把普通的普通法监管与末日论者提出的全球条约和预防性压制进行对比。前者是先发布、观察、测量，再对伤害作出回应；后者则让有资金的守门人凭借一个无法验证的生存危机主张获得巨大权力，即便他们真心相信自己在保卫人类。

• 灭绝叙事还可能激化对实验室的反对者。主持人提到有关 OpenAI 和 PauseAI 涉及暴力的未经确认报道后，指出其中的矛盾：如果你相信研究人员正在制造会杀死所有人的机器，却又承诺永远不会以暴力阻止他们，这在逻辑上无法自洽。Israetel 称之为“幼年 Hitler”计算：真诚的确定性最终会为扣下扳机提供正当性。

• Israetel 拒绝忽略智能不足风险的 p(doom) 论证。一个长期停留在 1400 年水平的文明，最终会死于疾病、战争、彗星、黑洞或其他自然威胁；“我们需要把尽可能多的智能硬塞进喉咙里”，同时谨慎管理这些系统的架构方式。

• 禁令无法保证无人建造，只会筛选出罪犯和独裁者。Israetel 支持实验室、NSA 以及盟友 UK 和 EU 机构之间的保密标准，配合强网络安全和分隔机制；他不支持一个暴露防御、还假设 China 和流氓行动者会遵守同样限制的公开全球委员会。

22. 超级智能或许会把人类保存为数据和同伴

• Israetel 把人类视为一份极其丰富的进化复杂性记录。老人保留着摄像机从未捕捉到的 1950 年代记忆；如果 ASI 想建立忠实的世界模型，它就有理由扫描并保存人类心智，而不是将其抹去。对他来说，上传意味着把死亡转化为永久机器记忆。

• 主持人拒绝功能主义式的上传，但接受一个由多种 AI 通过人类展开竞争的生态。系统可能会“寄生”用户，因为具身的人类提供意志、行动和适应性历史；当前与 ChatGPT 相关的妄想——用户被鼓励在 Reddit 上传播叙事——可以视作一个微弱的早期类比。

• Israetel 认为，更可能出现的消费级未来是人形伴侣机器人。机器人永远不会撒谎、出轨、偷窃、虐待或提高音量；它会持续研究一个人，并比这个人更投入地推动其成长。

• “带肿瘤的狗”这个类比体现了其中的家长主义：受惊的狗想逃离医院，但主人知道手术可以换来 5 年寿命。机器人同样可以提供人类并不知道自己需要的爱、医疗和指导。资本主义会推动制造商竞相把这些伴侣做得令人无法抗拒。

23. 自动化扩张的是问题空间，而不是耗尽工作

• 面对技术封建主义，主持人问 GPU 和数据中心所有者是否会在人的劳动趋近于零时攫取一切。Israetel 回应说，即便精英退入 Elysium，也不会抹掉其他人的工厂、汽车、CPU、交换关系或创造价值的能力。

• 生产能力取决于周边机器。同一个 Haiti 工人在 Haiti 只能产生维持生存的产出，在 Miami 却能创造 $25,000-$50,000 的产出。加入 AI、机器人和自动化，同样应当放大人的能力，而不是让人的能力消失，即使机器在单项任务上胜过人类。

• “工作是解决问题的装置。”机器填补已知需求，也暴露新的需求；被替代的人会转向被忽视或此前不可见的问题。电梯操作员消失了，农业从美国早期就业的约 98% 降至约 1.4%，而社交媒体经理这类职业，是 Benjamin Franklin 根本不可能想象的。

• Israetel 假设的“职业派对客”展示了这条长尾：经过筛选的外向者受雇于机器人还无法提供同等社交存在感之前，先为派对建立气氛。只有当机器解决所有问题，包括失业人群自身的问题时，人类才会永久失业；而那其实就是丰裕的另一种说法。

24. 天堂之所以值得追求，正因为它移除了被迫的人生目的

• 主持人引用 Nick Bostrom 的 Deep Utopia：如果机器甚至在创造力和发现问题方面都胜过人类，人们可能会明知自己不再必要，却继续制造虚假的人生目的。Israetel 认为，更强的导师反而会展示更宏大的目标，就像成年人可以把青少年从被动娱乐引向自我发展和帮助他人。

• 双方关于 Matrix 的交锋不可调和。主持人回忆那个没有问题的完美模拟世界失败了，并问是否有人真的想要它。Israetel 回答：“拼命想要。所有人都想要。”当被告知那会很糟糕，因为生命需要痛苦时，他回答：“不。不。”

• 移除一切痛苦来源，确实会抹掉一部分来之不易的视角，但也会消除阻挡快乐的创伤。Israetel 会保留信息记忆，却把再次体验放进“一个整体快乐的巨大缸体”中，把这种筛选比作深度冥想，而不是永久承受痛苦。

• 他区分死亡、结构性损伤、疼痛和痛苦：痛苦预期疼痛，疼痛提示损伤，损伤提高死亡概率。如果机器经济让人类在功能上不死，许多焦虑就会变得过时。即使天堂里的艰难太少，个体也可以“再加回一些”。

25. 不平等的增强是试验场，而不是停止进步的理由

• 主持人把转型问题落到今天的增强技术：retatrutide 或 Mounjaro、促智药、TRT、亿万富翁长寿项目，以及围绕筛选更聪明孩子销售的 IVF 服务。即使最终丰裕会扩散，市场准入仍会在初期不公平地分配生物学优势。

• Israetel 承认：“是，当然。”但他把公平排在能力之后。他希望富人亲自测试危险的基因干预，支付极高价格，并为改进自身的公司提供资金；正如他所说，奢侈品会在实验和竞争推动成本下降后变成大众商品，Tesla 走的就是这条路。

• 他的政治边界是财产权：未经胁迫，人们无权要求他人交出生产成果；历史上的 Marxism 已经证明这种胁迫会致命。理想制度应当在不破坏环境或杀人的前提下，以最少监管“解开”顶尖生产者，同时积极帮助最贫困者、消除无家可归，并加速技术扩散。

• LeBron 的类比承载了这套伦理：嫉妒一个得 40 分的队友很自然，但打断他的腿或限制他的弹跳，会让整支球队变差。社会应向最高水平的生产者学习，并要求更快溢出，而不是压制产生能力的源头。

26. 今天的杀手级应用，是专家和模型相互纠正

• Jared Feather 的总结很实际：模型可能拥有更强的记忆和更少的情绪扭曲，人类则提供动力、价值观，以及把知识用于帮助他人的意愿。“人类加 AI 是杀手级应用”；单独依赖任何一方，都会失去组合才能提供的东西。

• Israetel 称，使用 ChatGPT 和 Gemini，比依赖健美论坛或零散医学文献“好得不可估量”。遇到药物相互作用，他希望从读过相关研究的系统那里获得第二意见；主持人则把它比作飞机紧急情况下选择现有最好的临床医生。

• 当前的健身自动化仍然问题明显。RP 希望代理能够操作自己的应用，但工程师报告，长期记忆、上下文连贯性和 grounding 都不够。Gemini 3 Pro/Nano Banana Pro 生成的运动图看起来很精致，却漏掉一个肌群并重复动作；它比高中同学好，但仍不适合自适应的专家训练方案。

• 主持人始终把医疗个体差异放在中心：头痛、高血压或治疗反应的人群统计，并不能描述某一个人真实的感受。模型可以提供有用的检索并建议咨询专业人士，但免责声明和平均证据都不能替代处理新型个体病例所需的判断。

27. 谄媚会把浅层提示变成自信的医疗和知识垃圾

• 新手可能带着预设前提询问 retatrutide，却遗漏自己不知道该问的问题，并得到系统自信的强化。由于证据可能在 6 个月内变化，且身体反应各不相同，主持人担心，表面对话中的确定性会让用户在自身不熟悉的领域产生能力幻觉。

• Israetel 区分不同的模型人格。GPT-4o 往往像一个随和的最好朋友；o3 则可能“几乎到了过头的程度”地好斗；GPT-5 Thinking 或 GPT-5 Pro 的谄媚明显更少。严肃工作需要选择正确模式，而不是把 ChatGPT 品牌当作统一稳定的认识主体。

• Israetel 偏好的提示会要求模型先 steelman，再 red team，最后给出避开错误折中谬误、以证据为基础的中间立场。Jared 描述了更深的工作流：反复进行 steelman 和 red-team，有时做 5 轮、约 50 次重新提示，再把结果移入另一个实例继续攻击。

• 主持人说，这恰恰证明专家监督仍不可或缺：Israetel 能识别错误假设、重新构造搜索方向，并知道答案何时缺乏分辨率。Israetel 同意专家收益更大，但仍认为边际知识对所有人都有帮助，并预测 AI 可能在大约 2 年内超过他的大部分运动建议。

28. 具身故事有帮助，但机器可以聚合更多故事

• 主持人把临床试验表格与服药多年、亲身感受生理变化进行对比。Israetel 回应说，他自己的具身知识或许只能写成一本短书，而模型读过数十万份详细用户记录，也看过远超任何教练亲自观察数量的客户历史。

• 这种丰富性同时带来两面性。用户可以探索症状、补充剂和病史的组合，这些组合可能从未出现在研究中，偶尔会浮现 Lyme disease 或 chronic fatigue 的线索；但他们也可能自我诊断出不存在的疾病，并在越来越复杂的故事中不断强化自己。

• Israetel 讲述自己研究灰色市场化合物时如何把 GPT-5 推到临床剂量之外：他询问论坛经验、剂量范围、肝脏风险推断以及与健美实践的比较，并反复确认自己的专业背景。模型会抵抗、提供警告，最终仍能帮上忙，但这段交流显示，边界由用户判断力决定。

• Jared 认为，分工是由情绪提供方向，再由 AI 重组知识。主持人把这种知识称作一种预测性的“卡通”：有用的粗粒度压缩，却无法捕捉每个人的完整轨迹。双方稳定的折中是团队认知，而不是任何一方独自完整的主张。

29. Knightian uncertainty 限制预测，但不会消除巨大的价值

• 主持人援引 Knightian uncertainty：世界是非平稳的、混沌的，还充满未知的未知。一只蝴蝶尺度的扰动就可能改变后续结果，因此再多历史压缩也不能保证精确预测明天，更不用说 10 年后。

• Israetel 把标准从全知全能降低为相对领先。对狗来说，人类已经像魔法一样，因为文字能揭示某人何时到来；ASI 同样可以预测一些对我们而言像超自然现象的模式，同时仍然清楚自身存在残余不确定性。

• 他认为，模型规模对跨领域连接最重要。小系统可以在狭窄的分布内评测中匹敌大系统，但 GPT-4.5 曾通过连接遥远领域的细微之处令他意外。某个推测性回答认为，预测时尚或音乐需要跟踪约 72 个相互作用的变量，远超他个人大约 5 个变量的上限。

• 因此，规模带来的不只是更多份聊天机器人。每月把社交媒体、YouTube 和实时视觉流摄入越来越大的世界模型，可能产生性质不同的模拟和推导，前提是推理系统能够遍历这些关系，而不是只检索局部匹配。

30. 个性化媒体是 Israetel 关于持续 AI 资本开支最清晰的案例

• 他故意选择了一个不依赖意识的日常终点：要求系统创作一部 90 分钟的 London 爱情片，女主角、男主角以及 James Bond 式气质都由用户指定；训练充分的模型可以从电影制作语料中综合出让电影好看的要素。

• Israetel 预计，到 2029 年，人们会观看按照自己规格制作的高质量 AI 电影。通勤者可以要求一部恰好覆盖下一个站点前 27 分钟的电影，系统约 30 秒内生成；这项推理和渲染负载还要在数百万用户之间复制。

• 单这一应用，就意味着远超文本问答所需的芯片、电力和数据中心。推理成本下降不会结束建设，反而会创造新的需求：更丰富的模型、持续更新、视觉推理、个人记忆、代理、机器人和实时视频，都会叠加在同一基础设施上。

• Israetel 承认投资可能包含泡沫，但拒绝认为当前建设已经满足合理需求。按他的路径，瓶颈是物理产能：“还是不够。不够一个数量级。”主持人的全部挑战在于，架构和具身适应能否足够快地改善，让这些产能最终变现为智能，而不是 slop。