Michael Nielsen：为什么外星文明会拥有与我们不同的技术栈

摘要

• Dwarkesh 带入节目的前提——AI 会像在编程领域那样，在科学上一路狂奔，因为两者都有紧密的验证闭环——正是本期要拆解的观点。 Nielsen 最有力的反例是 Prout 1815 年提出的假说：所有原子核的重量都是整数；氯的测量值先是35.5，随后更精确地变成35.46，反而离正确分数更远，而不是更近。人们花了85年才发现，同位素在化学上无法区分，这意味着在将近1个世纪里，验证闭环都在“主动排斥正确理论”。
• Nielsen 对标志性 AI for Science 成果的重新定性，是整场对话里最值得交易的一句话：AlphaFold 真正的核心并不是 AI。 胜果建立在 Protein Data Bank 之上——X射线衍射、NMR、冷冻电镜，以及为获得约18万种结构投入的数十亿美元——之后“我们只是在最后拟合了一个漂亮的模型，而这只占整个投入的一小部分”。主导性投入是仪器化数据采集，而不是模型能力。
• 瓶颈不会消失，只会迁移，而 Nielsen 认为这几乎是定义使然：你必然会在现有方法无法适用的地方遇到瓶颈。 他举了程序员朋友的实时案例：原型开发从3周缩短到3小时，但他们现在卡在如何提出有趣的设计想法上——“我们没有真正的验证闭环，来判断一个设计想法是否足够有趣”。
• 对于一个参数量超过1亿的模型能否成为解释，Nielsen 提出3种理解，并认真对待第3种：这类模型可能是“一种新型对象”，可以像 Mathematica 处理方程那样被合并、蒸馏。 100页的方程过去意味着走进死胡同，如今却可能变成可操作的对象。Dwarkesh 的反驳很尖锐：如果用1500年的天空数据训练深度学习模型，它只会发现更多本轮，参数从X到Y编码下一个本轮——“我们还没有相应的动词”。
• 边际收益递减可能是偶然形成的，而非内生属性。 Nielsen 用自助餐作比：静态情况下，最好吃的甜点确实会先被拿走；但他认为总有人持续补货。计算机科学就是数学哲学中一些晦涩问题的副产品，“边际收益递减论在那里面根本不成立”。针对 Bloom 发现摩尔定律每年40%的密度提升，需要半导体科学家数量每年增加9%，他的回应是这些指标刻意设得过窄；一个可能的突破口在制度层面，包括资本配置、人才培养，以及“让研究人员获得基本安全感，不必担心宗教裁判所”。
• 反决定论的核心判断是：“技术树的大部分分支永远不会被探索。” 深层想法太多，而探索者太少，所以方向选择确实重要。他把 DDT、含氯氟烃和《不扩散核武器条约》视为早期证据：制度可以提前决定“我们不走那条路”，这与技术发展不可避免的叙事正相反。
• Dwarkesh 提出一个 Nielsen 之前没想过的观察：如果技术树具有路径依赖，那么遥远未来的文明之间会存在“巨大的贸易收益”，“这会让友好变得更有回报”。 Nielsen 的保留意见是，思想传播成本低，产能却不会；比较优势只是“一个特殊且有限的模型”——“黑猩猩能做有趣的事情，但我们不会和它们贸易”。
• 对任何资助研究的人而言，组合管理的教训是：同一种动作可能带来截然不同、事前无法预测的结果。 天王星的轨道偏差在1846年带来了海王星；水星每世纪43角秒的偏差则带来了不存在的 Vulcan，最终需要广义相对论来解释。Nielsen 的规则是：“事前你无法判断哪一个才是该做的，实际上两件事都必须做。” Dwarkesh 又补充了一个基准概率：99.9%的异常都很平庸，比如 Pioneer 探测器的非对称热辐射。

精读

1. Michelson-Morley 实验没有杀死以太——证伪从来不是教科书写的那回事

• Nielsen 修正了 YouTube 版本的叙事：Michelson 和 Morley 做实验，是为了相互检验关于以太的不同理论，具体是在寻找以太风——光线顺着以太风传播会更快，逆着传播会更慢。他们没有发现以太风。这一结果“排除了部分以太理论，但不是全部”；当时的主流物理学家将其解读为：“这让我们获得了大量关于以太应当是什么的信息，但并不能说明以太不存在。”
• 关键细节在于，失败理论的支持者坚持了多久。Michelson 在1881年完成第一次实验，Rayleigh 指出问题后于1887年重做；到了1920年代，他仍在进行以太实验，直到大约1929年去世前一直相信以太，甚至在去世前1到2年还公开发表过这一立场。
• Miller 也没有停手。他登上 Mount Wilson，认为在更高海拔处，地球不会把以太风一并拖着走，并宣布自己测到了这一效应。Einstein 的回应是本期第一个精彩句子：“上帝深邃莫测，但并不怀有恶意。”
• Nielsen 对方法论的判断保持了同样的谨慎：“这当然不能证明关于证伪的观念是错误的，或已经被证伪；但它确实说明，最朴素的那些想法……事情往往比你以为的复杂得多。” Dwarkesh 又补充说，连定冠词都暴露了问题——仅仅是那里用了“the”，其实就是误称。

2. 在实验更偏爱相对论之前，科学共同体已经倾向于它

• Lorentz 在 Einstein 之前就得出了正确的参考系转换数学，但仍通过以太来解释：长度收缩和时间膨胀，是“穿过以太所产生的效应”；以太压力会“扭曲时钟”，也会扭曲长度测量。他所说的“地方时”并不是一个试图赋予物理意义的量；Nielsen 认为，Poincaré 更接近于意识到它其实就是时钟记录的时间。
• 介子证据又过了40多年才出现。Nielsen 讲的是一个故事，而非一条数据：宇宙射线撞击大气层，产生介子；在经典假设下，介子的衰变速度太慢，根本无法在抵达地面前完成衰变。Nielsen 说，约1940年测得、可能于1941年发表的衰变率，与狭义相对论完全吻合。如果 Lorentz 当时还活着，“很可能会再次修补自己的理论，试图把它拯救出来”。
• Dwarkesh 更谨慎地重述自己的观点：科学共同体“在实验真正显示哪种解释更优之前，就接受了我们事后认为更正确的解释”。Nielsen 立即打断了“过程”这个词：它“带有某种预先设定好的意味”，而事实上不存在中央权威，也不存在统一方法。Lorentz、Poincaré 和 Michelson 都是杰出科学家，却“始终没有与这一事实和解”。
• Nielsen 留下的主线是：“伟大的科学家在科学共同体整体改变看法之后，仍可能长时间坚持错误。” 进步依然会发生，只是没有一个可以清晰表述的程序来解释它如何发生。

3. 专业知识也是牢笼——Poincaré 拥有前提，却仍然错过了结论

• Nielsen 认为 Poincaré 的案例尤其惊人：他似乎已经拥有相对性原理，以及所有惯性系中的光速恒定——“基本上就是 Einstein 用来推导狭义相对论的那些想法”——但仍把长度收缩当成一种动力学效应，认为粒子受到外部力量而被推挤到一起，而不是纯粹的运动学现象。
• Nielsen 说，在一篇发表于1909年的论文中，这种动力学图景依然存在，而诚实的答案是：“他为什么要抓住这个想法不放？我不知道。我显然从没见过这个人。” 录音室里给出的诊断是：“他几乎像是知道得太多了。他脑子里有一个过于宏大的愿景。” Einstein 的胜利，反而来自删减。
• Nielsen 提出一个明确带有保留、且存在争议的猜测：Einstein 在1890年代还是少年时，也相信以太，但“他没有像那些年长者一样紧紧抓住它。也许他们有点成了自身专业知识的囚徒。这是我的猜测。一些科学史家当然会不同意。” Nielsen 还指出，Einstein 后来在量子力学和宇宙学上也扮演了类似角色。

4. 哥白尼既不更准确，也不更简单——真正具有说服力的是统一解释

• Dwarkesh 对这一问题的铺垫，是检验科学品味的最好案例：托勒密模型更准确，因为经过数百年积累，它加入了大量本轮；而不太为人所知的是，哥白尼需要更多本轮，而不是更少，因为他坚持地球以匀速做完美圆周运动。“那么，你怎么可能在事前知道哥白尼是对的、托勒密是错的？”
• Nielsen 给出的部分答案，是他认为有说服力的解释，而非对历史记录的复述：Newton 的万有引力同时解释了 Kepler 的行星运动、地球上抛掷物体的抛物线轨迹，以及月球和太阳对水体引力造成的潮汐。“看起来完全不同、彼此割裂的3种现象，竟然都由同一组思想解释。这开始让人觉得非常有说服力。”
• Keynes 关于 Newton 的文章，为这种头脑提供了框架：“Newton 不是理性时代的第一个人，而是魔法师时代的最后一个人；他是最后一位伟大的思想家，他观察可见世界和思想世界时，所用的目光与那些不到1万年前开始构建我们知识遗产的人相同。” Keynes 还写道，Newton 的秘传研究显示出“疯狂中的极端方法性”，如果不考虑其全部内容和目的都带有魔法色彩，那么它们“与《原理》一样理智”。
• Dwarkesh 将问题转化为真正的 AI 命题：曾帮助 Newton 和 Einstein 的简约性与审美判断，是否能够跨越时代和学科迁移？“即使我们无法为科学建立验证闭环，也许只要品味测试指向同一方向，至少可以把这种偏向编码进 AI。”

5. 瓶颈会按定义迁移到方法失效的地方

• Nielsen 对“把品味编码进去”这一希望的回答是结构性的：“如果你试图把科学还原成一个过程，你就是在试图把它还原成某种可以套用的方法：转动曲柄，洞见就会自己蹦出来。你确实可以做到一部分，但最终一定会在现有方法无法适用的地方遇到瓶颈。按定义，这里没有曲柄可转。”
• 因为人们研究那些已经被证明有效的东西，所以不会在前人曾经卡住的地方继续卡住——“他们会在不同的地方不断遇到瓶颈”。一个想法越难，堵塞的规模越大，最终的回报也越大：“瓶颈越大，胜利也越大。”
• Dwarkesh 给这个理论提出了一个难题：《Principia》发表于1687年，《物种起源》发表于1859年，而 Huxley 对 Darwin 的反应是：“这么愚蠢的事情，怎么之前没人想到？” 但没有人读《Principia》时会想，自己本可以抢在 Newton 之前想到它。Nielsen 认为，Darwin 的天才不在于提出这个想法——动物育种者早已知道人工选择——而在于“理解它对生物学究竟有多核心”，并完成把它与地质学及其他一切连接起来的艰苦工作。
• 这正是验证闭环差异的体现：Newton 可以检验月球轨道周期和潮汐；但对 Darwin 来说，“没有任何一个单独事实具有压倒性力量”，而且他没有机制、没有基因。Dwarkesh 提到的时间线——1830年代 Lyell 提出的深时观、古生物学、殖民时代带来的生物地理学，以及 Wallace 几乎同时寄来的论文——说明这些积木都是必要条件。“Darwin 的反应是：‘操。’我不认为这是逐字引用，但基本准确。” Nielsen 同意深时观是承重结构：如果采用 Ussher 的6,000年时间尺度，就必须假设进化在人的一生中以极高速度发生，但现实中完全看不到这种现象。

6. AlphaFold 是一场披着 AI 外衣的数据采集工程

• Nielsen 用非常平淡的语气说出一个足以让人重新思考“闭合发现的强化学习循环”的事实：“到目前为止最大的标志性成功，当然是 AlphaFold。但 AlphaFold 真正的核心并不是 AI。” 其中绝大部分成功来自 Protein Data Bank：X射线衍射、NMR、冷冻电镜，以及为获得约18万种蛋白质结构投入的数十亿美元。
• 对任何承保 AI for Science 的人而言，顺序很重要：“我们花了几十年时间，通过极其仔细地观察现实世界来获得蛋白质结构，然后在最后拟合了一个漂亮的模型，而这只占全部投入的一小部分。” Nielsen 认为 AI 部分“非常令人印象深刻，也非常非凡”，但它只是整个故事的一小部分。
• 他并不是要因此否定成果——结构生物学家“似乎认为 AlphaFold 是一次巨大的进步。这是一个冲击”。他真正提出的问题更窄，也更准确：“我们主要卡在某一种事情上，还是同时卡在多种事情上？”

7. 训练出来的模型是解释吗？3种答案，以及“我们还没有相应的动词”

• Dwarkesh 将问题推向下一个层面：广义相对论最终归结为方程，并能预测它从未被用来解释的现象，比如水星近日点进动；而 AlphaFold“把我们甚至无法通过超过1亿参数解读的各种关系编码在一起”。这两者真的是同一种东西吗？Nielsen 称其为“可能极其关键的问题”。
• 第一个答案最保守：人们希望用尽可能少的自由参数、尽可能简单的模型解释尽可能多的现象，因此 AlphaFold“作为模型很漂亮，也可能有用，但它不是科学解释”。第二个答案是，它内部包含许多微型解释，可以通过可解释性研究进行“AlphaFold 考古”并提取出来。他举的先例是 Magnus Carlsen 似乎在 AlphaZero 被公开分析后改变了自己的棋风，但“我不认为有任何公开确认”。
• 第三个答案是 Nielsen 最感兴趣的：模型是“一种新型对象”，应该认真把它们当作解释，因为现在“我们可以合并它们，也可以蒸馏它们”。他想到的是 Mathematica：1920年，一条100页的方程意味着你只能放弃；而今天，“它已经成为一个对象，一个你可以操作的东西”，有时最后还能得到简单答案。
• Dwarkesh 的反驳是整场对话中最有力的一刻：在1500年，用天空观测数据训练一个深度学习模型，再对它进行解释，“你只会不断在托勒密模型上继续加东西……参数X到Y编码下一个本轮”。蒸馏可以在局部降低误差，但哥白尼式转向在全局上更优、在局部上却更差——“如果只是原始梯度下降，我不太觉得它会做到这一点。” 他的总结是：“我们还没有相应的动词。” Nielsen 的回应则提出了强制性条件：Einstein 立刻看出，牛顿式超距作用加上狭义相对论会允许超光速传信，而“意识到这里存在一个大问题，并不需要太大的飞跃”。

8. 验证闭环可能敌视正确答案85年——所以每条研究路线都要保留

• Nielsen 的成对案例，是支持研究组合广度的最清晰论证：天王星偏离预测位置，带来了海王星——“这是 Newton 万有引力的辉煌、巨大的成功”；水星偏离预测位置——Dwarkesh 提供了每世纪43角秒——却带来了并不存在的 Vulcan。“你追求的是非常相似的想法，但一个案例极其成功，另一个则彻底、完全失败。事前你无法判断哪一个才是该做的，实际上两件事都必须做。”
• Dwarkesh 详细说明了一个坚定的牛顿主义者会如何继续拯救理论：宇宙尘埃遮住了行星；行星太小、看不见；造一台更大的望远镜；或者磁场破坏了测量。Nielsen 举了1990年代 Pioneer 探测器的版本：探测器轨道略有偏差，你可以兴奋地认为广义相对论错了，但最终被接受的答案是非对称热辐射产生了一个指向太阳的微小加速度。
• 基准概率才是结论，而且它与这些故事通常的讲法相反：“99.9%的时候，最后都只是某种类似这种热加速度的效应……遗憾的是，这些故事里有大量选择偏差。” Dwarkesh 又补充说：“不存在任何事前启发式，能告诉你自己处于哪一种情况。”
• Prout 是 Lakatos 意义上的极端案例。1815年，一位化学家提出所有原子核的重量都是整数；氯测得35.5；当更好的测量给出35.46时，这个半整数修补方案反而离正确分数更远，而不是更近。85年后，人们发现同位素在物理上可以区分、但在化学上无法区分。“你只需要这个残余现象来支撑理论……事前没有理由认为它就是更优理论。”

9. 技术树巨大，边际收益递减可能是偶然的，而大多数分支永远不会有人走上去

• Nielsen 用计算机科学来激发直觉：它在1930年代已经拥有“万物理论”，此后却花了“90多年探索其后果”。公钥密码学“极其深刻，非常不显然”，早在1930年代就已经潜藏其中，而其内部又包含了加密货币和集体维护账本背后的思想。Knuth 的轶事则完成了封口：有人让他“等有1,000个深刻定理时再回来”，几十年后他指出，“现在显然已经有1,000个深刻定理了”。
• 物态也说明了同一件事：学校里通常只讲3种，有时讲4种或5种；但后来又有超导体、超流体、玻色—爱因斯坦凝聚态、量子霍尔体系和分数量子霍尔体系——“在某种意义上，我们将开始能够设计它们”。他对探索者的自评是：“我们基本上只是稍微进化了一点的黑猩猩，所以动作很慢，需要时间。”
• 面对 Dwarkesh 基于 Bloom 的挑战——摩尔定律带来晶体管密度每年40%的增长，同时要求半导体科学家数量每年增加9%，而且这一规律在一个又一个行业中得到复制——Nielsen 先攻击了问题的框架：“他们举的所有例子都很窄……那里根本没有 GPU。” 但他承认这一现象可能真实存在，并指出外部条件可能是原因之一：1700年以前的进步缓慢而不规律，部分原因在于“思想周围需要制度”，包括人才训练、资本配置，以及“让研究人员获得基本安全感，不必担心宗教裁判所”。甜点自助餐会不断补货，这正是新领域能让21岁年轻人取得突破的原因。
• 他最坚定、也最有后果的结论是：“技术树的大部分分支永远不会被探索。” 等待发现的深层想法太多，不仅是我们，任何文明都不可能发现其中的大多数。因此他反感技术决定论，并认为 DDT、含氯氟烃和《不扩散核武器条约》都是塑造分支选择的制度。Dwarkesh 进一步推论，路径依赖的技术树意味着文明之间在遥远未来存在贸易收益，因此“会让友好变得更有回报”。Nielsen 回应：“我完全没想过这一点。” 但他也指出边界：思想传播便宜，制造能力不会；“黑猩猩能做有趣的事情，但我们不会和它们贸易。” Dwarkesh 自己的保留意见是，比较优势并不保证贸易条件高于生存线：我们不会让马继续走在道路上，而在旧金山养一匹马，每年花费10万美元也不值得。

10. 学科是在条件成熟时打开的，不是在天才出现时打开的

• 当被问到为什么量子计算在1950年代还不存在——von Neumann 既开创了计算学，又写过量子力学领域的重要著作——Nielsen 给出的答案刻意保持平庸：两件互不相关的事情在1980年前后同时成熟。计算变得切实可感，是因为“你可以买一台 Apple II，也可以买一台 Commodore 64”；而 Paul trap 则首次让人们能够捕获单个离子、操纵单个量子态。
• 他留下的画面是：Feynman 在1980年或1981年前后拿到第一批个人电脑之一，“显然兴奋到了极点，抱着这台全新的计算设备走路时，竟然绊倒并严重受伤”。一个在量子力学上如此有天赋的人，恰好又对这些机器如此兴奋，这是“一个非常依赖历史偶然性的巧合……10年前你能讲出什么类似的故事？那些条件根本不存在。”
• 他自己的入行经历，是后续市场如何形成的第一人称版本。“1985年我11岁。我根本没想这些。我在踢足球。” 1992年，他上了 Gerard Milburn 的量子力学课程，开口索要论文，拿到“一大摞”材料，其中包括 Deutsch 和 Feynman 的论文；当时全世界基本没人研究这个方向。“在某种意义上，我受益于另一个人的品味。” 真正吸引他的是 Deutsch 的猜想：量子图灵机可以高效模拟任何物理系统——“我觉得他在那篇论文里基本上声称自己已经证明了这一点，但我不确定所有人都会同意。”
• 对量子计算的上限，他拒绝接受 Dwarkesh 的紧边界：“我们只思考了它大约40年……作为一个文明，我们还没有认真思考过它。” 更关键的是，“我们一直在没有设备的帮助下研究它。这是一个相当大的瓶颈。” 他提出一个明确标注为推测的设想：可能会先经历一段运行在经典计算机上的 AGI 时代，随后进入量子机器上的 AQGI 时代，“很可能能够完成严格更大类别的潜在有趣计算”。

11. 归因经济是被发明出来的，真正的瓶颈在于你如何学习

• Nielsen 认为，开放科学的胜利在于 Dwarkesh 不需要先定义它；20年前，他可能必须这么做。更深层的问题是，信用本身是被构造出来的：3个世纪前，Galileo 和 Kepler 有时会把研究成果写成打乱顺序的字谜，留待日后解开，以此主张优先权——“这不是发现系统的理想基础”。人类花了超过1个世纪，才发展出论文、归因和声誉经济。如今，代码、数据和进行中的想法都可以在没有信用归属的情况下共享。
• 他最喜欢的例子说明，这完全是社会建构：生物学家告诉他，“生物学的竞争远比物理学激烈，我们必须保护优先权，所以绝不可能上传到预印本库”；物理学家却告诉他，“物理学的竞争远比生物学激烈，我们必须尽快上传到预印本库，以确立优先权”。“任何试图改变这种经济的做法，都会产生另一套构建知识的系统。”
• 关于产出数量，Dwarkesh 引用 Dean Keith Simonton 的等概率法则：任何一篇论文或一本书产生影响的概率大致相同，因此生产力就是发表数量；“Shakespeare 只是发表了很多东西”。Gödel 则是反例，他“几乎什么都没发表”。Nielsen 将工作拆成两类：常规工作，要尽快做好、外包，不要拖延；高方差工作，则要愿意投入时间并接受失败。他也承认自己的账本：“有时我觉得自己太慢了。” 他想写的一本书，是“关于那些才华横溢却差一点成功的人，写出大量传记”——比如曾拿到 IMO 金牌、后来试图成为数学家却失败的人，因为“很多时候，这比其他任何东西都更有信息量”。
• 最后的心理治疗式收束，是全场最实用的一段。Nielsen 会对没有解出问题的学生追问：“如果这里有100万美元，你会投入同样的努力吗？” 而答案总是不会。“他们尝试过，但并没有真正尝试。” Dwarkesh 对自己工作的诊断是，AI 节目有一个强制函数——把 Transformer 实现出来，就等于把某些东西钉死；历史节目却没有。卡住本身才是机制：几天写完的文章什么也没教会他，而花3个月写的文章，15年后他仍然记得。Nielsen 最后借 Alan Kay 评价 Linux 的话提醒 LLM 的风险：“它只是一个巨大的一团泥巴。” 因为“对于某类头脑来说，学习系统本身具有诱惑力，很容易把这种学习与理解混为一谈”。