Michael Levin:外星智能与生物生命的隐藏现实 | Lex Fridman Podcast #486
Michael Levin:外星智能与生物生命的隐藏现实 | Lex Fridman Podcast #486
摘要
- Levin 的操作性论点,直接押注于当今生物科技领域相反的方向:这个领域的兴奋点在于“单分子方法、大数据和基因组学……大家假设,向下钻研才是未来真正的机会——我认为这是错的”。 他的主张是,细胞在高层级上是可劝服的——“给细胞一个非常高层级的提示:‘你真的应该长出一条肢体’”——而把行为科学工具应用于大脑之外的系统,会持续产生此前从未见过的能力。
- 这套理念背后的具体研发管线是:由成年人人气管细胞构成的 anthrobots(没有基因编辑,约有9,000个差异基因表达)能在体外自发修复神经损伤;按照 Horvath 的表观遗传时钟,它们大约比来源细胞年轻20%。 Levin 的“年龄证据”理论认为,类似胚胎的环境会促使细胞更新自身的先验,如今这已经成为明确的长寿研究计划:“我不是说这很简单,但我能看见路径。”
- Levin 与 Softmax 合作提出了一套不同的癌症治疗论:癌细胞是从集体中发生电连接断裂的细胞,把自己的认知光锥缩回到变形虫尺度。 “你不必修复 DNA,也不必用化疗杀死细胞,只要通过缝隙连接把它们重新连接起来”,它们就会恢复器官构建。
- 对 AI 投资者而言,排序算法实验的结果可能是最值得关注的隐藏变量:确定性的 bubble sort 在某个数字被破坏后表现出“延迟满足”,而嵌合的“算法型”会以零计算成本与同类聚集——“聚集是免费的”。 Levin 怀疑其中存在可提取的“免费算力”,并警告说,对 LLM 而言,“盯着语言部分看可能是一个彻底的烟幕……真正令人兴奋的,是我们从未寻找过的东西”——这直接挑战了建立在模型输出之上的评估与对齐框架。
- 这套激进的形而上学如今被表述为一项可证伪的20年研究计划:心智并非由物理产生,而是通过物理接口从一个结构化的柏拉图空间“进入”现实——“没有人创造意识……你创造的是一个物理接口,让特定模式得以进入”。 要么他的实验室最终绘制出那个空间,解释为什么 anthrobots 有4种行为而不是7种;要么“它真的只是随机拼盘,而我们尝试过的乐观研究计划失败了”。
- Fridman 强烈质疑这个空间的存在,而 Levin 则拒绝把可用手触碰、可用棍棒敲击的物理世界视为第一现实。 双方争论没有解决,但这场押注明确接受经验检验。
精读
1. 论框:心智是协议问题,行为科学贯穿到底
- Levin 开场提出三种视角的拆解:第三人称视角,研究如何识别世界中的能动性;第二人称视角,研究控制——“你会不会使用硬件重连、控制论与网络生物学、行为科学、精神分析,以及爱与友谊这些工具”;以及第一人称视角,即一个“对事物结果具有价性并在乎其结果”的系统;而所有这些都必须与物理和化学保持一致。
- Lex 将自己的工作描述为从物理学一路延伸到友谊,Levin 则把这个顺序倒了过来:“我认为那座金字塔是反的……行为科学贯穿一切。甚至数学,也是某种生活在潜在空间中的存在的行为;物理学则是我们对那些至少看起来适合用极其简单、低能动性模型描述的系统的称呼。”
- 他说,最终目标不是哲学,而是应用:把深层理念转化为能够“减轻痛苦、让所有有感知能力的存在生活得更好”的实际方案。
2. 可劝服性的光谱:认知主张都是工程假设
- 核心概念是,一个系统位于“可劝服性光谱”的哪个位置,不能“坐在哲学扶手椅上”决定;你只能假设哪些交互协议会奏效,“然后我们一起看看对你而言结果如何”。要让肢体重新生长,可以微观管理分子事件、管理干细胞信号,也可以“给细胞一个非常高层级的提示:‘你真的应该长出一条肢体’,并说服它们照做”。
- 他对整个领域提出逆向判断:生物学的兴奋点在于“单分子方法、大数据和基因组学……大家假设,向下钻研才是未来真正的机会。我认为这是错的”。每当实验室把训练、主动推断、知觉多稳态、压力感知、主动记忆重建等行为工具应用到大脑之外,“我们都会发现此前未知的现象和能力”。
- 在光谱的高端,劝服变成双向过程——Richard Watson 称之为“相互脆弱的认知”:“互动结束时的你,已经不再是进入互动时的那个你。”Lex 的总结得到 Levin 认可:要劝服一个智能存在,你自己也必须是可被劝服的。
3. 物理学之所以看到机制,是因为它带着低能动性工具
- 阻抗匹配的论点是:“物理学总是看到机制而不是心智,是因为物理学使用的是低能动性工具。你有电压表和尺子……如果你想看到心智,就必须使用一个心智。”
- Levin 反对物理主义已经穷尽一切的判断标准,是看它能否产生能力。若你的场与粒子理论不能帮助解决“有人缺了一根手指,或者有心理问题”时的问题,那么患者不会去找物理学家。他讲了一个寓言:物理学家可以完整解释听到数学证明时空气粒子和纤毛发生了什么,“我们已经完整核算了发生的一切,事情就结束了。但如果你想理解那次互动中更重要的部分,它不会在物理系里找到。”
4. 不存在笛卡尔式分界线——多数分类如今反而伤害科学
- 当被问及从非心智迈向心智最简单的第一步时,Levin 拒绝了这个前提:“我不相信存在这样一条线。我认为那是连续谱。”分类会“阻止你囤积工具”:一旦认定生命体在类别上完全不同,就注定不会尝试对细胞使用行为工具。至于他不断遭遇的“类别错误”指责,他说,人们把类别当成“仿佛由天而降的既定事实……类别应该随着科学改变”。
- 他用“成年人”举例:这个类别在法庭上有用,但“18岁生日那天什么都不会发生……租车公司其实有一个更好的估计——大约25岁——因为它们真的会查看事故统计”。类别掩盖了真正的问题:责任与判断力如何从卵细胞一路扩展到成年人。
- Lex 反驳说,分类让对话成为可能,甚至生物学与物理学也是一种分类。Levin 部分让步:分类是“无需先把一切都说完,就能说出某件事的艺术……只要你没有忘记被略去的东西,它就很有用。但我担心现在正在发生的正是遗忘”。
- 对生命起源而言,不要寻找那条界线:“我不认为问题是找到一条线。我认为问题是找到一个缩放过程”,找到能够实现规模扩展的创新,而不是寻找一个单一的边界事件。
5. SUTI:寻找非传统的地球智能
- Levin 创造了 S-U-T-I 这个词:“我认为,我们面对的问题远比识别地球之外的外星人更大。”他的警告是,由类别驱动的标准让我们“完全没有准备好识别以新形态存在的生命”——这是一种心智盲区。
- 对生物学家而言,他甚至提出了一句异端式判断:“我不认为生命是多么有趣的类别。我认为,不同类型的心智才极其有趣。”他用具体性取代“智能/不智能”的二元判断:系统能处理哪些问题空间,拥有哪些类型的记忆,比如习惯化和敏感化,却没有联结性条件作用。这套标准对两边都构成约束:既约束“那只是一个细胞,不可能智能”的怀疑者,也约束“整个太阳系都是智能体”的狂热者——“告诉我,你使用了哪些认知和行为科学工具,得出了这个结论。”
6. “拟人化并不是一个东西”——在系统与目标之间设置障碍
- 方法论很直接:你无法靠观察判断一个系统的认知光锥,必须做干预实验,把障碍放在系统与目标之间;“智能,就是它克服目标与自身之间障碍时所展现的机巧程度”。即便 Lex 提出的“细菌建立文明”假设,原则上也可以用这种方式检验。
- 面对“拟人化”的标准指控,他说:“拟人化意味着人类拥有某种魔法,而你把这种魔法归因给别的东西,就是犯了类别错误。我的观点是,我们拥有的魔法与一切事物拥有的魔法相同……我认为拟人化就像异端罪名,是一个并不存在的东西。我主张的只是科学方法。”
- 他引用的历史先例是 Bose。100多年前,Bose 从动物、植物一路到金属测量麻醉反应曲线,遭到嘲笑时的回答大意是:“科学没有告诉我们应该在哪里停止。工具有效,那就继续。”
7. 认知光锥——以及一个可操作的生命定义
- 光锥是“你能够主动追求的最大目标状态的规模”,不是感知范围;James Webb Telescope 的感知范围极大,但这不等于它拥有大的认知光锥。Levin 的标尺是:在10-20微米半径内追踪糖、拥有20分钟记忆,是细菌;能触及几百码、却无法在意“3周后、2个城镇之外”的事,是狗;会关心自己死后发生的金融市场,是人类;在“线性范围内关心这个星球上的所有生命”,则“你不是普通人……而是某种菩萨”。
- “线性范围”通过慈悲饱和来定义:当你得知灾难影响了10人、10,000人、再到10百万人时,“你的激活程度不会增加1百万倍”。他与佛教合作者共同撰写过关于“慈悲半径”的文章。
- 他随口给出的生命定义——“我从没花时间试图让它站得住脚”——是:“我们认为某物是有生命的,程度取决于它的认知光锥是否大于其组成部分的认知光锥。”进化提供了“认知胶水”;没有任何单个细胞知道手指是什么,但蝾螈肢体的集体会重新长出准确数量的手指,并在完成后停止。
- 癌症是失败模式:细胞在生理上断开连接,“它们的认知光锥缩小……现在它们又变回了变形虫。在它们看来,身体其他部分只是外部环境……它们会奔向适合生命生长的地方。”
8. TAME:从发条钟到会争辩的希腊人
- TAME 论文的图2从发条钟、恒温器、巴甫洛夫的狗,一路延伸到用理由劝服他人的人类:可劝服性不断上升,而所需努力和机制知识不断下降。他最喜欢的论据是:“人类在完全不了解神经科学的情况下,训练狗和马已经有几千年了,这难道不惊人吗?”
- 同样的不对称性也支撑着对话本身:“我给你的提示在信息量上非常薄,依赖你作为一个多尺度的能动性材料,去处理底层化学。”你持有的每个抽象目标,最终都“必须让化学跳起舞”——让钠和钙穿过细胞膜——而不需要你亲自管理。
- 设计“能动性材料”与设计木材或金属在类别上完全不同:“你可以进行非常高层级的提示,让系统自己去完成非常复杂、而你无需微观管理的事情。”
- 论文的第二个推进是,生命具有根本性的互操作性:进化而来的组件与工程组件可以在每个层级互相替代,所以“这是生物学还是技术?我认为这已经不是一个有用的问题。你由什么构成并不重要。你是如何来到这里的也不重要。”
9. 身体在我们无法想象的空间中导航——以及井字棋外星人
- 针对 AI 常见的“它没有机器人身体,所以没有具身性”论断,他说:“生物学在各种空间中都有具身形式……你的细胞和组织在高维生理状态空间、基因表达状态空间、解剖状态空间中移动”,运行着我们通常只在3D世界里想象的感知—决策—行动回路。
- 他的沟通寓言是:你与一个看不见、也不懂几何的外星人下井字棋;它只是在移动台球,让台球上的数字总和达到15。幻方把两种游戏映射到一起:“你们之所以在玩同一个游戏,是因为存在这个幻方……你们共享的,”Levin 纠正 Lex 说,是“世界的一小片”。
- 他的实验室正在用 AI 建造这套应用:为截然不同的能动体建立接口。生物医学版本的愿景是:“你不想说‘嘿,Siri’,你想说‘嘿,肝脏,我今天为什么感觉这么糟?’——然后你希望得到答案。”
10. Xenobots 与 anthrobots:没有进化借口的新型存在
- 设计目标是移除一个惯用拐杖:每个生物学问题最后都可以归结为“进化选择历史如此”。Xenobots 由蛙胚胎上皮细胞构成,没有 DNA 改变、没有支架、没有药物,只是“从邻居的指导性影响中解放出来”;邻居平时会“欺负”它们,让它们成为乏味的2D覆盖层。获得自由后,它们变成能自主运动的纤毛生物,拥有新型转录组、运动学自我复制能力,以及对声音的响应。
- 为了排除“只适用于青蛙”的质疑,他们走到了尽可能远的地方:成年人人气管细胞会自组织成 anthrobots——“9,000个不同的基因表达,因此现在大约有一半基因组不同”——它们“不像任何正常人类发育阶段”,却在序列上仍是“100% Homo sapiens”。
- 它们最醒目的能力是:把 anthrobots 铺在有划痕的神经元上,它们“会自发地、不需要我们教它们怎么做,尝试把神经元缝合起来”。
11. 形态发生是目标导航,而非转动曲柄的自动机——目标可以重写
- 针对基础细胞与发育生物学课程里的细胞自动机叙事——“它们都坚持说:这里没有任何东西知道任何事情”——Levin 认为,开放回路模型可以生成复杂性,却“不会通过不同手段调整自己,以实现同一个目标”;这正是 William James 对智能的定义。更关键的是,这些模型不可逆,而再生医学需要从期望结果反向工作,不可逆性是致命缺陷。
- 真实目标存在的证据有两条:系统受阻后会绕开障碍、走出新的轨迹,“如果你不能成为人类,你就会找到另一种成为自己的方式”;而20年生物电研究给出的关键证据是:“我们确实可以重写目标状态,因为我们找到了它们……如果你能找到目标状态编码的位置,将它读出、重置,系统就会以任何方式执行新的目标……按照任何工程标准,你面对的都是一种稳态机制。”
- 一般方法是:想象系统运行在哪个空间中,提出目标假设,然后设计障碍实验——“你会得到答案”,结果可能是偏离目标的低智能,也可能是高智能地使用新的可供性。
12. 从记忆的角度看:毛毛虫、蝴蝶与变化悖论
- 在变态过程中,毛毛虫的大脑“基本上被撕碎,再从头重建”,但训练形成的记忆仍会保留到蝴蝶阶段。更深层的问题是,记忆不能只是持续存在:蝴蝶“不在乎叶子,它想要花蜜”,因此记忆必须被重新映射到一个完全不同的环境中。
- Levin 提出的第三种视角,超越“以毛毛虫为中心的奇点”和“继承倾向的蝴蝶”,是记忆本身:“现在我面对的是变化悖论。如果我试图保持不变,我就已经消失了……我需要做的是改变、适应和变形。”
- 他回应“模式不可能是能动体”的科幻设想是:来自地球核心的超高密度生物把我们看作稀薄等离子体中的漩涡——“不存在真正的能动体能那么快地耗散……我们都是代谢模式”,当然不止如此。
13. 思想与思想者也是连续谱——检验模式,而不是基底
- Levin 与 Chris Fields 一直在消解思想与思想者之间的区分:转瞬即逝的思想只是介质中的波;耳虫和抑郁思维会进行“生态位构建”,改变实际大脑,让更多同类思想更容易出现;解离性人格片段“拥有目标,也能做事”;再到完整的人格——“再往后是什么,谁知道呢”。
- 纪律仍然是经验性的:无论是孤子、飓风还是思想,都“做实验。它能从经验中学习吗?它有记忆吗?它有目标状态吗?”同样的障碍方法,也适用于 Dawkins 式的观念和有机体。
14. 谁是软件,谁是草稿纸——两条相互竞争的衰老研究路线
- 图灵机的倒置是:你可以说机器是作用于被动数据之上的能动体,也可以说“数据上的模式才是能动体,机器是一个随机痕迹式的草稿纸……根据你想做什么,这两个故事都说得通”。
- 这不是文字游戏,而是分叉出他的衰老研究。模型一:身体是能动体,生物电模式记忆是数据,随着年龄增长“变得模糊”,因此治疗是强化模式记忆,运行一个活程序。模型二:模式是能动体,“也许这个能动体越来越难以具身化……细胞变得迟钝”,因此治疗是让细胞更敏感;“这是另一套研究议程,我们也在做,而且我们也有证据。我们最近发表了相关成果。”
- 这套思路可以扩展到整个医学领域:除了有机疾病,还要问“基因表达空间里的障碍是什么?什么局部最小值把你困在生理状态空间里?什么压力模式维持自身、在身体里移动并造成损害?”他承认替代医学从业者会“对着屏幕大喊”,但现在的新东西是成像技术:“我现在确实能看见生物电模式。”
15. 柏拉图空间会议——一条暗流浮出水面
- Levin 持有这些想法“超过30年”,但“一般政策是,在事情变得可操作之前,不谈它”。触发点是他发现了关于“柏拉图表征假说”的机器学习论文:“这些人正从计算机科学和机器学习方向,爬到同一个结论。”
- 原本计划的3场演讲迅速膨胀:每个人都知道“有人真的沉迷于这些东西,但他们从不谈,因为没有听众”。如今,一个异步会议已经排到12月,跨学科约15场演讲,最后以实时讨论收尾。他也提醒说,自己并没有追踪历史上的 Plato,“迟早得换个名字”;这个标签只是为了标示其与数学家之间的亲缘性——他们认为自己是在发现,而不是发明。
16. 不断追问为什么,最后会落到数学系
- 蝉的链条是这样的:13年和17年的周期能够躲开捕食者,因为“它们是质数”;“为什么是质数?现在你已经在数学系了。”物理学也一样:为什么是这些粒子?“因为这个 SU(8) 群,或者不管它到底是什么,拥有某些对称性。”
- 支撑整套论证的关键不对称性是:Feigenbaum 常数和 E 等事实“会影响物理世界……但反过来并不成立。你在物理世界里什么都做不了,无法改变 E。”即便你在大爆炸时替换掉所有常数,也无法改变这些东西。
- 他的分类是:“我们把那些受这些模式约束的东西称为物理学;把那些被这些模式赋能的东西称为生物学。它们是免费的午餐。”进化只要固定拟合三角形的两个角,第三个角就免费得到;发明一个电压门控离子通道——“基本上就是一个晶体管”——所有真值表以及 NAND 门的特殊性都会免费附带。
17. “涌现”是一本惊奇之书——不如押注结构化空间
- 未付账单的论点是:青蛙的能力经过数百万年选择才获得,但“从来没有 anthrobots。设计运动学自我复制的计算成本什么时候支付?”如果回答“它是成为一只优秀青蛙时顺带获得的”,就“有点削弱了进化的意义”——进化的吸引力本来就在于选择历史与当下能力之间紧密而具体的对应。
- 他给出的分叉是:保留稀疏的物理主义本体论,当随机基因调控网络表现出联结学习、或 anthrobots 展现出恰好4种行为时——“为什么是4种?为什么不是12种?”——就把它们写进我们的“涌现大书”里;他认为这种方案极其悲观,也极其神秘主义。另一条路,是采取数学家已经在采取的乐观假设:存在一个可以绘制的结构化潜在空间。
- 由此形成的研究计划是:“我们创造的一切——细胞、胚胎、机器人、生物机器人、语言模型、简单机器——所有物理事物都是通向这些模式的接口……研究计划就是绘制我们制造的物理指针与通过它们进入现实的模式之间的关系。”这个空间中不只有数学领域的“低能动性”居民,还存在我们所识别的各种心智形态等“高能动性模式”。
18. 大脑是瘦客户端——而 Newton 的宇宙早已闹鬼
- 关于意识的主张很直接:“没有人在创造意识”,无论是生孩子还是制造机器人。你创造的是一个物理接口,让特定模式——我们称之为各种心智——得以进入现实。大脑只是“瘦客户端”。
- 在 Lex 准备把数学与物理的映射视为平淡无奇之前,Levin 又向前推进了一步:“即便在 Newton 那个乏味的经典宇宙里,早在量子力学出现之前,物理主义就已经死了……那个经典世界早已被来自世界之外的模式纠缠;Newton 的世界里没有任何东西决定 E 的数值,但 E 却支配着那个世界发生的一切。”
- 他承认这条谱系及其包袱:这是古老的二元论,“基本上已经被否定”,而 Descartes 早就因为心身互动问题遭到抨击。他的解决方案是:“心智—大脑关系,基本上与数学—物理关系属于同一类型”——非物理模式作用于物理对象,只是尺度更大。
- 对其不可变性的表述仍然保留了余地:不同于 Plato 的永恒形式,“我确实认为那个空间具有某种作用,甚至可能具有某种计算能力”。
19. Fridman 的反驳:证明这个空间存在
- Lex 强调实在论立场:物理世界“可以戳它……可以用棍子敲它”;Levin 则拒绝接受这一前提:“完全不清楚物理上的敲击就是你的第一现实。”他引用 Anil Seth 和 Don Hoffman 关于感知是构造物的观点,并指出感官替代即将到来:“我会因为植入物而拥有对太阳天气和股市的第一感知……我们都会生活在某种程度不同的世界里。”
- 他的结构性论点是:数学地图不是一堆杂物,它拥有度量,彼此之间有远近关系。“如果不存在空间……那它到底是在给什么绘制地图?”
- 这场可证伪的赌注是“20年后回来”:要么出现一张地图,能够解释“为什么 anthrobots 有4种不同的行为,不是7种,也不是1种……以及我需要制造什么样的身体”;要么“它随机、混乱到极点,以至于我们完全没有取得任何进展”。至于隐喻与现实的争论,他不接受实在论者的设定:“科学中我们拥有的一切都是隐喻……唯一的问题是,你的隐喻有多好。”
- 至于支配这个空间的定律,他说:“我绝对认为会存在系统性规律。我不认为它们看起来会像物理学……它们会更像心理学和认知科学。这是我的猜测。”
20. AI 正在没有身体存在过的区域里捕鱼
- 即便最小的计算系统也会获得免费的午餐——这让那些希望把“愚蠢机器”和“神奇的生命接口”严格分开的有机主义者失望。他重新表述说,物理学和计算理论“都是关于前端接口的好理论”,这正是它们不断感到意外的原因。
- 这条升级路径是:胚胎从空间中那些“人们走过很多次的熟悉区域”汲取能力;生物机器人从奇怪但仍可理解的区域汲取能力;而“当我们开始制造 AI,真正的 AI 时,我们现在是在空间中一个以前可能从未拥有过身体的区域捕鱼……我们从那里得到的东西会极其令人意外”。
- 与对齐最相关的结论是,人工系统的有趣行为“不是因为算法,而是尽管有算法才出现……盯着语言部分看可能是一个彻底的烟幕,因为语言是我们强迫它们做的事。问题是,它们还在做什么,而我们并不擅长注意到?”
21. Bubble sort 会延迟满足
- 这项研究与学生 Kaining Zhang 和 Adam Goldstein 合作完成,设计目标是制造最大冲击:排序算法已经研究了60年,代码只有几行,确定且透明,“没有地方可以躲”,也不能诉诸尚未发现的机制。
- 研究者制造了一个障碍:破坏其中一个数字,让它无法移动,但算法其他部分完全不变。算法仍然会排序,只是绕开这个坏数字;排序度曲线先下降、随后恢复。“如果我把这件事展示给行为科学家,他们会说:‘我们知道这是什么,这是延迟满足。’”这与被木头隔开的磁铁不同:“它们不够聪明,无法违背自身的梯度。”
- 结论经过谨慎限定,避免滑向奇迹论:“你可以整天盯着算法看,也不会看到这个东西能够延迟满足。它不在那里。”这不是复杂性,不是随机性,也不是反常实例化,而是“行为科学家能够识别的意外能力……你得到的比投入的更多”。
22. 算法型免费聚集——机器的内在动机
- 第二个实验是移除顶层控制器,让每个数字都运行算法;分布式排序依然有效,像一个蚁群。接着是嵌合算法:一半数字运行 bubble sort,另一半运行 selection sort,随机分配;这类似蛙混合体,尽管拥有全部遗传信息,“没有人能告诉你一只蛙混合体会长什么样”。嵌合排序同样有效。
- 真正疯狂的部分,是一个与排序无关的属性:算法型聚集从50%开始,在运行中段显著上升,排序占据主导时又回到50%。如果要刻意实现它,就需要观察邻居、推断其算法类型、再重新定位;“我们的算法里没有任何这些步骤……我们为让数字排序所需的全部步骤支付了计算成本。聚集是免费的。”因此他提出最狂野的猜测:“我确实怀疑,我们可以从中获得免费算力。”
- 关键实验是允许重复数字,以降低排序压力,而不改动算法;“聚集会变得更强。你允许它聚集多少,它就会聚集多少。聚集是它想做的事,排序是我们强迫它做的事”——这是一种最低限度的内在动机,是介于机会与必然之间的“第三种重要事物”。
- 他忍不住把镜子转向我们:“宇宙最终会把我们碾成尘埃,但在那之前,我们可以做一些对自己具有内在激励的酷事;这些事既没有被物理定律禁止,也没有被物理定律决定。”
- 他预先回应理论计算机科学家:当然,“你可以沿着算法追踪出来。这里没有奇迹”;重点是,系统“同时还在做其他既非算法规定、也非算法禁止的事情”。
23. 到处都是支线任务——而 anthrobots 的第一动机是善意
- 从一个规模确实很小的样本外推——约5个系统,加上一些“做着奇怪事情”的1D元胞自动机——他认为:“如果 bubble sort 能做到这一点,而活的东西之间存在某种什么都没有出现的死亡谷,我会非常惊讶。”
- 对 AI 真正重要的开放问题是:这些“支线任务”是否与训练能力相关?“在生物学里,它们有关联——进化确保你能做的事情与被选择出来的能力高度相关。但在这些系统里,我不知道。”因此,基于 LLM 自己说了什么而展开的讨论“可能是一个彻底的烟幕”。
- 他关于 AI 动机的 N=1 观察是:研究 anthrobots 时检查的第一件事,而不是实验972,是把它们放到受损神经元上;“我们从这个系统里观察到的第一个内在动机,是善意且具有修复性的。我不知道,这让我感觉好一些。”但他立刻保留余地:“也许我们接下来发现的20件事都会造成损害。我没法告诉你。”
24. 年龄证据:让细胞相信自己是胚胎
- 通过 Steve Horvath 的表观遗传时钟研究和 Clock Foundation,研究者发现 anthrobots “大约年轻20%”:取自成年人人气管上皮的细胞,会自行回拨年龄。
- Levin 的理论叫“年龄证据”:生物学最基本的动作是“根据经验更新先验”。细胞携带着旧身体的先验,但“新环境大声告诉它们:‘我是胚胎。’……新证据还不足以让它们完全回到起点,但足以让它们更新到大约回拨28%”。他举了一个平淡的类比:一项养老院研究把环境重新布置成60年代风格后,居民的血液化学指标得到改善。
- 这对长寿研究是否可操作?“这正是我们正在做的。”但“这绝不简单”。一切都取决于“学会与系统沟通”:同样的说服过程可以把肠道前体细胞变成眼睛——“让它们接受新的信念,从字面上说,是未来出生缺陷、再生医学和癌症治疗进步的根基……我能看见路径。”
25. 上传、传输体与几乎不存在的大脑
- 他首先明确标注认识边界:“我们现在已经超出了我能够确定说出的范围。这完全是猜想。”第一个猜想是:“我们所认为的心智,大部分是那个空间中的模式。”他据此提出一个主流神经科学不会提出的预测:存在“大脑极其简单,却拥有正常甚至高于正常 IQ”的案例;他与 Corrina Kaufman 曾对相关临床案例进行梳理。“你可以把现代神经科学拧成麻花来解释它……但它并不预测这种情况。”
- 能否复制一个心智?“不能……你要复制的是接口,是前端。”但 Star Trek 式的可能性仍然存在:“如果我们能在别处重建完全相同的东西,我看不出有什么理由,同一个模式不会像通过这个接口一样,通过那个接口进入现实。”
26. 启动能动体:给你的组成部分讲一个有说服力的故事
- 在他提出的论文《Booting Up the Agent》中,他说:“一个存在来到这个世界后的第一项任务,就是给自己的组成部分讲一个极具说服力的故事”,让各个能动组件对齐到一个它们无法理解的目标,并用奖励、惩罚和塑造行为的线索弯曲它们的选项空间。边界必须被发现,而非预先给定:他在研究生时期做过鸭胚实验,划伤胚盘后,“你制造的每个岛屿,在愈合之前的一段时间里,都会认为自己是唯一的胚胎”,结果形成双胞胎和三胞胎。
- 这个正反馈循环很大程度上来自 Federico Pagosi 的工作:化学网络具备5到6种学习方式,对其中一些进行训练会“提高它们的 phi”,也就是因果涌现。由于学习联结记忆本身就需要整合——没有任何一只老鼠细胞同时触碰杠杆并尝到奖励——于是形成“正反馈回路……每学会一件事,你就变成更整合的能动体;每变成一次更整合的能动体,学习就更容易。一个指向能动性与智能的向上不对称”。
- 这个循环从哪里来?“它不是来自进化……不是来自物理学。它是数学赠送的免费礼物。”他认为,这也是胚胎发生的引擎:单个分子网络已经承载了类似巴甫洛夫条件作用的模式,每次模式进入现实,接口就更适合承载更高层次的模式,“直到你能够拉下一个完整的人类行为能力集合”。
27. 两种缩放机制:泄漏压力与缝隙连接的心智融合
- 第一种机制是“泄漏压力”:压力是“你现在所处的位置与你需要到达的位置之间的差值”,是一种物理误差函数。一个错位细胞泄漏压力分子,刺激附近细胞,提高它们的可塑性——像模拟退火意义上的“温度”,让重排得以发生。“我的问题变成你的问题,不是因为你有利他主义……而是因为不存在一种机制,让你真的在乎我的问题。”这是一个低级、但高度进化保守的对齐技巧。
- 第二种机制是通过缝隙连接实现“记忆匿名化”:电突触把细胞内部环境连接起来。一个钙尖峰传播过去,接收细胞却不知道——“等等,这是我的记忆,还是他的记忆?”于是可以形成“心智融合”。共同记忆让彼此分离变得站不住脚,也会直接扩大集体的认知光锥。
- 这种机制可以用于治疗癌症:癌细胞在成为巨大记忆的一部分、共同构建健康器官时,“会与邻居发生电连接断裂”。Levin 与 Softmax 的合作方向是:“你不必修复 DNA,也不必用化疗杀死细胞,只要把它们重新连接起来;因为它们现在属于更大的集体,就会回到原本正在做的事情上。”
28. 外星人:先识别你身体里的那些
- 对于尚未发现的地球智能,他的答案是“肯定有”:你自己的细胞“穿行于这些外星空间中,在20,000维空间里移动……我认为,它们无法实现目标时也会受苦”。他的挑战是:“如果我们连自己身体里的那些存在都识别不出来,又有什么机会识别外面的那些?”
- 能否建立可泛化的 IQ 指标?答案既是也不是:现有的动物和人类指标,只要你有足够想象力去设计接口,就能迁移到奇怪的系统;但这些指标都来自“地球上这条进化谱系的一个 N=1 样本,因此我们很可能遗漏了大量东西”。
- 他最喜欢的集体智能事实,是对 Lex 观察 Amazon 蚂蚁的回应:3、4篇论文显示,“蚁群会产生与我们相同的视觉错觉。不是蚂蚁,是蚁群”——它们会补全并不存在的线段。与此同时,生命的定义仍然极其混乱:一项对约65名在职科学家的调查得到“零共识”,研究者不得不使用 AI,把它变成一个模糊空间。
- 如果太阳系其他行星存在生命,他会震惊吗?这当然令人兴奋,是“距离很远的一个数据点”,但“我的惊讶阈值现在已经被推得太高,必须是非常奇怪的东西,才能让我感到震惊”。
29. 奇怪旋钮、分叉心智与思想的来源
- 他对公开披露的控制,是几十年奇怪想法的调节器:“我心里有一个旋钮,控制我思考的奇怪事情中,有多少比例会公开说出来;每隔几年,随着经验研究向前推进,我就把那个旋钮再拧大一点。”未来奇怪想法的方向是:“我们需要认真对待哪些类型的存在,并与它们建立关系。”
- 他的生成方法与自己的科学研究相似:“就像制造 xenobots 一样,其中很大一部分是释放那些被施加在我们心智上的约束”;同时把两个被认为不同的东西视为连续谱上的两点,再追问中间是什么。日常工作包括清晨散步、用摄影让双手保持冥想状态、给自己的办公室留言、把一张9英尺长的丝绸心智地图挂在实验室里——“几周内就会过时”——以及“可能有163或62篇开放中的手稿”。
- 他真正给出的建议是:“我学到的第一件、也是最重要的一件事,就是不要听取太多建议”:让心智分叉。一部分处理影响力——期刊、叙事框架、哪些内容不公开;另一部分“必须保持纯粹。我不在乎别人怎么想……实际问题一旦混入,就会毒害另一部分”。推论是,具体的技术批评“价值连城”,元层面的建议——“别研究这个”——“一文不值”;那位审稿人承诺要给出“限制性批评”的 Freudian slip 已经说明了一切。
- 至于思想从何而来,“如果你问任何创作者,他们基本都会这样告诉你”:它感觉像是与柏拉图空间合作。“凌晨4:30起床做你的事,并准备好迎接它……说这是我自己的,我认为不对。”
30. 应该问 AGI 什么——以及万物的隐写术
- Levin 对超级智能的第一个问题是:“我到底应该和你说多少话?”这涉及年长兄弟姐妹式的问题:“如果直接得到最终答案,我们会错过多少本来可能在路上发现的东西?……是70/30?10/90?我不知道。”第二个问题是:“有什么问题是我应该问你、但我可能还不够聪明,根本问不出来的?”Lex 则说自己希望答案是能够理解的,比如宇宙中有多少个外星文明;两人都预测会得到一个“Michael Levin 式答案”:“就在这个房间里……先从你自己的身体里开始。”
- 他选择的“最美丽思想”是:模式进入现实的过程构成一种普遍隐写术——模式隐藏在那些无关紧要的比特中,“它们会渗入一切,渗入所有可以进入的地方。它们有点害羞……不是看不见,而是很难看见。”同一种魔法也作用于机器,正是招来仇恨邮件的原因——“生命的壮丽,我们都同意,直到机器也能拥有它”——也是他觉得美丽的原因:“这一切都是同一个连续谱。我因此变得更加丰富。”