先锋 趋势 方法 投研 作者
为什么 AI 面临柏拉图问题——Mazviita Chirimuuta
返回节目精读

为什么 AI 面临柏拉图问题——Mazviita Chirimuuta

摘要

  • 对投资者而言,关键警示是:一个有用的科学或 AI 模型,并不必然揭示现实底层的架构。 Chirimuuta 接受抽象对于“有限的认知者”不可避免,但拒绝把可处理性直接跃迁为真理。一个成功的计算神经科学项目或许足以支持暂时性的“隧道视野”,却不能证明“大脑就是一台计算机”。
  • AI 对整齐规则和几何归纳先验的追求,可能抹去即时研究之外真正重要的差异。 针对 François 提出的“万花筒假说”,Chirimuuta 认为,把数据拆成信号与噪声是科学家的判断:被丢弃的不规则性,可能决定自然系统在其他场景中的行为;去噪过程也可能部分制造了它看似发现的模式。
  • 反射理论是一个警示性先例:某些简单框架即使无法解释完整数据,也可能被一路推进得过远。 在19世纪末至20世纪初,研究者持续追逐“简单反射”,即便 Charles Sherrington 已承认它可能并不存在于现实中。Chirimuuta 认为,如果不是二战时期计算理论提供了另一套整齐框架,这一研究项目或许还会延续更久——未必是因为简化本身的问题已经得到解决。
  • 具身性仍是人工网络能否复现生物认知这一主张面临的未解约束。 Tim 提出“中奖彩票”类比:训练完成后,一个稠密网络可以丢掉90%的连接;那么,演化超过10亿年留下的具身性、自创生和能动性,或许也只是可以移除的残余。Chirimuuta 怀疑生物体能容忍如此浪费,并指出大脑的能量经济性,以及神经信号、代谢与整个活体之间可能存在的连续性。
  • 行为等价不足以证明意识或类人理解。 输入和输出可以支持实用分类,但 Chirimuuta 称,把机制和主观性视为无关,是一次“哲学上的跃迁”。具身机器人或许能更接近理解,但真正的意义可能与“始终处在对你而言有问题的情境中”这种生命状态相连,而不只是操纵语言。
  • 同一种去除具身性的幻想,同时塑造着 AI 叙事和数字基础设施经济学。 云端看似没有重量,背后却依赖计算机、稀缺资源和能源;社交媒体仿佛另一个世界,实际运行在实体设备和人类的想象投入之上。Chirimuuta 对社会风险最尖锐的提醒,是孩子花在面对面接触上的时间正在减少:“我们正在拿下一代做一场大实验”,而他们是否会被社会化为能够幸福生活的人,“我们不知道”。

精读

1. 抽象带来解释力,而非通往现实的特权入口

  • 《被抽象化的大脑》源于 Chirimuuta 的神经科学训练和计算建模工作,以及她自2014年前后开始发表的哲学论文;她在2018年前后正式动笔,最终于2024年出版。促使她展开这项工作的核心问题是:为什么有人认为大脑模拟不仅是在模拟神经元,还能“复制”细胞在一个被视为计算机的器官中的功能。

  • 抽象会省略已知细节,就像牛顿力学题目省略摩擦力;理想化则赋予对象明知为假的属性,例如遗传学假设种群规模无限。理想化往往让计算变得可处理,而两者都会简化表征;尤其是理想化,会把对象呈现得“比现实中的东西更干净、更好”。

  • Tim 提到的 AI 样本是 François 的“万花筒假说”:杂乱表象之下隐藏着一套可以拆解其规则的数学代码。Chirimuuta 的判断很直接——“这就是柏拉图”,它重现了古代哲学中稳定形式与“杂乱、流动、复杂的生成现实”之间的二分。

  • 即使是去噪能够揭示“真实模式”这一较为温和的说法,也包含了判断。某位科学家认为无关紧要的不规则性,可能对另一项研究或系统的自然运行至关重要;而清理程序也可能“恰恰通过去噪过程本身制造出模式”。

2. 反射理论展示了有用的虚构如何变成科学死胡同

  • 19世纪末至20世纪初的反射理论项目,试图用条件化的感觉—运动弧解释大脑的全部功能。Charles Sherrington 承认“简单反射”可能并不存在于现实中,但研究者仍把它当作拆解神经系统复杂性的钥匙。

  • Chirimuuta 对这段历史的解读是:奥卡姆剃刀起初是合理的启发式工具,后来科学家“把它推进得太远”,始终没能解释其承诺涵盖的那么多数据。如果不是二战前后计算理论带着自己的整套“理想化工具箱”登场,这一框架或许还会延续更久。

  • 同样的黑箱处理至今仍与 AI 有关。在某些场景下,把心智视为黑箱、追踪输入和输出完全合理;但仅凭行为相似性推断意识,就忽略了机制和第一人称主观性,“直接走向行为主义,实在太快了”。

3. 知识在与不断变形的自然接触中生成

  • Chirimuuta 的建构主义并不意味着理论只是毫无约束的社会发明。科学家带着议程、问题和技术目标进入世界,而自然会在实验中施加反作用,因此知识始终是人的框架与现象相互作用的产物。

  • 她提出的“触觉实在论”反对 John Dewey 所说的“知识旁观者理论”,即观察者被动吸收上帝视角下的全景图。双手体现了科学的两面性:它们通过触摸感知,也会操弄并改变正在研究的对象。

  • 偶然性会制造未被选择的路径。Hasok Chang 的多元主义主张探索多条路径,以最大化知识积累;Chirimuuta 则更为谨慎,因为收窄研究范围有时是合理的,而资源并不无限,但每一条被选中的路径都意味着机会成本。

  • 她的核心隐喻是 Proteus——只有被牢牢按住时才会说出真话的变形者。自然可以在特定的实验控制下给出真实答案,但一旦放开,“它就会继续变形”;因此,生物学无穷无尽的个体差异,使一套最终收敛的理论远没有物理学看起来那么可信。

4. 大脑—计算机隐喻通过自我打造观察镜头不断自我强化

  • 从 Descartes 的机械主义身体,到反射理论和控制论,研究者不断先受生物学启发造出设备,再用这些设备重新解释生物学。McCulloch 和 Pitts 在1943年把神经元视为逻辑门,正是这一循环的典型案例,也帮助催生了神经网络。

  • 这一比喻让计算神经科学可以暂时搁置生物化学、血管系统、免疫互动,以及非生命机器不具备的其他属性。Chirimuuta 接受科学家需要这样的“隧道视野”;她反对的是将其“本体化”——某项研究取得成功,不等于大脑在字面意义上就是一台计算机。

  • Tim 的反驳着眼于功能:连接主义者不必主张机制完全相同,只需实现足够的等价性,或许可以通过更具生物 plausibility 的自主性、多样性和能动性来实现。Chirimuuta 则回应称,神经信号可能是整个身体代谢信号的延伸,因此在非生命机器中实现等价功能,“难度要大得多”。

5. 认知可能需要指向远端的能动性,而计算本身不提供因果力量

  • Tim 的“中奖彩票”类比进一步凸显了分歧:网络需要足够密集,才能通过随机梯度下降训练;训练完成后却可以剪掉90%的连接而不损失性能。或许演化超过10亿年的过程也留下了多余的具身性和自创生。Chirimuuta 的回答是,生物认知受到严格的能量预算约束,这意味着演化早已完成了大量剪枝。

  • 他们对能动性的积极解释,核心在于对远端因素的敏感性。童年经历或想象中的未来,可能和房间里正在发生的事情一样影响当下行为;而非生命系统更紧密地受近端原因支配——“远端因素总会被近端因素屏蔽”。

  • 针对 Daniel Dennett 提出的物理立场、设计立场和意向立场,Chirimuuta 不接受物理立场具有本体论优先权。如果表征和意向性在科学解释中确实发挥作用,她追问:为什么它们的现实性必须先通过一套非意向性的低层因果故事得到验证?

  • Putnam 的“岩石问题”揭示了不加区分的计算映射:如果把物理动力学映射到形式主义上就足够,那么岩石、沙发和胃也都在计算。Chirimuuta 的明确区分是:“计算本身就是数学形式主义”;具体系统则具有因果力量。她认真对待 Searle 的挑战:认知科学至今仍需解释,非因果的计算如何能够解释物理认知。

6. 否认有限性,理解与数字生命暴露其代价

  • Chirimuuta 认为,类人 LLM 理解并不可信,因为语言、感知和感觉—运动互动彼此塑造,并不是可以拆开的模块。脱离具身性和现实行动而复制出来的语言能力,缺少人类理解所依赖的整合性认知。

  • Tim 对此提出机器人回应:加入感觉—运动能力和物理接触。Chirimuuta 认为,这更接近可能产生理解的事物;如果机器人被置于越来越不稳定、越来越像生命的情境中,或许会发展出更接近理解的能力。她明确表示,这“并非完全不可能”。

  • Heidegger 提供了一个有用的挑衅性观点:控制论——如今也包括 AI——最终延续了超越物质有限性的哲学愿望。“不具身的事实吸收器”出现在 LLM 的想象中;Tim 则把类似的去除具身性幻想延伸到没有重量的“云”,用非物质化的消费形象遮蔽了计算机、资源短缺和能源消耗。

  • Tim 认为,虚拟体验仍然可以是真实的;Chirimuuta 则把问题落在注意力和机会成本上。她最具体的担忧是发展问题:如今幼儿看到的面孔越来越少,尽管他们天生倾向于注视和社会互动。回想1950年代让猴子失去母体接触的实验,她追问:“我们是不是也该拿孩子做这场实验?”