智能是集体性的，而非人工的——Michael I. Jordan 教授（UC Berkeley / Inria）

摘要

• Jordan 的可投资核心判断是，持久的 AI 价值将来自协调人类、模型、数据所有者与激励机制，而不是打造一个单一的“超级智能”。 数十亿人已经在生产底层数据，最终服务也面向数十亿消费者；经济学提供了在这张潜在网络中分配价值所缺失的机制。“如果对数据做梯度下降时，没有深度的微观经济学视角相伴”，规模化 AI 就会错误定价隐私、劳动、真实性与参与。

• 最强的机会在于垂直领域系统：将强大的预测能力、新鲜的真实数据、不确定性估计与人类控制结合起来。 AlphaFold 预测的2亿个蛋白质结构支持了高统计功效的假设检验，而规模小得多的实验数据做不到；但针对所提具体问题，它给出了一个极窄、却“远远偏离真值”的置信区间。Jordan 提出的 prediction-powered inference 通过加入少量真实数据修复这一失败，提供了一种可投资的科学工具架构，而不是声称模型“理解”了什么。

• 单纯扩大数据规模并不能替代市场设计，因为最有价值的知识往往是本地化、情境化的，而且经常会被有意隐藏。 Jordan 预计数据仍将具有竞争价值，参与者会要求获得报酬、隐私与控制权，而不是把数据直接交出去；因此平台必须诱导准确的信息，并让激励机制保持一致。“数据是自下而上来的”，未来的偏好仍会过于短暂，无法由一个中心系统编码成普适的人类价值函数。

• 始终在线的 AI 助手，可能不如改善医疗、交通、金融、科学与市场的基础设施更适合作为商业模式。 Jordan 将“坐在你肩上的秘书”称为“愚蠢的商业模式”，认为许多用户最终会把它关掉；相比之下，现有统计系统每天为1亿人协调数十亿种商品，才是真正具有深远影响的系统。他的判断标准不是一个盒子听起来是否聪明，而是周边生态能否降低不确定性、创造可靠服务并产生就业。

• 只要周边系统能让黑箱模型的行为变得可预测、可质疑且可执行，黑箱本身就可以接受。 被拒绝贷款的人不需要参观内部神经回路；Jordan 会展示大约50名可比申请人、其中哪些人获贷，以及申请人与他们的差异。“我不认为有必要理解所有细节”，但运营者必须理解输入、输出、约束、错误率，以及失败会带来的后果。

• 平台经济学将决定生成式 AI 是扩大人类创意市场，还是掏空这些市场。 Jordan 认为 Spotify 可能接近垄断，艺术家获得的报酬很低，因此合成内容在经济上更具吸引力；他为 UnitedMasters 提供建议，后者让音乐人保留作品，并与品牌建立连接。他同样认为 Google 通过广告中介 YouTube 生产者与消费者关系是“一个巨大的错误”：系统确实创造了市场，却没有把足够多的价值直接导向创作者。

• 近期风险在于劳动与资本的集中，以及设计糟糕的自主系统，而不是某个递归自我改进的实体选择征服人类。 Jordan 称 AGI 是“公关术语”，认为“超级智能—灭绝”的二元叙事让年轻建设者“极其泄气”。后续 David Krakauer 环节将自动驾驶仪视为人机协作的例子，而 Jordan 仍看好积极、以人为尺度的 AI 系统。

精读

1. “AI”重新包装了更长的机器学习传统

• Jordan 认为自己是一名统计学家和认知科学家，“从来没真正把自己当作 AI 研究者”。1950年代的 AI 计划强调逻辑推理等目标，但这些目标“并没有真正实现”。

• 真正带来产业价值的方法——决策树、近邻法、逻辑回归、隐马尔可夫模型和基于梯度的方法——主要在1960年代至1980年代从统计学与运筹学中发展出来。供应链、商业和交通早已在使用机器学习；Amazon 的云服务最初就是为处理机器学习工作负载而发展起来的。

• 大约在这次对话发生前5年，“AI”这个标签重新流行起来，因为模型开始输出流畅语言，而不再只是预测库存或价格。在图灵测试这类狭义定义下，Jordan 承认确实发生了变化；但他反对的是，这个复兴的标签扭曲了研究优先级和商业思维。

• “对我来说，AGI 只是——一个公关术语。”Jordan 说，它带有警报式和狂热式的两种变体，让20岁、25岁的年轻人仿佛只剩两种姿态；但技术还有许多不那么戏剧化的路径，可以改善家庭、机构与经济。

2. 智能属于社会系统，而非孤立的盒子

• Jordan 的集体主义前提是，人类智能来自意见汇总、继承而来的文化与具体情境：“在一个情境中聪明的行动，换到另一个情境就未必聪明。”智能无法与那些彼此合作、竞争、发出信号、甚至相互利用的人彻底分开。

• 从物质基础看，这项技术本身已经是集体性的。它的输入来自数十亿人，预期用户也以数十亿计，尚未解决的问题是：这张潜在网络如何分配权力、金钱、隐私与机会。

• Jordan 被经济学吸引，是因为它能把社会互动转化为“可执行的数学思想”。参与者不必暴露全部动机；机制可以让他们检验意图、传递信号，并在信息不对称的情况下安全合作。

• 这不是对 AI 的外部批评：“我想把它做对，也想把它做得更好。”Jordan 希望将机器学习的预测能力嵌入正式系统，尊重人类既是生产者也是消费者，而不是把人类当成免费的数据来源。

3. AI 助手竞赛把输出误当成系统

• 当被问及为什么那些令人印象深刻的文本、编程和解题系统没有像预期那样带来帮助时，Jordan 说这“完全不奇怪”。旧有前提——造出一个智能的东西，收益自然会出现——如今只是变成了“坐在你肩上的秘书，帮助你、在你耳边低语”。

• 搜索是重大进步，但一个侵入式、永远在线的伴侣“就是一种愚蠢的商业模式”：人们希望自己思考，也可能更喜欢偶尔收到一份摘要。Jordan 预计许多用户会直接“把这破玩意儿关掉”。

• 医疗、交通和金融本来就是数十亿参与者之间的数据流，合作与竞争始终嵌在其中。这些系统需要更好的市场与决策流程，而不只是几个扮演升级版搜索引擎的大模型。

• “我希望这东西能创造就业。”Jordan 关注的分析单位是生态系统——谁在互动、互动频率如何、质量怎样、价值在哪里产生——而不是一个把输入映射到输出、却忽略劳动与所有权的统计盒子。

4. 黑箱需要行为契约，而不是拟人化叙事

• 主持人的行为主义担忧以那只母鸡为例：它根据过去的安全经验不断外推，直到脖子被扭断；同时，机制可解释性研究则在寻找模型内部的推理回路。Jordan 的态度“没那么悲观”：只要围绕系统建立结构，工程师可以使用自己并未完全理解的系统。

• 化学工程师历来会利用尚未完全理解的现象，同时摸清它们的输入、约束与可观测行为。Jordan 反对的不是不透明本身，而是依赖“AI 安全”这类口号，却不明确周边系统所需的行为、透明度和约束。

• 经济学提供了一个实用范式：人们无法解释自己的每一个选择，但其行为仍足够可预测，足以让他人据此规划并交换价值。有效系统需要的是相关的规律性，而不是对每个参与者进行完整的机械式解释。

• 如果模型拒绝某人的贷款，展示内部电路图并不能构成解释。Jordan 会展示模型嵌入空间中大约50名相近的人、哪些人获贷、哪些人未获贷，以及其中的关键差异——这些信息申请人能够理解并据此采取行动。

5. AlphaFold 说明，不针对具体问题校准的规模会造成误导

• Jordan 称赞 AlphaFold 是一个有明确目标的系统，而不是类似 LLM 的通用产物。它大约2亿个预测蛋白质结构，可以支持仅凭讨论中提到的大约20万个实验结构无法完成的分析。

• 他的团队利用一个2×2统计表，检验蛋白质中的量子涨落是否与磷酸化相关。仅凭实验结构，统计功效不足以拒绝“无关联”假设；2亿个预测结构则提供了足够的功效来拒绝该假设。

• 但最终得到的置信区间极窄，而且相对于金标准真值“远远偏离”。可能的原因是：针对具有这些涨落的蛋白质，训练数据覆盖十分稀疏；同时，AlphaFold 并没有为一个它原本不是为之设计的问题提供量身定制的误差线。

• Prediction-powered inference 只需向庞大的预测数据集加入少量真实数据，就能保留相对较高的统计功效，同时让置信区间转而覆盖真值。科学家工作的正是“知识的边缘”，也正是在那里，基础模型可能存在最大偏差，因此每个此类模型都需要一条本地验证路径。

6. 预测与实验比“理解”更重要

• 主持人问，AlphaFold 的迭代回收与精炼是否可以算作一种理解过程。Jordan 的回答很直接：“AlphaFold 为什么需要理解？”它负责预测，也可能帮助人类实现控制；人类可以在模型产物上做实验，再形成自己的理解。

• 2000年前后，Jordan 看到 Amazon 使用当时的方法——访谈中结合随机森林进行了描述——来预测供应链中船舶延误等中断事件。没有人能够理解每天将数十亿种商品运送给1亿人的完整系统，但系统的预测降低了不确定性，并支持了规划。

• 当人们追问这张网络是否“理解运输和物流”时，Jordan 的回应是“谁在乎”。拟人化语言为媒体提供戏剧性，却没有改善工程系统的优化、规划或约束。

• Fosbury flop 是他对宏大认知理论的反例：一名运动员尝试向后跳，结果奏效，其他人便跟进采用。工业化 A/B 测试同样把创造力与经验筛选结合起来；工程师首先应该问的是：“你想实现什么？”是取代教师、增强教师，还是让医生变得更强？

7. 药品监管是一个带有策略性数据的统计问题

• 药物开发形成了一张纠缠的网络，参与者包括科学家、相互竞争的制药公司、蛋白质、患者和监管机构。监管机构希望整个系统保持较低的假阳性率和假阴性率，但药企提交的材料并不是来自中立来源、相互独立同分布的观测。

• 公司拥有私人证据，也有混合动机：既想帮助患者，也想赚钱。面向10亿人市场的药物，一旦监管环节出现假阳性，可能带来极其丰厚的利润；因此，即便无差别提交会损害系统整体的错误控制，提交策略仍可能是理性的。

• 主持人用航空公司的类比把机制讲得更具体。航空公司无法观察每名乘客的紧迫程度或支付意愿，因此会提供不同服务与价格，去包围这些隐藏偏好；乘客的选择会透露足够信息，让系统无需强迫任何人的行为也能运转。

• 监管同样需要设计激励，让企业提交那些经过测试、且企业认为有前景的化合物。随着本地数据获得竞争价值，参与者必须被诱导去分享真实、有用的信息，而不只是分享带有对抗性的噪声。

8. 数据市场是均衡问题，而非优化问题

• Jordan 的3层模型包含用户、服务平台和第三方数据买家。支付平台可以利用交易数据改善服务，但可能还需要额外收入；Mastercard 等公司就会向市场研究机构出售行为信息。

• 加入买家会改变均衡，因为用户将失去隐私。平台可以提供不同级别的差分隐私与相应价格；重视隐私的用户可能选择更强的保护，从而为该平台带来更多数据，但新增噪声也会降低数据对买家的价值。

• 当主持人把这个过程描述为一个需要模拟的动态系统时，Jordan 纠正说，在这个模型中，方程会直接给出 Stackelberg 均衡。监管机构可以比较不同均衡，包括它们的效用总和或社会福利，并检验最低隐私要求或异质化隐私要求。

• 机器学习擅长优化，而经济学提供不动点、Stackelberg 博弈、Pareto 前沿、群体效应与策略适应。“未来必须是这些分支走到一起”：数据可以放松经济学中过于僵化的理性假设，但没有经济结构的数据仍然可能“把事情搞得一团糟”。

9. 情境知识击穿自上而下的价值函数

• Jordan 在哥本哈根街头行走时看到，价格、商品、需求和购买意愿每时每刻都在变化。即使拥有数艾字节的数据，也不可能提前10秒确定每一个选择；社会知识“非常短暂，也非常即时”。

• 因此，一个安全的市场应当承认无知，同时让自下而上的偏好在参与者愿意表达时显现出来。它不需要“站在顶端的上帝形象”，从假想的全知视角为每个人的生活定义一个人类价值函数。

• 主持人指出，市场早于资本主义存在；Jordan 回应称，资本主义只是让市场运行起来的一种方法论，而不是市场的定义。Jordan 认为，人类文化与个体会创造抽象概念；有用的抽象可以被传播并提升为文化，而未来系统应允许新的抽象自发出现，而不是从上到下安装一套抽象。

10. 创作者平台暴露出 AI 尚未解决的价值分配问题

• 主持人指出，Spotify 可能有动力用 AI 生成歌曲；Jordan 表示同意。他认为艺术家获得的报酬“非常、非常少”，而 Spotify 可能接近垄断，其价格似乎也不是通过竞争性机制形成的。

• Jordan 为 UnitedMasters 提供建议。这是一个让音乐人保留作品，并与品牌及其他机会建立连接的替代平台。目标是让一个人能够成为“真正的艺术家”，而不只是每次歌曲被播放时收到一小笔钱。

• YouTube 是一次错失的转折点：收购 YouTube 让 Google 真正拥有了生产者与消费者之间的市场，而不只是网页链接。Jordan 认为，观众本可以与创作者建立直接的经济联系，由可识别的受众基础提供激励。

• 但 Google 通过广告导流价值，保留大部分收入，只返还一小部分；“Facebook 让情况变得更糟”。Jordan 将这一模式与 Amazon 具体的包裹配送业务作对比，同时承认 Amazon 仍然带来真实的劳动力市场问题。

11. AGI 宿命论掩盖了劳动、制度与有用的自主性

• 面对讨论中与 Geoffrey Hinton、Stuart Russell 相关的递归自我改进、具备代理能力的超级智能论点，Jordan 的回答是：“非常科幻。”更深层的伤害在于告诉年轻建设者，上一代已经完成了算法，他们剩下的只有灭绝或即将到来的超级智能。

• “这太让人泄气了。太让人泄气了。”Jordan 更担心劳动与资本的关系，而不是机器接管世界：规模化模型会强化垂直领域工具，让数学家工作更快，但他不认为模型会简单地让数学家失业。

• 在随后 David Krakauer 的环节中，人类被描述为能够创造美、爱与艺术，但也会误解意图、发动战争、运行失灵的政治制度。Krakauer 对积极 AI 的设想，是改善信息流、信号传递和决策支持，让人们避免在不确定性下做出有害选择。

• 主持人坚持认为自主软件确实带来安全风险；David Krakauer 回答“是，也不是”，并指出自动驾驶仪可以减少事故。即便主持人认为飞行已经被充分定义，Krakauer 仍列举了飞机、天气和人为错误：更有建设性的模式是系统层面的人机协作，而不是“把一个超级智能放到驾驶位上”。

12. 不确定性只有嵌入激励与群体后才会变得有用

• Jordan 把博弈论比作 F=ma：先明确一个博弈，再计算 Nash、相关、序贯或 Stackelberg 均衡，并检验它是否能够预测行为。它在工程上的反向形式是机制设计——从期望实现的分配、分配公平规则或市场出发，再设计能够实现目标的博弈。

• 在 Jordan 将保序预测归功于其教授 Vladimir Vovk 后，Peter Grünwald 解释了 e-values，并将统计契约理论与证据联系起来：只有当统计对象是 e-value 时，激励相容性才成立。

• 与反复查看 p-value 和 p-hacking 相比，非负超鞅和 Ville 不等式支持 anytime inference：研究人员可以持续收集数据、反复检查证据，并自适应地停止，同时保留数学上的控制。

• Jordan 的鸭子例子把统计学与群体情境连接起来：当谷物以2:1的比例出现时，贝叶斯鸭会以概率1前往更好的那一侧；而真实鸭子大致按2/3对1/3分布，这才是同时利用两种资源的 Nash 均衡。

• 另一类不确定性来自私人信息与数据溯源：10年前收集的医学证据，其不确定性应当根据证据年龄进行调整，但当代模型很少以定量方式携带这类元数据。“可怜的 LLM 什么都没有”；当被要求给出置信度时，它主要是在模仿人类过去如何回答这一问题。

• Jordan 最后举了披萨餐厅的例子：餐厅可以放心使用番茄，因为市场会奖励其他人去发现番茄并把它们供应过来。“市场缓解不确定性”：分布式探索能够稳定资源，让每个参与者都可以在其他人完成的工作之上构建自己的能力。