创新者
2 场深度对话收录
Lisha Li
观点集合
开源模型能否跟上 OpenAI 和 Anthropic？｜Nathan Lambert
Lambert称，蒸馏或让中国实验室领先数月，但在RL后训练中的作用仍不明。闭源实验室靠推理整合抢先切入编程市场，收入已从零升至1,000亿美元；开源客户信号较分散，能否凭模型所有权和私有部署吸引企业仍待观察。
查看摘要（8段）
- Nathan Lambert 的核心框架是，模型进步归结为算力、数据和人才这3种资本；中国算力短缺，但人才储备与美国相当。 他认为，视AI起步时人才分布在哪些地方而定，中国的人才或许略逊一筹。他举例说，如果告诉一位中国顶尖预训练研究员，“OpenAI 一名普通研究员随时能调用相当于5,000张 H100 的算力”，对方会“惊掉下巴”。蒸馏可以部分弥补算力不足，因为“语言模型的输出是算力的函数”——蒸馏能以此换来近似算力的效果。
- Lambert 根据文献估计，蒸馏能让中国实验室领先几个月，但它在当下以RL为主的后训练中究竟有多大作用，仍难以判断。 他的依据是，开源后训练方案还“卡在使用一款非常过时的 Qwen 模型”，因为找到合适的教师模型并不容易；他也怀疑，即便有 Claude Opus 的推理轨迹，OLMo 也不会因此好上太多。他说，中国有20–30家公司在开发优秀模型，因此“只有我们会做模型”这种说法“多少是在自我安慰”。
- 他反对政府介入蒸馏，但支持实验室自行决定如何保护产品。 他质疑政府是否该介入自己所说的服务条款违规行为；实验室可以取消访问权限，而把模型限制在产品或企业协议内，也会让蒸馏更难。Jensen Huang 的一句话概括了这一段：“每天都有人蒸馏我的产品……这就叫竞争。”Lambert 认为，中国实验室“不会停手”，政府出手可能弊大于利。
- 开源模型经济的发展速度慢于闭源实验室，但最终可能带来真正的所有权——“模型权重，没有条款和条件”，还能在自己的硬件上运行。 闭源实验室把推理整合在一起，率先进入编程等高价值市场；这块收入已经从零增长到1,000亿美元，而且很可能继续扩大。开源生态则由模型开发者、推理公司和后训练公司共同构成，客户信息和收入不容易回流到模型开发者手中。Lambert“没那么担心这会有泡沫”：随着买家摸清完成任务所需的最低成本模型，开源模型有望扩大份额。
- 在较难验证的领域，前沿进步很大程度上来自高质量数据和环境，而不只是“突然就泛化了”。 Lambert 认为两方面因素可能都有，但很大一部分归根结底是数据。他对环境研究预算的规模感到咋舌，但也指出实验室愿意买，是因为模型确实因此变强。这场淘金热也催生了数据供应链下游的偷工减料和奖励作弊。一个值得关注的投资细节是：中国公司可能买下一个RL环境，6个月后才投入使用。
- 根据现有证据，Lambert 对快速起飞持怀疑态度：“所有 scaling law 都意味着算力指数级增长，性能才线性增长。” 他援引 Claude system cards 的说法，大意是还要再进步“10倍”，才可能形成快速起飞。他真正担心的是能力曲线不断上升，而公共网络安全方面的准备“几乎为零”——“不担心快速起飞，不等于不担心风险。”
- 他新成立的非营利机构 Trillium 将开发开源环境，并公开研究和模型使用过程——任务、配置、轨迹和失败案例——让RSI不再神秘。 这个名字本身就是理念：Trillium 是一种“春季短暂花”，能在树冠长成前开花，并帮助养分扩散。Lambert 希望为这个行业建立开放基础设施；在这个行业里，“计算机科学研究的收益，大约10年后会流向科技行业”，而研究人员创办初创公司后，“5个月内就可能拿到九位数回报”。
- 进入门槛没有舆论说得那么高：“做出一款有影响力的模型，不需要100亿美元”；前沿实验室的想法也能“一顿啤酒的工夫”传开（SSI似乎是个例外）。 Lambert 认为，闭源实验室持久的优势在于提供“每瓦成本最低的智能”。他提出一个假设性降价情景：价格每8个月降至一半，届时究竟会因 Jevons 悖论而提高利润率，还是市场被需求填满？关键仍在于，编程是否是主要的盈利市场——这会让前沿整合占优；还是所有知识工作都能成为市场——毕竟“他们不可能什么都做”。
当今最优秀的模型在数学方面仍然做不到什么
Litt最认可的自主成果是5月中旬解决爱尔兰单位距离问题，并将20世纪60年代经典技术用于平面点配置，随后反例扩展至实数域上的和积猜想。模型仍不擅长理论构建和长证明校验，博士后“拉老虎机”式发论文可能造成模式坍缩，人类数学家的多样性与理解培养链条成为关键观察点。
查看摘要（8段）
- Daniel Litt 最喜欢的完全自主成果，是5月中旬解决爱尔兰单位距离问题的结果；他认为这“在某种程度上有点创造性”，而不是对人类工作的最后一步收尾。 Lisha指出，相关领域的研究者原本认为命题成立，但有人借助20世纪60年代的经典技术找到了反例，而这些技术此前并未用于研究平面上的点配置。数学家随后用这套思路为其他开放问题找到反例，包括实数域上的和积猜想。Litt 的评判标准是事后检验：新想法是否能被用于其他问题，或是否加深了理解？
- 能力前沿高度失衡：模型“非常、非常擅长运用已知技术”——能够埋头做计算，也能整合许多论文中的技术性想法，但在直觉、大局观哲学和理论构建方面明显薄弱。 Fable 和 ChatGPT 5.6 都不擅长自主构建理论，不过在提示下可以做出有意思的东西。Litt 的保守判断是，如果模型只需“100比特的提示”就能做到，也许6个月后就能在没有提示的情况下做到。
- AI 生成的数学证明读起来像人写的，而不是来自异形智能——“并不存在什么‘第37步’”。 Lisha指出，各实验室似乎在扩展自然语言推理，而不是依靠大规模 Lean 验证证明语料。Litt认为，这意味着尽管人们常用可验证性解释数学进步，这类技术或许也能泛化到其他领域；但他强调，这“只是我的猜测”。
- 短而巧的证明构成的是验证能力的上限，而不只是风格选择：“它们之所以没有产出冗长复杂的证明，是因为它们做不到”；模型生成长篇输出时“可能根本不知道自己错了”。 OpenAI 最近列出的10个问题已经用 Lean 形式化，而 Litt 认为，一份声称解决正特征下奇点消解问题、长达800页的 AI 生成证明几乎肯定是错的。能够诱导模型写出250页论文的编排框架，往往是以牺牲可靠性为代价。
- 激励机制已经面临风险：博士后可以“反复拉老虎机”，直到模型吐出一个希望正确的证明，然后靠此发表论文。 Litt 曾让 Codex 找出5个近期的代数几何猜想并加以证明；经过一些来回沟通，Codex 在1小时内生成了3篇“很糟糕、但正确的论文”。他和 Lisha 还讨论了这样的案例：几天之内，3–5篇论文使用了“完全相同的证明证明完全相同的定理”。系统性风险不是100万人追逐不同的好奇心，而是“1个数学家被复制1,000遍”。
- Anthropic 与 OpenAI“旗鼓相当”，Claude 在 Opus 4.5 或 Opus 4.6 左右追了上来，此前很长时间对研究数学都没什么用。 一个新的秩30椭圆曲线结果颇有意思，但在不知道其方法的情况下无法评估；近期一些成果涉及 Levent Poge，但自主程度并不清楚。从历史上看，这类纪录很酷，却“不是 Annals 级别的成果”。
- 即便模型变得“真正稳健地超越人类”，Lisha 仍说“我们还是需要人类数学家”。 Litt认为，最优并不意味着会开展广泛、多元的基础研究：自主系统可能会选择一条直接路径。由兴趣广泛的群体组成的数学共同体，才能保留人类的控制权，把模型引向多样化研究，并维持培养数学思维者的路径。
- Litt 的核心原则是：“数学的目标不是产出数学论文，而是产出某种理解。” 如果理解只是储存在模型权重里，对他而言并不令人满意。人类数学家应继续发展自身能力，利用 AI 加深理解，而不是把思考交给 AI。