Periodic Labs:训练 AI 科学家,与 Liam Fedus 和 Ekin Dogus Cubuk 对谈(来自 a16z)
摘要
Periodic Labs 由 Andreessen Horowitz 领投的3亿美元种子轮,押注的是一条高资本投入路径:AI 科学家必须通过作用于物理现实来学习,而不只是吸收互联网信息。 Liam Fedus 将实验称为“物理锚定的奖励函数”(physically grounded reward function);模拟器和语言模型可以作为工具,但自然界才是最终的误差校正器:“自然界是我们的 RL 环境”(Nature is our RL environment)。可投资的命题,是由实验室搭建一个包含假设、自动化实验、正负结果和模型迭代的闭环。
Scaling laws 可能仍然成立,却依然无法在所需时间尺度内带来有用的科学发现。 Fedus 的质疑是:“这个 y 轴究竟是什么?”围绕互联网或编程分布进行 scaling,并不会凭空制造缺失的物理知识,“那个模型不会接着去治愈癌症”。Ekin Dogus Cubuk 补充说,域外表现可以按幂律提升,但斜率可能极其平缓,以至于达到目标要花上几个世纪。
现有科学语料库的问题不只是太小;它还充满噪声、存在选择性发表,并且缺少训练科学判断所需的迭代过程。 已报道的物理性质可能跨越多个数量级,形成焓误差足以让预测失效,超导数据集也常常受到较高噪声底的限制。由于负面结果很少发表,基于文献训练的模型最多只能复现一个扭曲的分布,而无法理解实验为何失败。
高温超导为 Periodic 提供了可量化的北极星,也迫使它搭建完整的自主科学技术栈。 目前所称的常压基准约为135开尔文;超过这一温度就能提供明确无歧义的成绩,而 Cubuk 认为,假设出现200开尔文超导体,即使尚未商业化,也会改变人类对宇宙的理解。实现这一目标,需要自主合成、表征、模拟和实验选择能力,并验证这些能力能否迁移到磁学及其他物理领域。
近期业务是服务先进制造的智能层,而不是等待一块奇迹般的超导体出现。 Fedus 瞄准半导体、航天、国防及其他“拥有巨额研发预算”的行业,为研究人员和工程师提供 copilot,缩短文献检索、模拟、设计和实验之间的迭代时间。商业化将采取 land-and-expand 路径:先解决一个关键且边界清晰、评估标准明确的问题,而不是第一天就承诺改造整条生产线。
Periodic 的模型策略超越检索,通过 mid-training 和高算力强化学习,将私有科学与工业知识编码进模型。 Mid-training 是在基础模型缺失的知识上继续预训练——从晶体结构、模拟输出,到材料制造过程的描述——再将这些分布连接起来,让一个数据集提升模型在另一个数据集上的表现。这种更深层的编码也带来企业级挑战:当部分数据只有高层管理者可以访问时,知识可能需要分桶,分别放入不同系统。
组织护城河是一支约30人的跨学科团队,依靠好奇心、翻译能力和紧迫感,而不是学历资历来协作。 每周教学让 ML 研究人员讲解 RL 和数据清洗,也让物理学家与化学家教授量子力学和科学史;团队的文化规则是“没有愚蠢的问题”。高级学位并非必要,因为即便最优秀的专业人士,对任务所需的物理、化学、合成和表征知识也只掌握很小一部分;创始人希望“尽快”(ASAP)取得进展,而不是等10年。
精读
1. 自然界取代数字评分器
Fedus 回忆起8年前在 Google Brain 与 Cubuk 相识的经历:当时他帮 Cubuk 翻动一只单人无法搬动的轮胎。此后的交流一次次回到量子力学和超导,而 Cubuk 也见证了 LLM 逐渐用于找回被遗忘的化学知识、编写模拟代码,最终成为物理研究中的“一等公民”。
两人的技术树最终在推理、高算力强化学习,以及模拟和实验中的 scaling 行为上汇合。Fedus 说,聊天机器人只是“路上的一个重要里程碑”,目标则是加速科学和物理研发的技术;物理学提供了可验证的结果、相对较快的迭代速度,以及适用于大类系统的模拟器。
Fedus 对早期 ChatGPT 的复盘,解释了缺失的那块拼图。监督式样本先把自动补全模型变成助手,随后 RLHF 优化一个基于人类偏好的奖励模型;但这个奖励主要编码的是“成为一个友好的助手”,无法判断数学是否正确、代码是否有效。
数字评分器如今提升了正确性,但科学最终仍由实验裁决。因此,Periodic 将 Python 和浏览器等熟悉工具,与模拟器和量子力学工具结合起来,同时把实验室结果视为最终奖励和误差校正器——当模拟器存在缺陷时,“自然界是我们的 RL 环境”(Nature is our RL environment)。
2. 科学发现需要行动、失败和目标领域数据
Cubuk 最简单的诊断是:科学本质上是迭代的。即便是最聪明的人,也要在发现某个东西之前反复失败;“把一个人放进房间,却不给他任何迭代的机会,他不会发现任何重要东西。”模型同样需要计算、模拟、实验、观察不理想的结果,再修正自己的理解。
单靠文献只能提供一种失真的学习信号。Periodic 的一名工程师发现,某项物理性质的报告值跨越了多个数量级;在这份记录上训练的模型并不神奇,只能复现其分布,而无法消除只有新实验才能解决的“可还原不确定性”。
有效的负面结果尤其有价值,也尤其稀缺。大多数发表的结果都是正面的,失败则被省略,或被斥为不严谨的科学;Cubuk 补充说,负面结果可能取决于实验环境,另一名研究人员改变流程后,它也可能变成正面结果。
创始人将实验室命题归结为3个缺口:数据有噪声、缺少负面结果,以及无法采取行动。高通量实验室可以同时解决这3个问题:产出高质量数据,纳入负面结果,并让智能体不断迭代下一步该做什么。
3. Scaling 只对被扩展的分布有效
Anjney Midha 的反驳值得保留:持续预训练和后训练,或许最终可以通过蛮力 scaling 与涌现能力攻克物理学。Fedus 接受 scaling laws 仍然成立这一经验前提,但追问:“这个 y 轴究竟是什么?”表现会在选定的测试分布上可预测地 scaling,却不会自动扩展到人类想要的每一种能力。
他的编程类比划出了边界:在线代码数量充足,单元测试提供奖励,系统可以提升生成通过测试的软件的能力。它或许能加速自身的软件开发,也能帮助癌症研究人员分析数据,但“那个模型不会接着去治愈癌症”;所需知识和环境迭代都不存在。
Cubuk 从数学上进一步强化了这一论点:域内和域外表现都可以作为幂律单调提升,但域外斜率可能因与训练数据的距离而变得极其平缓,以至于想要达到目标,可能需要“花上几个世纪”。因此,Periodic 计划通过改变训练集、让其更接近想要实现的任务,来把目标拉近训练分布。
有些所需数据集根本不存在,或者质量不足以使用。Cubuk 举例说,形成焓标签的误差会让下一个材料变得无法充分预测,而超导数据集的噪声底往往会击穿训练效果。他们的立场并非反对 scaling:“先为你真正关心的事情做一个 baseline。”
4. 超导迫使自主实验室补齐全套能力
Periodic 从量子力学能量尺度切入——化学、生物和材料都在这一尺度上运行。公司计划建设一座自动化粉末合成实验室:混合现有材料的粉末,将其加热到指定温度,形成新材料;Cubuk 说,这一流程可以交给规模大致相当于机场咖啡机器人的设备处理。
尽管机械流程简单,产出空间仍然具有丰富的科学价值:粉末合成可以产出候选超导体、磁体及其他具有重要技术价值的材料。模型将把这些实验与理论计算和模拟结合起来,学习对量子力学的“基础模型”式直觉,而不只是生成科学文字。
进展有一个硬指标:目前所称的最佳常压超导温度约为135开尔文,因此超过它可以直接量化。应用研究同样能够被具体打分,包括延展性、韧性、强度,以及能否真正发现并制造出具备目标材料性质的样品;这一信号“很难被钻空子”。
200开尔文超导体即使在产品出现之前也会产生影响,因为在这一温度观察到量子效应,将改变人们看待宇宙的方式。超导在技术上也很有吸引力:它通常更多由基本晶体性质决定,而不是由当前模拟无法捕捉的缺陷或微观结构决定。
5. 科学北极星包含具备商业价值的子目标
Midha 追问创业公司的核心问题:如果 AI 编程是迈向通用 AI 研究员道路上的商业切入口,什么业务来支付 Periodic 的前进成本?Fedus 的答案是“面向工程师和先进产业研究人员的 copilots”,重点包括航天、国防、半导体,以及必须反复改动材料和物理设计的制造流程。
高温超导与其说是一项单独的押注,不如说是一个强制函数。实现它需要自主合成、自主表征、正确使用模拟器、理解文献、进行理论推理和执行实验;这些能力对客户同样有用,因为他们的研发人员也遵循阅读—模拟—构建—学习的循环。
Fedus 明确表示:“技术和资本是交织在一起的。”一家商业实体如果取得巨大成功,就能最大限度地加速科学。因此,Periodic 希望成为一个智能层,缩短工业迭代周期,并提升研究人员和工程师最终得到的解决方案。
初期部署策略刻意保持狭窄。企业正在寻找 AI 战略,有时还面临高级专业人才流失,但 Periodic 不会一上来就提议改造整条生产线;它会共同定义一个紧迫问题,设定清晰的评估标准,与当前技术优势匹配,寻找内部推动者,然后“先落地,再扩张”(land and expand)。
6. Mid-training 将专有知识转化为模型能力
一家潜在客户花费大量时间培训员工操作关键模拟器。它的需求包括自动化这些模拟、辅助设计流程、匹配文件格式、将输出接入现有管线,并把散落的数据集放在一起处理;这些看似琐碎的集成细节,决定了高级模型能否真正改变工作流。
Fedus 区分了检索与理解。检索可以遵守每名员工的访问权限,调取内部文档;但 ChatGPT 已经表明,把知识预训练“写入权重”后,形成的东西比搜索更丰富。客户仍然缺少一种方法,将多年积累的专业知识提炼进一个模型或一组协同模型。
Mid-training 是连接两者的桥梁:以预训练模型为基础,在常规监督式或强化学习后训练之前,继续针对缺失知识进行预训练。对 Periodic 而言,输入既包括底层晶体结构,也包括“材料 XYZ 如何制造”的高层描述,还包括实验室需要产出的模拟和实验数据。
仅仅混合数据集 A、B 和 C,并不能保证泛化;Periodic 希望每一次新增都能提升模型在其他数据集上的表现。公司也能受益于更好的基础 LLM、开放模拟工具,以及作为智能体工具使用的专用神经网络,因此不必在内部复刻每项能力。
7. 跨学科文化与学术界补全系统
建立这家公司需要一支覆盖 LLM、实验和模拟的“N-of-1 团队”,每个方向下又有分形般展开的专业领域:固态化学与物理、自动化与设施、理论与计算模拟、mid-training、RL 和基础设施。这个约30人的团队中,还包括一批处在纯专业角落之间、承担桥接作用的研究人员。
每周课程和“没有愚蠢的问题”文化,让翻译能力变成日常运营机制。计算机科学家不断把科学论断映射成 API——“输入是什么,输出是什么,目标是什么?”——科学家则教授选择更好训练任务、设计奖励推理策略所需的物理概念和科学史。
高级学位并非必需。Cubuk 反转了那个 NBA 比喻:顶尖球员与 LeBron James 的距离,比业余球员与他的距离更近;即便 Periodic 最优秀的物理学家,对仍需学习的物理、化学、材料科学、合成和表征知识,也远多于已经掌握的部分。因此,协作和强烈好奇心高于学历边界。
学术界提供了工业界可能忽略的工具、任务和思维方式。Periodic 正在组建一个顾问委员会,成员包括 Zhi-Xun Shen、Steven Kivelson、Mercouri Kanatzidis 和 Chris Wolverton,并设立面向 LLM agents、合成、材料发现和物理建模的资助计划;一名物理学家的纠正抓住了其中的价值:“思考时应该从对称性出发。”