Google AlphaEvolve——发现新科学(独家访谈)
摘要
AlphaEvolve 打破了一项保持56年的基准:为通用4×4矩阵乘法找到仅需48次乘法的算法,击败递归应用 Strassen 1969年方法得到的49次。 在 AlphaTensor 未能改进通用数值结果后,团队主要是“为了完整性”才运行了这一案例;Matej Balog 的第一反应是不敢相信:“再检查3遍。” 该算法使用复数,但同样适用于实矩阵,包括神经网络训练中使用的矩阵。
直接的经济价值已经出现在 Google 内部:一种演化出的调度启发式算法,平均回收了原本会闲置的全公司算力资源的0.7%;另一项改动则让下一代 Gemini 的训练速度提升了1%。 这些收益来自已经经过高度优化的 Google 基础设施。不过,Matej 对“即时递归自我改进”这类夸张说法进行了限定:目前反馈周期仍处于“以月计”的量级。
AlphaEvolve 的优势来自经验证的局部改进不断复利,而不只是让 LLM 多采样几次。 语言模型负责提出代码——“有些很蠢,有些很惊艳,有些真的很怪”——自动评估器筛选结果,演化循环则保留多样性、选出有希望的程序,并要求模型在有效成果上继续构建。论文消融实验显示,移除演化后,表现“差得多、差得多”。
可覆盖的问题领域很广,但边界取决于可靠评估器的可得性与成本。 可以给一个程序10分钟的评估预算,但 Keith Duggar 的反驳触及根本:终止运行缓慢的候选,可能会丢掉“神一般的算法”,也可能错过一个暂时不如人意、却能通向突破的垫脚石。物理实验又增加了一道瓶颈,因此提出的衔接方案是评估级联:先低成本筛掉大量候选,再把稀缺的实验室或现实世界试验留给大约10个最终候选。
AlphaEvolve 在数学发现和生产软件之间展现出异常强的可迁移性,但它在6×6矩阵上的结果也说明,通用性并不会消除领域知识的作用。 系统搜索的是不受限制的算法,未能超过已知最佳的6×6方法;后者利用对称性这一宝贵的归纳偏置,大幅压缩了搜索空间。因此,“通用”意味着搜索机制可适配不同问题,而不是自动压倒专用方法。
更强的基础模型会直接提升 AlphaEvolve,形成高于模型层的杠杆,但并不意味着它可以脱离模型独立运行。 Matej 表示,在 Gemini 2.0 Flash 单独运行的基础上加入 Gemini 2.0 Pro 后,结果得到改善;主持人关于2.5的提问则仍面向未来。更大的机会,是把通过演化测试时算力发现的成果蒸馏回未来的基础模型,但团队尚未完成这一强化学习闭环。
作者认为,人类判断——而非完全自主——是系统的核心特征,也可能成为持久差异化的来源。 研究人员选择问题、表示方式、随机种子、评估器和后续实验;系统随后“榨干这个想法的全部价值”,并帮助人类形成下一步提问的直觉。Alexander Novikov 更偏好这种“人与机器之间来回互动”的模式,而讨论更广泛的警示是:AI 可能让平庸内容淹没世界,同时又不成比例地提升专家生产力。
精读
1. AlphaEvolve 将 LLM 的创造力转化为可累积、可验证的搜索
Alexander Novikov 对系统架构的出发点不可妥协:AlphaEvolve 处理的是这样一类问题——任何候选代码都能自动测试,并被赋予一个质量指标。评估器限制了可处理的问题范围,但也让系统能够快速迭代,并过滤 LLM 广泛分布的想法——“有些很蠢,有些很惊艳,有些真的很怪”。
演化流水线会反复选出有希望的程序、保留多样化种群,并将证据反馈给模型:“这是你之前尝试过的东西。这个有效。这个无效。请提出一个新方案。” 并行执行补上了最后一个要素——规模,让许多候选谱系能够同时推进。
Matej Balog 认为,演化算法天然适合科学发现,因为“事先根本不可能知道”正确路径是什么。多样性可以防止搜索过早收缩到一个局部看起来有吸引力、但最终并非最优的解法家族。
节目将 AlphaEvolve 描述为 FunSearch 的扩展:它不再只演化一个函数,而是可以修改代码库中划定的可适配区域,并优化这些区域之间的交互。Alexander 还补充了一个实际偏好:演化算法相对快速,而且“玩起来很有趣”;相比之下,搭建强化学习系统可能耗时得多。
2. 评估器既创造能力,也构成最难突破的边界
Keith Duggar 将问题推向停机难题:代码可能编译并运行1小时,却仍未显示它是否会终止;但如果5分钟就停止,可能会错过“神一般的算法”。Matej 承认,从理论上说,没有任何程序能告诉你继续运行更长时间会发生什么。
Matej 的实用答案,是把时间本身纳入任务定义。如果目标是在10分钟内取得进展的搜索算法,那么每个候选都严格获得10分钟;这种做法有意探索在该预算内有用的算法,但也可能错过需要更长时间才能成熟的方案。
Keith 更尖锐的反驳是,固定截止时间会限制开放式发现:一个当前运行较慢的程序,可能正是最终“跳到更高效方案”的垫脚石。讨论指出,这一限制在论文精心选择的问题上影响并不大;Tim Scarfe 则称其为“巨大的”限制。
Alexander 将这一局限反过来指向人类研究:“作为一个人,你怎么知道自己应该停止研究一个问题?” 再多1个月也许就能解决,但无论研究人员还是机器,都无法事先知道答案。
3. 初始种子决定系统是深挖一个想法,还是广泛搜索
Matej 区分了两种运行模式。详细提示或强大的初始程序,会让 AlphaEvolve 围绕局部改进“榨干这个想法的全部价值”;而在默认情况下,团队提供的几乎是只返回0或 false 的空函数,让基础模型进行广泛探索。
在矩阵乘法问题上,AlphaEvolve 并没有直接生成最终的乘法方案。它从“使用梯度”这一点出发,演化出一个基于梯度的搜索算法,其中包括复数损失函数、更新规则、惩罚项,以及出人意料的随机性注入。Matej 称其“很像人类”,但人类显然不会自然想到尝试这样的代码。
一项尚未发表的实验改变了人类指导的质量:参与者分别研究一个问题2分钟或30分钟,记录自己的想法,再将笔记交给系统。AlphaEvolve 保留了想法的核心,同时优化大量细节——有时是智能地优化,有时则是尝试足够多的变体,直到某个方案奏效。
4. 执行、元提示与可复用程序库扩展知识库
Keith 起初认为系统有两个知识来源:预训练模型压缩后的语料,以及初始程序。Matej 又增加了第三个来源:执行本身。因为系统可以选择运行某种算法,从而获得关于该算法实际表现的经验事实。
AlphaEvolve 已经实现了元提示。在解决任务前,模型会先获知将要接收的提示,并被要求修改该提示;随后,系统根据实测结果筛选出能够产生更强演化运行的提示。
Tim 提出的“下一个万亿美元生意”是一套稳健的跨领域程序库,即“新石油”,其中的模块可以通过类比迁移。Matej 认为矩阵实验已经出现了早期版本:独立发现的算法彼此不同,而用它们初始化后续运行,可以提供有价值的启发。
Alexander 表示,人类操作者也正在成为一种程序库:与 Google 的许多团队协作,感觉像是在经营一家咨询公司,不断积累哪些方法有效、下一步该尝试什么的直觉。从技术上看,Matej 认为没有障碍可以让程序在更广泛的任务族上接受优化;维护一个共享的 AlphaEvolve 仓库,更多是组织问题。
5. 48次乘法的构造打破4×4基准
用传统方法计算两个2×2矩阵的乘积,需要为4个输出项各进行2次标量乘法,总计8次。1969年,Volker Strassen 通过安排“神奇的消去”,将次数降到7次,震动了数学界;随后证明,7次对于这一问题已经是最优。
3×3矩阵乘法至今仍未解决:已知下界是19次乘法,而现有最佳算法需要23次,不是传统方法的27次。差距之所以持续存在,是因为可能的算法空间在矩阵看起来变大之前,就已经膨胀到极其庞大。
对4×4矩阵,长期以来的通用算法是递归地将 Strassen 应用于2×2分块,得到7×7,即49次乘法。AlphaTensor 只改进了特殊的布尔、模2情形;在通用情形多年没有突破后,AlphaEvolve 在一场主要“为了完整性”进行的运行中找到了48次方案。Matej 回忆说:“我简直不敢相信。再检查3遍。”
这一构造最反直觉的地方,是使用了复数。对复数算法进行搜索看似更难,因为它们必须同时适用于复数和实数输入;但正是这个扩大后的表述带来了突破。实矩阵,包括神经网络训练中使用的矩阵,仍然是它的有效特例。
6. 小规模构造可以递归扩展,但搜索复杂度会爆炸
这些发现并不局限于很小的输入。正如 Strassen 可以递归地作用于大矩阵的分块,为4×4分块发现的算法,也可以递归嵌入到更大矩阵的乘法中。
底层张量的规模增长极其猛烈:4×4问题要求分解一个16×16×16张量,而5×5会变成25×25×25。Matej 将这种增长形容为“指数的指数中带有一个二次项”。AlphaEvolve 能比 AlphaTensor 扩展得更远,但任何方法最终都无法逃离那堵墙。
在6×6问题上,AlphaEvolve 没有达到已知最佳结果。团队有意不给系统任何矩阵领域技巧,而是搜索不受限制的形式;领先方法则假设特定的对称性和规律性,大幅压缩搜索空间。Matej 认为,缺少这一归纳偏置是最清晰的解释,并不意味着演化机制已经找到最优解。
7. 如何选择表示方式仍是未解决的研究判断
Matej 坦率地说:“我们自己也没有全部答案。” AlphaEvolve 可以直接搜索解法,演化一个生成解法的短构造器,发现一个能够找到解法的搜索算法,或者共同演化一系列逐步改进解法的算法。
他给出的具体类比是分形:如果将分形表示成像素网格,就浪费了它的规律性;而一个简短的生成函数可以捕捉其结构。规律性较弱的目标,可能需要直接表示或复杂的搜索程序,而正确的抽象形式无法事先确定。
共同演化提供了另一个方向:多个算法可以逐步改进一个候选解,而不是由一个程序直接产出最终答案。实际上的补偿是,重新表述问题的成本很低——团队可以尝试多种表示方式,再观察哪一种效果最好。
Keith 将这些模式与数学中的演绎、构造和枚举联系起来。Matej 表示,构造型问题可以直接交给 AlphaEvolve;一些不可能性主张可以对偶化为构造问题,但证明搜索更难,因为正确性是二元的。LLM 生成的“软分数”或许可以判断一个不完整证明是否看起来正在取得进展,但论文没有展示这条路径。
8. 演化将暴力采样留下的孤立成果不断复利
Matej 表示,反复向聊天机器人提问,会让人“完全错误地理解规模化能力”。10亿次独立采样可能包含有用的碎片,但不会自动形成完整解法;演化选择则能够识别这些碎片,并在后续代际中继续构建。
论文消融实验支持了这一差异:移除演化后,表现“差得多、差得多”。因此,AlphaEvolve 的价值并不只是推理量套利,而在于保留发现、重新访问邻域,并累积改进。
Alexander 以 FunSearch 的 CAPSET 案例为例:当时使用的是一个甚至不解释数学问题的小模型。目标大约是50行 Python 代码,具体程度高到不可能偶然出现,因此成功“完全依赖于爬山”,即修改不完整程序,并保留所有可测量有效的部分。
矩阵搜索同样需要经过设计的中间信号。系统可以将一个算法运行10次,并优化其成功频率,先掌握2×2,再推进到3×3;相邻的矩阵规模也会保留一些在目标规模上起初无用、但经过其他地方的改进后可能具备迁移价值的想法。
9. 程序合成不仅能输出分数,也能揭示机制
AlphaEvolve 有时会返回足够简单、让人类能够在所有输入上验证,并几乎立即部署的代码。Matej 将其与神经网络作对比:后者需要托管、推理资源、重新训练,以及其他运营层面的考量。
在 CAPSET 工作中,研究人员发现代码反复使用4:循环索引取模4,而数组访问使用 i、i+4 和 i+8 这些位置。检查这一模式后,团队提出了一个数学假设,将其反馈给下一轮运行,并取得了显著更好的结果。
矩阵搜索代码则产生了更奇特、但仍可检查的洞见。人类可能会调整量化损失的权重或调度,让近似解逐渐靠向能够精确验证的整数或分数;AlphaEvolve 却为这个损失函数创造了一整套随时间变化的形状,复杂到研究人员很难主动想到手工尝试。
Alexander 的区分是,许多机器学习想法事后听起来都合理:“想法其实很便宜。” 真正困难的是找出5个看似合理的想法中,究竟哪一个有效。对于其他任务,系统也可以有意牺牲可读性来换取性能,演化出复杂的启发式算法,而其整体机制仍然难以解释。
10. 生产力收益证明系统不止能做基准数学
Google 工程师提供了一种为机器分配任务的候选调度方法,随后 AlphaEvolve 演化出一个异常简单的启发式算法。部署后的全机群测量显示,它持续回收了平均0.7%的算力资源;这些资源原本会处于闲置状态,而在 Google 的规模下,这一小比例对应的绝对值很大。
AlphaEvolve 的另一项成果让下一代 Gemini 的训练速度提升了1%。Matej 强调了这一结果的具体含义:这不是一个自主智能体瞬间重新设计自身,而是对已经高度优化的基础设施进行了一项具体优化。
最让 Matej 意外的是适用范围之广。研究工具通常还需要额外一轮工程工作,才能转化为运营层面的价值;AlphaEvolve 却能同时推进数学构造,并直接生成可以“开箱即用”地部署到 Google 关键算力栈中的算法。
这种双重用途依赖于可执行产物。同一套机制既可以输出直接解法,也可以像矩阵乘法案例那样输出“寻找算法的算法”,让改进能够落在生产或研究流水线的不同层级。
11. 昂贵的物理验证需要评估器级联
Alexander 建议,将模糊目标转化为可执行奖励。一个理想的最终图像或自然语言描述,可以被转写成 Python 评分代码;视觉语言模型负责验证二元结果,而演化出的辅助奖励则提供训练机器人所需的更平滑信号。
Keith 强调,拒绝一段立即崩溃的代码,与测试一台可能受损的机器人、实验室中的生物学假设,或通过临床试验验证医学想法,之间存在巨大鸿沟。模拟器成功,并不能让后续评估变得廉价或没有代价。
Alexander 的答案是一条逐步升价的测试阶梯,由 LLM 反馈、Elo 式比较或其他排序机制决定哪些候选可以晋级。他提到 Google 的 Co-Scientists 是相关尝试,目标是在难以获得硬反馈时对想法进行排序。
Matej 表示,AlphaEvolve 已经支持评估级联:快速评估大量程序,对较少候选进行更长时间检查,然后将大约10个候选送入现实世界实验。这对应了预算有限条件下的常规研究流程——先用低成本过滤器,再进行稀缺的决定性试验。
12. 更强模型、人机协作与弹性算力决定前沿
更强的基础模型会直接让系统受益。Tim 描述了 Gemini 2.0 Flash 与 Gemini 2.0 Pro 的组合,并追问2.5可能带来什么;Matej 在消融实验中的表述是,加入 Gemini 2.0 Pro 后,结果优于仅使用 Gemini 2.0 Flash。他表示,AlphaEvolve 目前正“乘着前沿模型改进的浪潮”。
演化测试时算力可以将能力推到基础模型之上,甚至足以实现科学发现。Matej 尚未解决的问题是,能否通过闭合强化学习环路,将这种改进蒸馏回模型;“这一可能性显然摆在桌面上”,但团队还没有做到。
Alexander 不赞成把更高程度的自主性视为唯一终点。他更看重丰富的人类介入——评论候选、注入想法、完善问题——并计划与学术界开展可信测试,同时探索这种“共生空间”的交互界面。
成本仍然没有定论。Tim 引用了2.3节中的“以100个算力小时计”,但 Matej 没有给出统一数字:简单问题可能几乎立即解决,延续数十年的难题则可以持续消耗扩展资源,而开放问题往往无法事先定价。AlphaEvolve 的主张是弹性和持续改进,而不是在固定预算内保证可预测的发现。