递归式自我改进与人工智能的未来

摘要

• 一家RSI初创公司的创始人——Dhaval Adjodah曾在MIT Media Lab攻读强化学习博士，Owen He曾是DeepMind研究科学家——称，他们已观察到递归式自我改进的初步实证迹象：资源投入这一分母保持不变或下降，性能却在提升。 被问到这是否正在发生时，Owen说：“我不只是觉得这有可能，我觉得它正在发生”；他们称，过去几个月成果不断增加，但在确认结果无误前暂不发布。
• 他们用一个定义标准来区分RSI和“AI创造AI”：要问谁是优化器、谁是被优化对象。 人类借助越来越好的AI工具属于“自催化”——创意和改进仍来自人脑。他们认为，RSI则是让语言模型本身成为被优化对象，形成闭环；按他们的框架，边际增益可以保持不变，甚至不断扩大。
• Casado从性能与成本之比出发，讨论能力提升，但仅有闭环并不能证明系统会起飞。 如果分子固定，系统就会进入平台期；如果分子随能力增长，改进可以保持恒定；如果分子按更高次幂增长，模型则会推导出指数级起飞。一位创始人称，相关指数必须靠实证测量；他们还没有深度学习的学习理论。
• 评估RSI主张时，分母至关重要。 Casado指出，模型发布周期正在缩短，但若以融资额为参照，趋势就不一样了。创始人通过一块名为“bleederboard”的看板追踪实验成本，包括人力投入。他们以nanoGPT为例：GPT-2过去需要多块GPU训练数周，如今用相同数据、在同一块GPU上，只需数小时、花费约100美元即可重新训练。Casado回应称，他还没看到GPT-5也有类似结果；创始人补充说，效率提升还能带来更多rollout和更好的训练轨迹。
• 他们选择从推理效率切入商业化，认为这是一个既能提升性能、又能降低成本的AI问题。 推理更快也意味着系统可以进行更多推理；创始人称，他们的多LLM智能体能自行选择优化目标，连主提示词也一直在改进。他们希望同时优化提示词、运行框架、权重和芯片，而不是孤立地优化单个部件。
• 他们称，许多已发表的RSI思路在自己的测试中无法扩展，实际边界也仍不清楚。 他们的框架把人类研究人员也纳入智能体，目标是适用于不同问题领域，但进展会受到物理过程和最慢环节的限制。他们对比了评估速度快的编程、数学任务，以及受湿实验和临床试验制约的药物发现。Owen推测，宇宙的计算能力决定了最终上限；他表示，自己还没见过针对特定任务、求解所需能量的边界。

精读

1. RSI不是“AI造AI”，而是优化器变成被优化对象

• 对于Casado听到的“我们用AI创建GPU内核”这类说法，他们的定义检验是追问：“谁是优化器，谁是被优化对象？”人类借助越来越好的AI工具属于“自催化”：创意和改进仍来自人脑。在他们看来，RSI是让语言模型本身成为被优化对象，把认知能力的提升再投入模型自身。
• Casado指出，每个技术时代都出现过自催化效应，例如用计算机制造计算机。创始人借助控制论作出的区分是：自催化仍需要人类填补缺口，而闭环则可能让边际增益保持不变，甚至随时间扩大。

2. 能力提升模型区分平台期、持续改进与起飞

• Casado用性能（分子）与成本或难度（分母）之比来描述能力提升速度。分子固定时，系统会像他举的蒸汽机例子一样进入平台期；如果分子与能力相关，改进就可能保持恒定；如果分子与能力的更高次幂相关，模型推导出的则是指数级起飞。
• Casado提醒，仅有一张闭环图并不能证明系统会起飞。一位创始人称，很难预判非线性系统会如何演变，指数必须靠实证测量。他们还没有一套可靠的深度学习理论；现有工具中，缩放定律算是最接近的指引之一，但它们同样来自实证。

3. 分母至关重要——实验成本和人力投入都要算进去

• Casado注意到，模型发布周期正在缩短，但若相对于公司融资额来衡量，这一趋势就不再成立。创始人称，若改进依赖不断投入更多资源，就不算RSI；他们也把人力和实验投入计入分母，并用内部的“bleederboard”追踪实验成本。
• 他们以nanoGPT为例：GPT-2最初需要多块GPU训练数周，如今用相同数据和同一套GPU硬件，只需数小时、花费约100美元即可重新训练。改进来自算法、数据和内核技术，其中许多成果由自动化研究得出。Casado回应称，这还没有在GPT-5上得到证明。创始人补充说，效率提升可以支持更多rollout、带来更好的轨迹，并训练出更聪明的模型。

4. 统一框架与全栈优化同样重要

• 创始人称，许多宣称实现RSI的论文，在他们的内部基础设施中针对基准测试和真实经济问题进行大规模测试后，都无法奏效。他们还表示，尝试复现领域内公布的成果时，结果有时会被证明只是噪声或挑选性呈现。在他们看来，能够闭环的简单系统才具备规模化能力。
• Casado引用了Feynman关于“集邮与物理学”的区分。一位创始人认为，没有统一的数学框架，研究者就无法判断整体系统是否在进步，还是只有某个部件在提升；优化一个部分也可能影响另一个部分。
• RSI可以覆盖提示词、运行框架、权重和芯片。创始人最初从改进运行框架入手，之后加入权重更新，并预计将对多个部分进行协同优化。由他们的智能体选择优化方向，连主提示词也一直在改进。
• 他们选择推理效率作为切入点，因为它与AI本身密切相关，而且可以同时改善性能与成本。推理更快，系统就能进行更多推理；创始人也称，效率提升能带来更多rollout和更好的训练轨迹。为最新的开放权重模型提供服务，例如Kimi K3，在经济上同样很重要。

5. “这不是信念，而是实证测量”：初步迹象、方差与边界

• 被问到性能能否在分母不变或下降时持续提升，Owen回答：“我不只是觉得这有可能，我觉得它正在发生”（“I don’t think it’s just possible. I think it’s happening”）。他说，过去几个月他们看到成果不断增加，但在确认结果无误前没有发布。他还指出，基准测试准确率最高只有100%，因此可能不适合用来识别指数级进展。
• 他们的测量文化包括一名绰号“方差总督”的工程师，职责是设法推翻他们的结果。Owen说，别无捷径，只能投入“扎实的时间”：跑上数百次实验，区分真实效应与方差、奖励作弊；有时甚至是低两层的智能体钻了流程的空子。Dhaval描述了随机噪声、振荡，甚至两块B200 GPU表现不一致的情况。
• Owen认为，智能不是单一标量，而是一个多维向量：有些领域可能迅速起飞，另一些则进入平台期，进展会被最慢的环节拖住。Dhaval用阿姆达尔定律说明：即使把数字化工作提速1000倍或100万倍，如果它只占整个流程的一部分，整体收益仍然有限。药物发现仍受湿实验和临床试验瓶颈制约，不同于评估更快、成本更低的编程和数学任务。
• Owen称，他还没见过针对“让系统提升一定幅度”或“解决某个问题”所需能量的定量边界。他推测物理极限最终会约束计算，并以大约10⁸⁰个粒子和光速作为推算上限的参数。Dhaval讲了个“威斯康星州的花园软管公司”的笑话，暗示重要的RSI应用可能藏在不起眼的工作流程里；他还将此比作工程师先把相对论效应当作经验修正，之后才理解其背后的物理学。Casado问何时会有更多进展时，Dhaval回答：“很快。”