Ilya Sutskever：我们正从规模扩张时代走向研究时代

摘要

• Sutskever 的核心判断是：规模扩张时代（大致为2020—2025年）已经结束。 预训练数据“非常明确地是有限的”，他不接受单纯增加算力仍能改变结果的前提——“只要把规模扩大100倍，一切都会改变吗？我不认为事实如此。”因此，行业重新回到“研究时代”，只是这次拥有大型计算机。对资本配置者而言，这意味着 AI 投资从低风险的规模化配方，重新变成高方差的研究下注。
• 评测与经济影响之间的脱节真实存在，Ilya 提出了一种可能的结构性解释。 模型在困难评测上表现出色，却迟迟未转化为同等经济影响，可能是因为实验室无意中构建了“受评测启发”的 RL 环境——正如 Dwarkesh 所说，“真正的奖励投机者是人类研究员”——也可能是因为模型“泛化能力明显比人差，这一点显而易见”。Ilya 对当前范式的判断是：它“会走一段距离，然后逐渐停滞”。
• 从5年至20年，才能出现像人类一样学习、并最终超越人类的系统。 即使当前路线最终停滞，现有头部实验室“也可能实现惊人的收入，但未必有利润”——差异化压力会侵蚀利润率，这直接警示了前沿实验室的经济模型。
• SSI 对“算力贫困”的反驳是：其30亿美元融资其实比头部融资数字看起来更接近竞争对手。 因为对手的“大额贷款”被“ earmarked for inference”，即指定用于推理和产品团队；“真正留给研究的部分，差距就小得多了。”关于联合创始人离职，SSI 当时正在以320亿美元估值融资，Meta 提出收购，“我说不。但我的前联合创始人在某种意义上说了 yes。”
• 超级智能是一个学习者，而不是一颗已经完成的心智——它更像“一个非常急于出发的超级智能15岁少年”，会像新员工一样被部署。 他预计广泛部署将带来快速经济增长，但反对赢家通吃：竞争会推动不同实验室向细分领域专业化。“理论上，理论和实践没有区别；实践中，二者有区别。”
• Ilya 确实改变了看法：他如今更重视渐进式部署。 因为“很难真正感受到 AGI”，必须“展示这个东西”，而这“可能反向影响我们公司的规划”。他的预测是，一旦 AI 开始显得足够强大，各实验室“会变得更加偏执”于安全问题，竞争对手也会逐步收敛到相近的对齐策略。
• 他偏好的对齐目标，是让 AI“稳健地关心有感知能力的生命”，并为最强超级智能的能力设定上限。 相较于只关心人类，这一目标可能更容易实现，因为 AI 自身也会有感知能力。他不情愿地给出的长期均衡答案是：人类变成“某种 Neuralink++ 意义上的半 AI”。“我不喜欢这个解决方案，但它确实是一个解决方案。”

精读

上游暂未提供，后续同步将继续补齐。