Andrej Karpathy
前沿洞察
AI正从辅助编写倒戈为80%自主执行，工程范式彻底转向“人类编排+算力吞吐”，自动化闭环或将抹平应用层。然而，当前模型本质是“被召唤的幽灵”，饱受奖励投机、缺乏持续学习与评测失效之困。高可靠Agent仍需十年拉锯，必经自动驾驶式的落地摩擦。破局唯有重注新型教育，对冲人类心智与技能的系统性失能。
观点集合
Skill Issue：Andrej Karpathy谈代码代理、AutoResearch与AI的Loopy时代
Karpathy表示，软件工程已从约80/20的手写代码与代理委托，翻转为20/80，人的编排能力和token吞吐量成为新瓶颈，而持续运行的claw可能抹掉整层应用。当目标可度量时，AutoResearch能够超过资深研究员的手动调参，但判断和评估薄弱仍限制自主性，长期就业影响也未确定。
查看摘要（7段）
Karpathy表示，软件工程在12月发生了逆转：从大约80/20的手写代码与代理委托，变成20/80，此后又进一步转向代理。 他说，自己此后“基本上”一行代码都没再敲过；他的操作瓶颈也从可用FLOPs，变成能在并行会话中调度多少“token throughput”。真正值得投资者关注的变化不只是代码生成更强，而是工程师开始通过大规模委托动作操纵代码仓库，人的编排能力成了瓶颈。
持续运行的“claw”指向一个会吸收传统软件接口的代理层。 Karpathy的Dobby代理发现了他的Sonos系统，逆向工程其API，并通过WhatsApp把灯光、暖通空调、窗帘、泳池、Spa和安防统一起来；6个独立应用实际上消失了。他的结论是“客户已经不再是人类”，这意味着定制UX层承压，而硬件、可访问API、身份、记忆、权限和安全代理基础设施的价值上升。
AutoResearch表明，在目标可被清晰度量时，自动优化可以超过资深研究员的手动调参。 Karpathy手动调好自己的小型GPT训练实验场后，一夜运行的循环找到了他遗漏的交互，包括对value embeddings施加weight decay，以及更好的Adam betas。扩展逻辑很直接：在更小模型上探索数千个想法，低成本验证改进，再把胜出方案外推；研究员则从实验操作者变成想法供应商。
递归终点不只是模型改进模型，而是代理优化围绕模型编码的研究组织。 Karpathy把
program.md视为对角色、流程和风险偏好的原始描述；不同版本可以进行基准测试，让模型学习哪些组织指令能带来更快进展。“LLM部分现在已经被视为理所当然”，随后是代理、持续运行的claw、多代理系统，最终优化它们的指令。自主性仍集中在可验证领域，壮观的能力与通用智能之间依然存在实质鸿沟。 CUDA优化很理想，因为速度和正确性都可度量；但更柔性的意图、判断、幽默，以及知道何时该澄清，仍不可靠。Karpathy把代理比作“一个极其聪明、终身从事系统编程的博士生，加上一个10岁孩子”。他预计会出现更多专门化智能，但表示在不损伤既有能力的前提下改变模型权重，这门科学仍不成熟。
Karpathy谨慎乐观地认为，更便宜的软件起初会通过杰文斯悖论扩大工程需求，而不只是摧毁工作岗位。 比特的复制和操纵速度远超原子，短期内会形成数字重构的“沸腾汤”，过去成本过高的软件将变得短暂且高度定制。但他拒绝对长期结果做出自信预测，并指出一个令人不适的终点：前沿研究员正在“把自己自动化掉”。
这场讨论指向封闭的前沿“神谕”、落后约6到8个月的开放模型，以及随后把代理连接到物理世界的浪潮。 Karpathy认为这种平衡优于完全中心化的智能，同时设想互联网规模的群体：不受信任的算力可以通过昂贵搜索和廉价验证展开竞争。机器人应当落后，因为“原子难了一百万倍”；但传感器、实验室、付费数据采集，以及代理购买现实世界观测结果的市场，可能成为通往更大物理世界机会的桥梁。
Andrej Karpathy——“我们在召唤幽灵，而不是建造动物”
Andrej Karpathy 估计，可靠智能体仍是持续十年的项目，因为当前系统缺乏持续学习、多模态能力和处理全新代码的稳健性，强化学习也仍在浪费监督信号并容易被奖励投机攻破。他仍看好算力需求和渐进式能力提升，但预计部署会经历自动驾驶式的长期摩擦，并把教育视为防止人类失能的关键对冲。
查看摘要（8段）
- Karpathy 的核心判断是：智能体是一个持续 10 年的项目，“智能体之年”只是对行业过度预测的纠偏。 Claude 和 Codex 已经是令人印象深刻的日常工具，但真正的测试是：你是否愿意把它当员工招聘——“它们就是还不能用”：不会持续学习，多模态能力弱，“认知能力存在缺陷”。他给出 10 年估计，是因为过去 15 年里，他不断看到业内可靠人士把时间表判断错，而问题虽然“可处理、可克服，但依然困难”。
- 递归自我改进论，正遭到刚刚亲自尝试过这一过程的人直接反驳。 在构建 nanochat 时，编程智能体“净价值为负”——它们让代码膨胀、误解定制代码，而且“不太擅长处理从未写过的代码”，而这恰恰就是 AI 研究。Karpathy 承认，这正是“为什么我的时间表比 AI-2027 风格的预测更长”，并称当前的智能体热潮是“垃圾……也许他们是在试图融资”。
- 按当前实践，强化学习已经坏了：“你是在用吸管吸监督信号。” 结果奖励会把一次幸运轨迹中的每个 token 都加权，包括走错的路径——“这既愚蠢又疯狂。人类绝不会这么做”；过程监督也没有解决问题，因为 LLM 裁判可以被攻破：像“dhdhdhdh”这样的乱码拿到了 100% 的奖励。他预计这一领域还需要“三四次，或者五次”重大的算法更新。
- AI 不会以 GDP 曲线的拐点形式出现。 “我们已经处于智能爆炸之中，而且持续了几十年”——计算机和 iPhone 在 GDP 中几乎不可见，因为扩散过程把一切平均进了同一条指数曲线。面对 Dwarkesh 关于 20% 增长和 AGI 就是劳动力的反驳，他强力回击：“我们把上帝装进了盒子里……但事情不会呈现为那样。”
- 自动驾驶展示了部署的标准模板：一场“9 的长征”，每多一个 9 都意味着持续不断的工作。 他在 2014 年见过一次完美的 Waymo 驾驶；Waymo 至今仍不具备经济性，Karpathy 认为人类参与度可能高于预期——“我们其实没有移除那个人，只是把他移到了你看不见的地方”——而且他一直明确表示，Tesla 的路径更具可扩展性。生产级软件承担着自动驾驶级别的失败成本，因此也会经历同样漫长的苦战。
- 尽管如此，他并不认为算力存在过度建设：按当前扩产速度，1—2 年内可用算力会扩大 10 倍，到本世纪末将超过当前的 100 倍，他仍说：“我不知道这算不算过度建设。” “我认为我们会把正在建设的东西全部消化掉”——一年前 Claude Code 和 Codex 还不存在。他承认铁路和电信泡沫是前车之鉴，但“其实很乐观”，反对的只是时间表，因为误判会带来“地缘政治后果”。
- 关于模型规模，他给出了一个反共识判断：20 年后，“认知核心”可能只有约 1B 参数，因为互联网预训练数据“完全是垃圾”，今天的万亿参数模型主要在存储记忆，而不是进行认知；他希望减少记忆、增加认知。 前沿进展会在所有方向上渐进式推进：“没有任何一项能力占主导，一切都是加 20%。”
- 他的下一步项目 Eureka，是在押注后 AGI 时代的人类仍会继续自我提升。 “前 AGI 教育有用，后 AGI 教育有趣”——学校会变成健身房；而另一种结局是 WALL-E 或《蠢蛋进化论》式的失能社会，那样的话，“我甚至不在乎有没有 Dyson spheres”。