Amjad Masad 与 Adam D’Angelo：距离 AGI 还有多远？

摘要

• Adam D’Angelo认为，LLM远未触及平台期：推理、代码生成和视频在一年内都取得了巨大进步，围绕计算机使用的质疑以及当下许多批评，再过1-2年应会逐渐消退。 他对AGI的实际门槛定义是软件能力超过普通远程办公者，并预计5年后世界将“非常不同”，且不需要从根本上更换架构。
• Amjad Masad将具备经济效用的“功能性AGI”，与能在任何新环境中高效学习的智能区分开来。 暴力式标注、专家数据和人为设计的RL环境可以自动化许多工作环节，但这种对“大量时间、资金和数据”的依赖，让他怀疑LLM是否会自然扩展到真正的AGI或奇点。
• 廉价数字劳动力可能推动远超4%-5%的经济增长，但部分自动化可能先掏空人力资本供给链。 D’Angelo担心，专家可以管理数百个智能体，而公司停止招聘初级员工；Masad则补充说，专家被替代后，最终可能连继续改进模型所需的数据和专业知识都难以获得。
• 稀缺资产越来越变成训练数据中缺失的部分，由此催生对人类知识、专家标注和可验证RL环境的需求。 D’Angelo认为，AI最终或许能根据给定公理证明每一个定理，却仍然不知道“这家公司20年前是怎么解决这个问题的”，除非有人把这段经验记录下来。
• AI可能同时强化超大规模云厂商，并让更多个人创业者崛起，形成两端扩张的哑铃格局，而不是简单的在位者对创业公司的二元结局。 模型供应商之间的竞争会持续压低应用成本，订阅产品从第一天就能变现，较弱的网络效应也让多个创投级赢家得以出现；与此同时，由创始人控制的在位企业异常有能力穿越颠覆周期持续投资。
• Masad认为，AI辅助软件开发是AI尚未释放的最大机会之一，尽管今天的vibe coding工具距离专业工程仍相去甚远。 他的乐观情景是，未来任何人都能创造过去需要“100名专业软件工程师”才能完成的软件；他也希望研究更具实验性，并减少硅谷“致富驱动”的文化。
• Replit的路线图展示了智能体经济学的方向：更长的自主运行周期、内置验证，以及先让5-10个智能体并行工作，最终可能扩展到数百个。 其进展从Agent V1约2分钟，发展到V2的20分钟、Agent 3宣传中的200分钟，以及用户实际运行超过28小时；Agent 4则瞄准协同开发功能和代码合并。

精读

1. 当前LLM的进展看起来更快，而不是更慢

• D’Angelo开场反驳悲观论的证据，是短短一年内发生的变化：推理模型、代码生成和视频生成都快速进步。“我真的不知道人们到底在说什么，”他说。所谓失望，可能只是因为人们原本期待整份工作早已被端到端自动化。

• 他对AGI的实际定义刻意采用经济标准：系统能够在普通远程办公者的岗位上胜过这个人。至于它是否还能胜过全球最优秀的个人或完整团队，则属于AGI与ASI的术语之争；远程办公者这一门槛，才是社会会变成“一个非常不同的世界”的临界点。

• 在D’Angelo看来，眼下的约束往往不是智能，而是能否提供正确的上下文。计算机使用仍不成熟，但他预计“未来1-2年内”就能奏效，从而解锁对大量人类活动的自动化，即使由此产生的系统仍无法满足所有人对AGI的定义。

• 记忆和持续学习对当前架构并不友好，但D’Angelo认为它们或许可以被足够好地近似出来。推理进展“不可思议”，预训练仍在改善；他既没有看到已被证明的上限，也不认为必须彻底换一套架构。

2. 不攻克智能本身，也可以先实现功能性AGI

• Masad的质疑部分来自公共政策层面：AI 2027之类的预测，以及关于态势感知的论文，在他看来“算不上真正的科学，只是凭感觉”。声称整个经济很快就会被自动化，可能吓得政策制定者出台糟糕监管，同时又跑在实际可见的进展之前。

• 他用一句话里数字母来展示LLM能力的不均衡：4个模型中有3个失败，而开启高思考模式的GPT-5大约需要15秒。这些模型是“令人惊叹的机器”，但属于另一种智能；它们的局限，正通过训练数据和周边基础设施被不断遮蔽。

• Masad把正在形成的格局称为“功能性AGI”：公司可以收集专家数据，为编码、投行及其他职业构建RL环境，直到许多职能都能被自动化。代价是大量标注、外包合同、人类专业知识、算力和定制环境设计，而不是GPT-2、GPT-3、GPT-3.5乃至可能的GPT-4所体现的那种直接扩展。

• 他偏好的AGI测试，来自早期强化学习的思路：把机器放进任何环境，让它高效学习，就像一个人能在2小时内学会基础台球。D’Angelo承认，人类学习新技能所需的数据更少，但他认为暴力式投入仍能造出能力相当于普通员工的软件，而经济后果取决于能力，不取决于实现方式是否优雅。

3. 自动化可能跑在劳动力供给链之前

• D’Angelo的宏观思想实验从每小时1美元、能够胜任任何人类工作的数字劳动力开始。这个世界的增长应当“远高于4%-5%”，但系统也可能只能覆盖80%的任务、成本高于人类，或受能源、发电厂和供应链约束。达到完整能力可能需要5年、10年或15年。

• D’Angelo担心一种中间均衡：AI负责初级质量保证，而非常优秀的QA专业人士管理数百个智能体，覆盖长尾故障。生产率上升了，但由于智能体表现胜过新人，公司不再招聘初级员工，最终能积累专家工作所需经验的人越来越少。

• Erik指出，计算机科学毕业生也出现了同样的模式；D’Angelo表示，LLM很可能正在促成这一变化。Masad补充了一个递归问题：如果模型需要专家标注，却又替代了那些原本会成长为专家的人，下一轮改进所需的训练信号从哪里来？

• D’Angelo指出，AlphaGo这样的完美环境可以把系统推到专家水平之上，但大多数工作提供的反馈要弱得多。Masad预计，近期更吃香的会是那些能用AI完成AI无法独立完成之事的人。在一切都实现自动化、且财富得到分配的假设世界里，他想象会有更多人追求艺术、诗歌和兴趣爱好；但他不认为当前范式会自动化所有工作，并将AI赋能型岗位类别的大规模增长放在至少10年以后。

4. 人类品味或许仍有防线，但数据可能压过直觉

• Masad不相信当前范式会自动化所有职业，因为许多工作本质上是在服务其他人。机器如果没有进入人类经验，就无法完全理解人们想要什么；因此，人类仍是经济中产生创意的一方。

• D’Angelo给出的反例是推荐系统：Facebook、Instagram和Quora的排序系统，在预测某个个体会阅读什么方面已经达到“超越人类”的水平。一个人可以模拟另一个人的偏好，却无法匹敌基于该用户的大量点击数据、其他所有人的点击数据，以及这些数据集之间相似性训练出的算法。

• 品尝菜肴的厨师，体现了讨论中的人类判断范式：创作者通过自己的感官检验作品。D’Angelo的保留意见是，任何一个厨师或艺术家拥有的“数据都远少于AI可以训练的数据”，因此，具身判断与汇总行为数据最终谁占上风，仍没有答案。

• Torenberg借《主权个人》的情景把这一论点延伸到政治层面：高杠杆的创业型资本家可以搭建由智能体驱动的公司，大量人口则可能失业或不再为经济作出贡献。届时，各国可能争夺具备生产力的个人，甚至协商税率，因为建立在每个公民都具备经济生产力之上的政治结构将不再适用。他提出这是一个值得考虑的预测，并非表示赞同。

5. AI正在形成超大厂商与创业者并立的哑铃格局

• Masad最兴奋的是个人能力“极大幅度提升”。过去因招聘、融资和组建互补技能团队而无法落地的想法，如今可以由个人创业者直接变成现实；他认为，创业机会被如此广泛地释放，是“这项技术最令人兴奋的地方”。

• Torenberg问，AI究竟是在赋能中心还是边缘。D’Angelo认为，如果它赋能的是边缘，就可能形成哑铃格局：在位企业变得“大得多、得多”，而边缘的个人也蓬勃发展，技术不会整齐地走向中心化或去中心化。

• D’Angelo认为市场处于健康平衡：超大规模云厂商和实验室之间的竞争，为应用提供了替代方案，并“以不可思议的速度”压低价格；但Anthropic和OpenAI等供应商仍能筹集足够资本进行长期投资。他预计，超大厂商会继续增长，同时也会涌现大量新的应用公司。

6. 在位企业学会了应对颠覆的剧本，网络效应也在减弱

• Masad同意D’Angelo的判断：AI既有维持作用，也有颠覆作用。ChatGPT最初之所以与Google基于可信信息的业务形成错位，是因为幻觉看起来很危险；Google虽然拥有内部聊天机器人技术，却等了大约2年才发布Gemini，随后用AI改进搜索摘要、Workspace、手机以及其他产品。

• Torenberg补充说，“所有人都读过这本书。”如今，公开市场投资者会惩罚未能适应的在位企业，管理层会提前预判颠覆，而创始人控制权也让公司更容易承受短期阵痛。在像1990年代那样竞争更弱的环境里，他认为AI可能会更干净利落地取代在位企业。

• Torenberg指出，因为一家公司无法成为单一品类赢家就放弃它，是把过多Web2逻辑带进了今天。Masad认为，如今网络效应的作用更弱：规模仍然带来数据和资本，但已不再让小型竞争者无法生存，因此基础模型和应用领域都可以容纳多个赢家。

• 变现也更早发生。不同于需要数百万乃至数千万用户才能赚钱的广告业务，订阅产品可以立即收费，Stripe等基础设施进一步降低了门槛。地缘政治碎片化又增加了一个维度：Torenberg认为，即使全球已有领先者，“欧洲版OpenAI”或独立的中国生态仍可能具有重要意义。

7. Poe与Quora押注模型多样化，以及稀缺的人类知识

• Poe起步于Quora在2022年初进行的实验：将GPT-3的回答与人类回答进行比较。模型回答更差，但几乎可以即时获得任何问题的私密答案，这暴露出一个独立的产品机会；Poe的构想是成为Quora的补充，而不只是一次自我颠覆。

• 这也是一次很早的模型多样化押注。如今，这一判断已扩展到图像、视频、音频、推理系统和智能体，使通用聚合器更有价值。即使是不懂技术的消费者，也会针对不同任务或“个性”在ChatGPT、Gemini和Claude之间切换——这种行为是Masad在Google时代没有预料到的。

• D’Angelo预计，随着智能变得更便宜，数据会成为瓶颈。Scale AI、Surge AI、Mercor以及大量新兴长尾公司，都在围绕如何把人类知识转化为模型可用的形式展开业务；Quora则把自己定位为人类知识来源，并利用AI改进内容审核、答案排序和产品体验。

8. Replit正把智能体从几分钟拉伸到协同工作的劳动力

• Masad把这一进程描述为从Copilot自动补全，到聊天，再到Cursor编辑更大文件，最终到Replit智能体的范围扩张。Replit的系统可以修改代码、配置数据库和基础设施、执行迁移、部署、运行测试、读取错误，并在整个开发生命周期中反复执行调试循环。

• 内测于2024年9月启动；随着模型从Claude 3.5升级到3.7，Agent V1大约在12月推出。V1运行约2分钟，V2约20分钟，Agent 3宣传中的运行时间为200分钟；但用户实际运行时间已经超过28小时，Masad说它可以“某种意义上无限运行”。

• 真正的突破在于验证机制。受NVIDIA一篇关于编写CUDA kernel的DeepSeek论文启发，Replit把测试和计算机使用放进循环，让智能体检查应用、诊断故障并重写代码。Masad强调，运行时间更长本身不是目标：系统还必须变得更快、更便宜、更可靠。

• Agent 4的主要方向是并行化：用户提出登录页、Stripe结账和管理后台的需求后，AI识别哪些任务可以并发执行，并在代码中合并修改。Masad预计，开发者最初会管理5-10个智能体，最终可能达到数百个；再往后则是多模态白板、持久化项目记忆、专用智能体，以及类似Slack的AI协作者。

9. Vibe coding仍被低估，但研究需要更多玩心

• Masad称vibe coding“潜力大得难以置信”，恰恰是因为今天的工具距离专业工程仍相去甚远。如果它们在几年内达到专业工程水平，任何人都能构建过去需要100名工程师才能完成的软件，机会范围也将远超传统应用开发。

• 当被问及2025年是否还会选择学习计算机科学时，D’Angelo回答是肯定的：算法和数据结构能帮助人们理解什么是可能的，并管理智能体。每一门其他学科也都面临被自动化的论点，因此他的建议是学习自己真正喜欢的东西。

• Masad希望看到更多“疯狂科学实验”：DeepSeek-OCR似乎通过文字截图节省上下文；文本扩散模型则从一个通过遮盖词语训练的BERT实例构建而来；此外，还可以尝试组合预训练、RL推理、编码器-解码器和扩散组件。他认为，硅谷日益“被致富驱动”的文化，给有趣、古怪的原型留下的空间太少。

• Torenberg观察到，Claude 4.5似乎更能意识到上下文正在耗尽，会在接近上限时节省token，也更善于识别红队或测试场景。Masad仍认为意识在根本上不具备科学性，并援引Roger Penrose的论点：大脑并不只是计算机，因为人类能够识别图灵机无法识别的东西。如果还是学生，他会选择研究心灵哲学和神经科学。