AMA：AGI时代的职业建议、我的研究方法（Sholto & Trenton）

摘要

• Trenton和Sholto对“已经记住全部人类知识的LLM为何没有已知跨领域发现”的回答是：预训练并不会教会模型建立新连接的能力。 “至少需要在类似任务上进行大量RL”，而这个领域迄今“并没有以有意义或规模化的方式”做到。Sholto补充说，模型“不擅长判断哪些记忆值得存储”，现有记忆脚手架仍很原始；Dwarkesh则怀疑，模型是不是像Kim Peek一样的“白痴天才”。
• AGI世界下的职业建议是：把未来几年当作杠杆不断复利的阶段。 工程师已经报告2-5倍的提速，路径会从结对编程，走向管理一支小团队，再到“管理一个AI部门或公司”。4年后，深厚的技术知识“绝对仍然重要”，因为人的管理带宽会成为约束。
• Trenton强调，这“并不只是自我安慰”——模型缺乏长期连贯性。 “光是弄到一间办公室就挺复杂”，而经济体“非常庞大……也非常复杂”。Dwarkesh推测，在那些数据稀缺、情境信息重要的行业，人类可能仍处于有利位置。
• 在具体时间线判断上，Trenton取消了401k缴款，Sholto只是一直工作，Dwarkesh则把Zuckerberg访谈带来的广告收入直接投进了Nvidia。 Trenton说，“到那时世界看起来会完全不同”；Dwarkesh当时的银行账户余额为负23美分。
• Dwarkesh认为，媒体受众“缓慢复利式增长”有点虚假。 Leopold关于态势感知的文章证明，只要内容足够好，“所有真正重要的人……真的都会读到”，可能只需一周。“AI界的Matt Levine”这一细分位置仍然“完全空缺”。
• 编辑领域确实存在人才套利，但高管招聘不存在：约1,000份申请最终通过共同朋友的引荐招到1个人。 原因是“世界上最好的人不想申请”。

精读

1. 模型记住了一切，却没有已知发现——RL缺口

• Dwarkesh重申了他一直困惑的问题：LLM掌握全部人类知识，但不像人类那样做出跨领域跃迁。他举例说，有人注意到镁缺乏的大脑看起来“恰好就是偏头痛时的结构”，于是判断镁补充剂可以治愈偏头痛，结果确实有效；但“我不知道LLM做出过哪怕一个这样的发现”。Scott Alexander认为，人类也不具备逻辑全知，这一辩护无法说服他，因为人类确实能完成这类跳跃。
• Trenton的诊断是：预训练“赋予模型关于世界的灵活通识，但未必赋予它建立新连接或进行研究的能力”——而这正是博士项目训练的东西。他的最低标准是：“至少需要在类似任务上进行大量RL”，但“我并不认为整个领域已经以有意义或规模化的方式做到这一点”。
• Sholto从记忆角度解释：模型“不擅长判断哪些记忆值得存储”。人类学到新东西后会主动构建一个能留下来的摘要；模型目前没有机会这样做，记忆脚手架也“非常原始”。Claude Plays Pokemon在有人不断迭代脚手架后进步很快。Dwarkesh因此怀疑模型是不是“白痴天才”，并以Kim Peek作类比；他说，如果自己没记错，Kim Peek出生时没有胼胝体，拥有完美的百科式记忆，但存在社交障碍——“LLM在非常小众的主题上强得惊人，却能在其他主题上彻底失败，这件事确实很不可思议”。
• 通过Terrence Deacon和Gwern的优化器理论，二人讨论了记忆与泛化的梯度：儿童学习能力最好，却会忘掉童年几乎所有东西；成年人处于中间状态，而LLM“站在了错误的极端”——“它们会把维基百科文本的精确措辞记得很牢，却无法以这些非常明显的方式进行泛化”。

2. AGI时代的职业建议：购买杠杆，留在前沿

• Dwarkesh给17岁年轻人的框架是：把未来几年看成“每年都让个人杠杆提升一个巨大倍数”。工程师已经声称，在新语言上能获得2倍甚至5倍的效率提升；路径会从结对编程，走向管理一支小团队，再到管理一个部门。即便还没进入“真正的奇点世界、由AI管理AI”，你也会调动“远超今天个人所能调动规模”的资源，因此4年后的深厚技术知识“绝对仍然重要”。
• Trenton强调，“这并不只是自我安慰”：模型确实缺乏经营公司的长期连贯性。“光是弄到一间办公室就挺复杂。”Dwarkesh推测，在那些数据稀缺、情境信息重要的行业，人类可能仍处于有利位置。
• Sholto唯一不持怀疑态度的职业建议是：“让自己靠近前沿”——“在前沿，问题是什么其实显而易见”。Dwarkesh确认，通过GitHub公开issue进入行业的路径并没有失效：“我们招聘时仍然会看这个。”他还建议，自上而下地学习所有AI原生知识，并“对任何优先强调死记硬背、而不是思维方式的学科保持担忧和怀疑”。
• Dwarkesh保留了一个重要的自我限定：他“总体上非常怀疑职业建议”——回头看，80,000 Hours式的指导“基本没什么用”；这个播客起初也是他用来摸索自己想做什么的方式。“去尝试，去做事。”

3. 新媒体增长：复利是假的，博客圈效率很高

• Dwarkesh的核心判断是：“媒体的缓慢复利增长有点虚假。”Leopold的态势感知文章发布前没有积累受众——“只要内容足够好，所有真正重要的人——我说的是所有人——都会读到。”Sholto说，文章发布后，“整座城市的每个人都在谈论它。就像文艺复兴时期的佛罗伦萨。”真正复利的是能力：“变得更好需要一段时间。”
• 一个知名博主曾告诉Dwarkesh，他大概每年才发现一个真正的新博主，而世界其他地方可能“在一周后”就会找到他们。Trenton说，任何高质量的AI内容“几乎无一例外都会在Twitter上被转发和阅读”。
• 可行路径是：成为“AI界的Matt Levine”，这个细分位置“完全空缺”；成功的新媒体由“一个人的愿景”驱动，而不是集体推动；一开始“你会感觉很糟”；但“业余写3个月的博客，到底真的会付出什么代价？”Sholto回忆，有一篇Annus Mirabilis文章似乎被Jeff Bezos转发过；Dwarkesh说，那可能是他第一次获得重大成功。Trenton补充，写作不一定要提出新洞见，只要“把读者已经意识到的一组想法清晰地表达出来”。
• Substack新人的冷启动办法包括播客——借助嘉宾的观点和平台——以及书评，“这是一个完全供给不足的领域”。他大概在100次独立访问中看过经济学家Jason Furman的GoodReads页面，那上面有约1,000条书评。

4. 嘉宾选择：大人物不重要，Sarah Payne才重要

• 衡量标准是接下来两周，而不是录制这一小时：“研究就是我的生活，我想在研究过程中获得乐趣。”他经常拒绝有影响力的人。最受欢迎的嘉宾远远是Sarah Payne——当时还是名不见经传的学者——“然后就是Sarah Payne、Sarah Payne、Sarah Payne……我主持的是Sarah Payne Podcast，偶尔聊聊AI。”David Reich排在其后，Satya和Zuckerberg更靠后。“大人物没那么重要。”
• 真正的飞轮既不是受众，也不是录制数量——“如果没有奖励信号，你就会继续做之前一直在做的事”——而是好节目能带来更多机会，接触那些能教会他东西的人：一篇中国主题的博客文章“为我带来了一个非常棒的中国人脉网络”。因此，如果目标是做AI，“搬去旧金山？是的。”

5. 快速时间线：取消401k，让播客继续运行

• Dwarkesh对快速时间线的计划是：如果时间线真的很快，“人类历史上最重要的决策将集中在一个6个月的窗口内完成”。他认为，在那段时间拥有一个AI播客可能会有用。他对节目的目标刻意设得很低，只把它当作“认识论工具”，因为“人非常容易犯错”；过去一周，与Epoch团队交流后，他改变了对智能爆炸的看法。
• 显示偏好很明确：Trenton取消了401k缴款——“我很难想象这样一个世界：我有这么多钱……要等到60岁才能用，而那时世界看起来已经完全不同了”（但他也保留了未来重新缴款的可能）。Sholto什么都没改变：“我只是一直工作。”Dwarkesh则把Zuckerberg访谈带来的广告收入投入了Nvidia。
• 对于谁应该领导前沿实验室，Dwarkesh选择了擅长“把事情搞定”的LBJ或Robert Moses，但也承认，“伟大的人很少同时是好人”。Sholto的反驳是，今天真正的实验室领导者在意道德层面；这也是Dwarkesh“对国有化这类宏大方案持怀疑态度”的原因：“综合来看，我们生活在一个相当不错的反事实世界里。”
• 给新人才提供资金方面，给博客作者发放资助可能行不通，因为优秀的人会自行被发现；但付钱让他们“搬到旧金山待两个月”可能有效。MATS和Anthropic Fellows Program就是这种模式，Trenton说其投资回报“非常巨大”，因为导师和新员工质量不断上升，形成了正向飞轮。

6. 分发与招聘：编辑存在套利，高管不存在

• Dwarkesh认为，人们正确地关注了内容，却“持续低估了把分发做对的重要性”。YouTube Shorts带来了“至少一半的播客增长”，而且事前无法预测。关于写推文的直觉是：“把它写得像发给一群朋友的群聊，而不是某种正式文本。”TikTok仍然没有被攻克。
• 他的编辑团队证明了全球人才套利的存在：阿根廷农民、斯里兰卡数学系大一学生、前Mr Beast频道编辑，以及一名捷克导演。他说，其中几人是通过公开的剪辑比赛招募的；他还说，自己把他们的薪资提高到了原来的约10倍。“关键甚至不是工资，而是找到一个真正数据导向的人。”
• 这种套利在通才岗位上失效：为期一年的chief of staff招聘收到了约1,000份申请，最终通过共同朋友引荐招到了人——Max，Trenton儿时最好的朋友。结论是：“世界上最好的人不想申请……你得主动去找他们。”Trenton确认，招聘“始终是创业公司CEO排在第一位的问题”。
• 他最喜欢的历史书及其经营原则，来自Caro的LBJ传记；LBJ曾对辩论课学生说：“如果你把一切都做了，你就会赢。”也就是越过20/80点，把时间投入到“不合理的程度”。