Tyler Cowen — AI进步的第一大瓶颈是人类
Tyler Cowen — AI进步的第一大瓶颈是人类
摘要
- 头条判断:AI不会带来爆炸式增长。 Cowen认为,AI每年大约只能把经济增速推高0.5个百分点——30至40年后「这是巨大的差异,会改变整个世界」,但「在任何一个具体年份,我们都不会特别察觉」。美国经济有一半处在AI难以有效应用的领域:政府消费约18%、医疗约20%、教育6-7%,再加上非营利组织;而这些行业即使不采用AI,也不会在约30年内消失。
- 一般化的成本病是其机制。 当智能变得充裕,「系统中的其他约束就会变得更加具有约束力」,智商的边际价值随之下降,增长因此受到自我限制。他的例证是:撒哈拉以南非洲大部分地区仍然缺乏清洁饮用水,而「完成这件事所需的智能并不稀缺」。
- 市场对AI起飞的定价出奇正常。 实际利率和股价看起来「出奇正常」,Cowen怀疑「大部分股权溢价已经在过去」——价值会被私募市场和VC内部化,而不是由公共养老金捕获。「Sand Hill Road已经想明白了。」他的投资组合很简单:分散化共同基金,以美国资产为主,买入并持有。
- 他的方法是两次相信专家。 一次相信AI专家对能力的判断(经济学家面对强AI时「完全不在状态」),一次相信扩散研究者对采用速度的判断(「研究新技术扩散的人从来不会认为会快速起飞」)。两者叠加,就是他的结论:「长期看令人惊叹……短期则是艰难跋涉,到处都是瓶颈。」
- 他正在快速上调对AI能力的判断。 o1让他那些最棘手的经济学问题失去了意义,他表示「如果不到3年内,某个AI模型能经常性击败人类专家,我不会感到震惊」。他的参照系是:「我感觉自己像Kasparov第一次遇到Deep Blue时一样」——还处在首场比赛中段,却已经记得谁输掉了第二场。
- Cowen认为,湾区的核心错误是高估智能。 成功来自能力组合——某一项能力达到11.5/10,其他方面达到8分、9分,再加上决心——而「稀缺的是这种组合」。Ricardo和Malthus早已理解收益递减:如果让Ricardo看到今天的AI,他会说「它会拓展前沿,但不会解决我们所有的问题」。
- 他强调了2个反共识信号。 SBF倒台前,他就判断EA已经见顶(「这已经是最好状态了……基本上全都会崩掉」);他写书主要是写给AI读者的——「如果你不写给AI,你就是个傻瓜。它们是你受众中的重要部分,而且它们的购买力会随时间积累」。
- 他对进步最大的担忧是战争。 新技术会变成战争工具,Pinker式和平「从数据看正在边缘处失守」,一种棘轮效应可能让战争变得更罕见,却也更加毁灭性——「一旦发生,每一场都会极其惨烈」。
精读
1. AI为何不会带来20%的增长:一半经济无法吸收AI
- Cowen开场的算术是:政府消费约18%,医疗接近20%,教育6-7%,再加上非营利组织——「这就已经是整个经济的一半了」。这些行业不会很好地使用AI,而不使用AI也不会让它们「立刻消失并被替代。不,那要花大约30年」。监管较少的行业会快速行动,但这「只能让增长率得到温和提升,不可能达到整个经济每年增长40%那种程度」。
- Dwarkesh质疑这一机制:成本病是因为稀缺劳动力推高理发师工资,但有了AI,「你完全可以让每家理发店拥有1,000倍的工人」。Cowen的回答是:成本病具有更普遍的形式——当5种生产要素中的智能大量涌入时,「系统中的其他约束会变得更加具有约束力……越来越多智商的边际价值会下降」。
- 具体数字是:AI每年增加约0.5个百分点的增长。一种原本可能需要20年研发的药物,现在10年就能问世——「但最终仍然要经过我们这套临床试验和监管体系」。几十年复利之后,它「会改变整个世界」,但「很长一段时间里,你不会真正感到它有多么革命性」。
2. 单因素人口模型无法预测现实,而且增减人口的影响并不对称
- 针对前一天发言的Chad Jones:把10倍人口代入他的模型,会得到爆炸式增长,但这「太过于单因素模型」。以购买力计算,全球有效人口已经大幅增加,但直到「最近大约4年」之前,大多数地区反而变得不那么创新。文艺复兴时期的佛罗伦萨只有约60,000人,却「在最高层面有这么多事情做对了」——关键是顶尖人才和制度的质量,不是人口数量。
- Dwarkesh设下的问题是:今天这规模达$100T的经济,能否由十分之一的人口创造?Cowen承认不能,但「差值很致命」:人口减少会让公司和经济陷入崩溃,人口增加却不会带来成比例的扩张。「这在某种程度上很不对称,情感上也很难真正内化。」
- 针对邓小平时代数十年的10-15%增长反例:那是从人均$200起步的,而中国如今「某种程度上因为自身规模,成了最不成功的中国社会」,人均只略高于墨西哥。他的基准是工业革命——或许是人类历史上最重要的事件——增速约为1.5%。「未来在于复利,并坚持下去。」
3. 智能被高估了,稀缺的是能力组合
- 他不同意Tabarrok关于天才稀缺的论述:劳动力市场中,IQ对工资的「回报低得惊人」。成功者往往是在某一领域达到「1到10分制里的11.5分」,其他方面达到8分、9分,再加上决心——「稀缺的是组合,而组合本身才是稀缺的」。
- 他对瓶颈怀疑者的挑战是:去参加一所中等州立大学的AI课程委员会会议。「那份报告听起来会像GPT-4,而且报告会拿出来。报告不会构成瓶颈,我保证。」Dwarkesh反驳说,AI会更加勤勉,全天候工作,拿出「FDA见过的最佳报告」。Cowen同意AI会聪明且勤勉,但他指出了监管、能源和受众本身这些约束:核能的消息令人鼓舞,但「可能还要10年甚至更久……而且只够我们所需的一丁点」;至于受众——「人类。他们就在这里。瓶颈,瓶颈。」一旦AI明显改变世界,大规模反对就会出现:「我成长于那个世界,也把孩子训练成适应另一个世界。我不想要这个。」
- 他对湾区的判断是:那里聚集了自己见过的最聪明、最有野心的人,「明显是大满贯级别」,但「他们的世界模型建立在智能重要得多得多的基础上,而现实并非如此」。华盛顿的问题恰好相反:那里没人「用无穷大的尺度思考,他们只考虑边际」——这更明智,但「如果所有人都像华盛顿人那样思考,我们的世界就会终结,也不会有增长」。至于布鲁塞尔晚宴上的文化精英,「如果世界由他们统治,增长率会是负1%」。美国需要保住这种平衡;英国的平衡「已经失调」。
- 这套判断有古典经济学的根源:Malthus和Ricardo当年研究的是人类繁殖,而不是能自我复制的AI,但同样推导出了收益递减。「他们过于悲观了……但他们理解收益递减中固有的悲观性,而湾区的人不理解。」
4. 两次相信专家——同时眼看o1吃掉自己的基准题
- 他明确说明自己的认识论:市场和增长经济学家都预测不会出现超高速增长,「我凭什么和专家得出不同结论?」他相信AI专家对能力的判断,也相信扩散专家对采用速度缓慢的判断。两者结合起来,就是:「长期看令人惊叹,会花很长时间,是一场艰难跋涉。」
- 但他的判断已经发生变化:「我看到的AI潜力比1年前更大……它进步得比我预期更快,而我当时已经相当看多。」他放弃了自己准备的100道高难度经济学问题,因为它们对o1来说「太容易了」;他还表示,「如果不到3年内,某个AI模型能经常性击败人类专家,我不会感到震惊」。
- 他对自身处境的描述是:「我感觉自己像Kasparov第一次遇到Deep Blue时一样」——当时还在首场比赛中段。而在第二场比赛中,Kasparov犯下愚蠢的Caro-Kann错误,「那也是一个人类瓶颈,他输掉了整场比赛」。
5. 创始人通过节约勇气来提高效率,人才集群本质上是人才识别人才
- 为什么必须由创始人掌舵?因为「勇气是一种极其稀缺的投入」。当Zuckerberg说「我们要做这件事」时,很难以一种好的方式说不;「有创始人就等于节约勇气,同时也是在筛选勇气」。
- Beatles是一个典型案例:他们经历了2个阶段——早期由John主导,后来「John成了海洛因成瘾者,Paul却越来越好」;团队没有稳定均衡,最终在1970年解散。但这7至8年的创造性张力,在创造价值上仍然胜过至今还在巡演的Rolling Stones。他研究Bach、Magnus Carlsen、Steph Curry这类离群值,同时也知道「你不能只说,‘好,我要成为Beatles那样的人。’你会失败」。
- 对Patrick Collison关于人才集群的疑问(Greg Brockman是Stripe的2号员工),他的回答是:「Patrick太谦虚了……他之所以能雇到Greg Brockman,是因为他是Patrick。」Brockman这类人擅长识别Patrick这类人。Dwarkesh反问,这样一来集群只是筛选,而非因果关系;Cowen的答案是两者兼有:「他们会让彼此变得好得多」,而顶尖成就依然「极其稀缺。这就是极端的人类瓶颈」,即便强AI也未必能解除。
6. 能力危机的本质,是方差扩大
- 他反驳Patrick说,分布是在变宽,而不是整体下沉。年轻一代的顶尖水平可测量地更高(国际象棋「已经被证明」,年轻NBA球员正在做30年前不可想象的事情),最底部也在改善(青少年犯罪自1990年代以来下降);但「高于最底层、并略高于中位数的某个厚重中间层……显然正在变差」,于是才出现需要额外考试时间、借口站不住脚等轶事。
- 关于PISA成绩下降:现在有更多学生被纳入测试,调整后成绩「大致保持不变……至多是非常温和的下降」。至于Stanford学生已经无法雇用的说法,他回应:「Stanford学生的收入有大量数据……我做多」;Emergent Ventures资助的Stanford学生「表现非常好」。
- Churchill的对话完整保留。Dwarkesh拿24岁的Churchill作为旧时代的巅峰,Cowen回应:「他早年大部分时间都是个失败者。然后你再去问爱尔兰人。」今天的Twitter会纠正他:「Sam会发帖回复Winston Churchill,‘爱尔兰问题得重新想想。’」至于今天的年轻巅峰:过去有人在24岁做过相当于这档播客的事情吗?「你就是证据。」
7. 糟糕的领导者、军备竞赛,以及黄金时代为何会天翻地覆
- 对20世纪初那一轮怪物级别的灾难,他没有宏大理论,但新技术会制造军备竞赛,「有时坏人会赢」(苏俄、纳粹德国);此外还有「坏运气。Stalin和Mao只是抽中了那张签」。Hayek关于最糟糕者登上顶峰的判断是一种倾向,而非定律——阿联酋和海湾地区的家族君主制已经证明,它们「比我在大约1980年时想象的更稳定、更任人唯贤。我知道自己不理解,但数据就是如此」。
- Wilson是一个拥有完美履历却造成灾难的例子——「在民权问题上,他是我们最糟糕的2到3位总统之一」,他搞砸了一战及其和平安排,还让公务体系重新种族隔离;但从纸面看,他是出色的候选人。至于Trump:「他是极有天赋的人,只是把天赋用在了一些糟糕的目标上」,不能把他当成低能力的例子。
- Stalin的批注从未怀疑Marxism。Cowen认为,这是多重教条叠加的结果:Leninism,而Lenin又是Stalin的导师;苏联文化;以及格鲁吉亚式拍桌子般的确定性,再加上「基因抽签时抽到了坏运气」。他还说,Patrick关于诺奖得主的观点「也会以更隐蔽的方式发生」。
- 17世纪英格兰提供了一个模板:从1620年代开始持续约1%的增长(依据Greg Clark),与科学革命同时发生,但也伴随内战、弑君、Milton和Locke提出的激进思想,以及残酷征服——「非常好与非常坏同时出现,而我们现在可能很快又要经历一轮」。再度进入疯狂时期的概率「相当高」。
8. 判断EA已经见顶,以及进步研究将走向何方
- 对「最被低估的cult是什么」这个问题,他的答案是:「Progress studies。」他自认为已经被验证的判断是:EA崩溃前,他在一次EA会议上说「这已经是最好状态了……基本上全都会崩掉」——当时大家「觉得我疯了,但我认为自己大体上是对的」。他没想到SBF会资不抵债;他原本预期的是因为「没有监管防御」而归零,而不是「拿钱玩花招」。真正的结构性信号在于:EA的私人收益——「你可以和谁一起消磨时间,或者你能和谁发生性关系」——没有像Goldman Sachs或律师合伙制那样「固化在制度里」;此外还有世俗与半宗教元素之间不稳定的「不安平衡」。Berkeley的言论自由运动就是类似模式。
- 相比之下,Progress studies从一开始就被设想为去中心化的,不会被「注册商标」或由小团体运营,而是「一种整体的精神与氛围变化」。如果少数有才华的人得到「自己想要的三分之一到一半……那就是巨大的影响」。他对申请者的判断也有所保留:与其迷恋大写的「Progress Studies」,他可能会越来越偏好那些真正痴迷工业革命的人;逆向选择意味着「你必须不断提高门槛」。
9. 写给AI,持有共同基金,警惕战争
- 他最值得引用的策略动作是:GOAT「主要是写给AI的。我想让它们知道我欣赏它们」,下一本书会更加如此。「如果你不写给AI,你就是个傻瓜」;它们的购买力会随时间积累,「它们会持有大量加密货币」。推论是:随着AI变得充裕,「除AI之外的所有投入,其边际价值都会上升」,因此他正从内容生产者转向「连接者、社交型的人」。
- AI目前还无法捕捉的,是访谈中的无形价值。一份文字稿可能只有Emergent Ventures通话「25%的价值」;比如「你会如何考虑扩大捐赠者基础?」这个问题,是Cowen快速抛出后,相当大比例的申请者答不上来的问题,此外还有「错误的地位标志」。
- 他的投资组合说得很清楚:分散化共同基金,不交易,资产高度偏向美国;妻子在SEC的工作限制了其他选择——「我不认为那真的会有什么影响」。他为什么不基于自己关于0.5个百分点的判断加杠杆?因为「也许大部分股权溢价已经在过去」,价值会流向私募市场和VC。「对我来说,稀缺的不是钱,而是时间。」他的目标是成为「信息万亿富翁」。
- 他对进步最后的担忧是:战争。新技术会成为战争工具,Pinker式和平「从数据看正在边缘处失守,数字现在正朝错误的方向移动」;可能出现一种棘轮效应,让战争变得更罕见,但「每一场都会极其惨烈」。不过最后仍取决于人的行动:从公元1000年出发,没有人能想象今天这个世界——「能否接过这份非凡而宝贵的遗产,并在此基础上继续前进,取决于我们……我们就试试看。」