Nikesh Arora谈前沿模型难题:广度 vs 深度|Token成本的未来
Nikesh Arora谈前沿模型难题:广度 vs 深度|Token成本的未来
摘要
- 核心判断:Token价格将下跌,未来3-5年持续降价,最终降至当前水平的1/10。 Arora的逻辑是:算力稀缺,成本已达到“2年前的2-3倍甚至4倍”;其中一半算力用于免费消费者使用,而这部分“本质上在亏损”,因此压力会落在付费的一半——企业编程上。前沿实验室一旦获得足够的后训练数据,就会主动限制消费者使用;Token变便宜后,消费量才会打开——因此,他不愿判断每名开发者的Token支出最终会占薪资的“3.8%还是20%”。
- 前沿模型的难题在于广度与深度。 消费者对误报“高度宽容”——Gemini只用4分钟就给他写出了一份尚可的投资备忘录——但做出独立决策的企业Agent必须对误报零容忍。Waymo是他的基准:“外面最大的Agent产品”,背后基于数百亿美元投入,训练了互联网之外的边缘案例数据。“你不能把Anthropic的下一个模型装进Mercedes,然后说:‘好了,送我回家。’”编程是唯一普适的企业用例;除此之外,前沿模型要创造收入,靠的是深度。
- 记忆将成为护城河,争夺焦点在于记忆存在哪里。 前沿模型“未来一两年会花更多时间围绕消费建立记忆”,因为用户上下文会带来黏性。企业的风险在于:如果记忆嵌入模型,就会“被模型锁定,而不是保持模型无关”;而可能帮助企业保持模型无关的编排层,资金实力“远不如这些模型”。
- 企业AI尚未成熟,大多数买家用错了方法。 超过一半企业只是把AI接到现有工作流上,换取20%的效率提升,而不是重新设计流程;SaaS“没有观点,AI应用会有观点”。他的经验法则是:3年内,G&A职能(营销、财务、人力资源)的人数将减少一半——但技术和销售人员会增加,而不是总人数整体下降。
- Mythos是“网络安全的加速器”,不是威胁。 它针对Palo Alto自身代码进行扫描,用6周发现了原本需要5-6年才能找到的问题;但防御性的自动修补“会把30%并不存在的问题也修掉”,因此攻击者获得武器化能力的速度会快于防御者实现自动化的速度。这种不对称会推动安全预算上升;他还表示,不存在一个“云端”或OpenAI端点Agent,能够取代其部署在边界上的1.5亿个传感器。
- SaaS重定价体现的是理性困惑,而非过度炒作后的恐慌。 记录系统面临工作流重构,分析层正被数据湖加LLM吸收(Snowflake、Glean、Databricks),而没人知道最终会保留多少席位——“我不知道正确的估值是多少。”至于Salesforce的最好时光是否还在前面:“取决于他们接下来如何执行。”
- 以当前算力成本,消费者AI未必能靠广告融资。 结合自己在Google担任CMO时的经验:线上广告已经占据约5000-6000亿美元广告市场的60-70%,而市场每年只增长3-5%,因此AI广告收入必须蚕食现有预算。更大的机会在交易收入——平均转化率只有1.5-2%,意味着“85%-90%的营销投入都被浪费了”;消费品成本中有92%来自分销和营销,AI定向可以压缩这部分成本。
- 快速问答中的Alpha:FOMO压缩了尽调窗口——“你有20年时间投资SpaceX,却只有3年时间投资Anthropic”——对抗它的方法,是采用他一位董事的沉没成本散步法:忽略过去3个月的投入,问自己:“如果它现在才出现在门口……我会不会接,或者不会?”
精读
1. 广度 vs 深度:消费者能容忍误报,Agent不能有误报
- Arora解释自己那条推文时说,前沿实验室不断相互超越,但“即便是最好的模型,误报率也很高”——消费者并不在意。中间始终有人进行判断;他的姐姐很乐意拿ChatGPT做问答,而Gemini只用4分钟就生成了一份投资备忘录,这件事交给银行家和分析师“我可能要花几天”。这种广度让前沿模型成为消费者首选品牌,并拥有YouTube或Google搜索那样的分发经济学。
- 企业处于完全相反的环境:“如果你设想未来由一个Agent独立做出决策并采取行动,那么你对误报就是零容忍。”他的基准是Waymo——“现在外面最大的Agent产品”,因为它彻底取代了人类;Waymo依靠“数百亿美元”的边缘案例训练和专有数据构建。“你不能把Anthropic的下一个模型装进Mercedes,然后说:‘好了,送我回家。’”
- 结构性矛盾在于:前沿模型追逐消费者注意力,因为这能带来后训练数据和品牌;但“真正的企业收入将来自需要更多上下文的用例”。编程是唯一突出的例外——这是一项普遍存在的活动,所有人的数据都能帮助训练模型。“希望还有几个这样的用例。”
2. 企业AI尚未成熟,软件即将拥有自己的观点
- 他的判断是:“超过一半的企业仍然没有做对”——只是把AI嫁接到现有流程上,换取边际收益(“看,速度快了20%”),而不是重新思考工作流。“长期赢家将是那些真正用AI重新思考公司的人,而不是只对当前工作流做小幅调整的人。”
- 他描述的变化是:SaaS把通用流程装进了软件容器,但“软件并不智能”。下一代软件会做出判断:筛选每一份简历,挑出20人参加面试,再告诉Harry该问哪10个问题,因为3位同事此前只问了5个问题。“这要求我们放弃人为控制,让AI替我们完成80%的思考。但我们现在还不是这样做的。”
- 他说有一句话值得记住:“SaaS应用将让位于AI应用。区别在于,SaaS应用没有观点。AI应用会有观点。”比如一个AI营销助手会告诉你:“我看了你的文案,写得很差……它和你的语调不一致。”
- 人员账也很清楚:营销是训练条件最好的领域,因为营销本质上就是公开数据;既然如此,为什么营销部门还需要600人?他的经验法则是:“未来3年,G&A类活动的人数可能会减少一半。”但他反对把这解读为就业末日:“我认为我们需要更多,而不是更少”的技术资源,用于提示词、运行框架和专有数据;销售人员也会增加——20年过去了,他上周遇到的一半欧洲客户仍不了解Palo Alto的完整产品目录。
3. 达尔文式劳动力:黑客马拉松招聘与Token打地鼠陷阱
- 约束在于:“90%的企业员工都不懂AI……你在任何地方的任何学校都找不到一门课。他们只能自己学。”解决路径有两条:Brian Armstrong / Jack Dorsey模式——“解散我的组织”,将团队重建为原来30%-40%的规模,因为“没有挽救的余地”;或者渐进式转型。Palo Alto选择后者:只通过黑客马拉松招聘,用懂AI的人替换每月约2%的自然流失人员。“给我12个月,我就能把团队的20%-25%改造一遍。”
- 关于Token预算,他给出了本期节目的隐藏洞见:“最聪明、最会使用AI的员工,Token用量可能是普通员工的20倍。如果你陷入打地鼠式管理,说‘我要阻止大家花太多Token’,实际受伤最重的会是那些最懂AI的人,而不是普通员工。”
- Harry进一步追问:那是否就是放任自流?实际政策是:“我们采取‘审慎使用’模式……如果发现有人用得好,我们不会限制他。”公司只构建真正专有的东西;如果某个通用AI应用将在12-24个月后出现,“那我们就等等”。
4. Token经济学:价格应降至1/10,因为消费者那一半算力没有回报
- 机制很明确:“世界的需求已经超过可用算力。毫无疑问。”算力成本是2年前的2-4倍,而“超过一半的算力都在供给消费者,这目前是一个本质上亏损的实体”——免费、数十亿用户,却没有回报。“你猜压力会落在哪里?压力会落在另一半算力上”——也就是企业编程;在消费者交易或广告模式成熟前,这部分必须付费。不同于Google/YouTube时代,如今“算力需求和成本已经是当时的10倍”。
- 他的判断是:“我认为长期Token价格应该是当前的1/10。”未来3-5年会持续降价,因此他不愿替Harry的说法下结论:一位近期嘉宾估算Anthropic每年3亿美元支出,相当于开发者薪资的3.8%;而“Macquarie的Brandon”认为Token支出与薪资相当。Arora说:“价格会发生非常剧烈的变化……现在还不能确定答案。”他还预计,实验室一旦拥有“足够、甚至超过需求的后训练数据”,就会限制消费者使用。
- 价格尚未下降,是因为“前沿模型公司追求的是价值最大化,而不是Token最大化”。当公司估值达到1万亿美元、每年还需要新增1000亿美元算力时,它们唯一的杠杆就是抓住增长最快的东西,然后向我们收更多钱。能力不足也不是充分理由:“我不需要Fable 5或Mythos 5来完成今天人们用AI做的90%工作。”Harry也认同,两年前的模型已经能处理大多数查询;Arora的补充是,当时模型的算力效率较低,而研发账单要通过Token回收。
- 对基础设施泡沫问题,他坦承这是一个尚未回答的问题:“物理规律究竟会在什么时候介入?”数据中心、能源、铜等资源,如果产能建设速度超过受物理限制的部署速度,“可能会出现一段消化期”,这会改变时间点,却不会改变需求:“我们仍然会希望算力越多越好,并且能多快交付就多快交付。”
5. 广告市场可能无法为消费者AI买单,交易收入或许可以
- 根据他在Google时期掌握的数据:2004年,Google只占全球广告市场的2%,当时市场规模为5000-6000亿美元;如今线上广告约占全部广告收入的70%,而整个市场每年可能只增长3%-5%。“你希望用来资助消费者AI的广告资金,必须来自当前的广告收入。”因此,OpenAI推出广告引擎,并不会“从根本上改变方程,让消费者业务变得盈利”。
- 更大的资金池可能来自交易收入。Harry估计线上转化率为1%-1.5%;Arora说,行业最佳水平其实是7%-10%,平均水平为1.5%-2%——“这意味着85%-90%的营销投入都被浪费了。”消费品成本约为标价的5%-8%;“剩下的92%是分销和营销。”具备记忆和上下文的AI在购买意图出现的瞬间精准触达Harry,就能把传统营销预算搬到线上,并以交易抽成而非广告的形式获取收入。
6. 记忆是护城河,也决定你保持模型无关还是被模型锁定
- 他对未来的判断是:“前沿AI模型……未来一两年会花更多时间围绕消费建立记忆。”这不只是扩大上下文窗口,而是存储你过去30/60/90天的互动,让每个回答都能叠加上下文。“当你开始围绕用户群建立上下文,就会产生黏性,而这会成为你的护城河。”消费者领域已经存在带记忆的应用;“有意思的是,企业领域还没有”,但一旦出现,企业对算力和记忆的需求会再次上升。
- 投资者需要思考的架构问题是:“我应该把记忆和上下文存放在编排层,还是前沿模型里?”模型知道记忆就是护城河,正在积极争夺;而编排层“资金实力远不如这些模型”。风险在于:“你最终会陷入一种架构……无法保持模型无关,反而为了获得最大效果而被模型锁定。”切换模型意味着重做整个应用。
- 对中国开源模型,他用一个思想实验反问Harry:先把“中国”这个词拿掉——开源模型本身并不危险,真正需要担心的是民族国家层面的后门:“模型会不会某天醒来,里面有一个休眠Agent,开始把所有数据发送到别处?这些问题可以被保护起来。”他认为世界会分化为任务专用的深度模型(ElevenLabs用于语音;飞机、汽车、机器人各自需要不同的物理AI,“这只是一个深度用例”),并由更智能的编排层统筹;开源模型“让你能够利用成本曲线。我不需要最聪明的模型去做最聪明的事”。
7. Mythos是网络安全的加速器,不是替代品
- 攻防不对称在于:模型接受优秀代码训练,因此“也知道如何寻找糟糕的代码”。从企业外部向内扫描时,它能发现开放的网络套接字和配置错误,攻击者可以将这些问题串联起来。但防御无法以同样方式自动化:“它会把30%并不存在的问题也修掉。谁知道这会把你的基础设施搞成什么样。”
- 内部验证来自Palo Alto自身:“我们用Mythos扫描自己的代码,用6周找到了原本需要5-6年才能找到的问题。”但修补前仍需要人工评估、沙箱测试和生产环境测试。最终效果是:“它给全球安全从业者点了一把火……客户迫切需要改善网络安全态势,这通常对网络安全公司是件好事。”
- 他并不担心被中间环节取代,因为边界防御需要有人守在门口:“全世界有1.5亿个传感器……没有一个‘云端’端点Agent,也没有一个OpenAI端点Agent能让我用它取代Palo Alto。”入侵后的问题——快速找到入侵者——才是真正适合AI的任务,需要的正是他花5年构建的企业上下文。至于政府是否会介入,他说,护栏“还没有建立得足够稳健”,越狱已经证明了这一点;能否修好?“我希望可以。”
8. 要像Tesla一样转型,不要像给全系车型贴AI标签的车企
- 当被问到如果今天重新开始会做什么不同的选择时,他把自动驾驶的3种策略映射到企业产品上:Waymo——划定边界并训练到完全自动驾驶;Tesla——先自动化部分环节,边缘案例由人处理,FSD持续改进;传统车企则是“给汽车塞一点AI”,进行“AI洗白”。他的结论是:拥有客户、需要满足客户需求的在位企业,“必须采取Tesla路径”;你不能交付一个“80%的时间都正确”的产品,然后要求客户耐心等待3年。他真正担心的是:“我的转型速度够不够快?”
- 他无法照搬Armstrong/Dorsey式的组织崩塌,因为“底层应用软件还不存在”。他拒绝搭建通用的AI营销、人力资源或ERP产品栈——“我希望有人去做这件事……也许是下一代Salesforce、SAP或Workday”——而只在Palo Alto拥有独特上下文和记忆的领域建设产品。
- 公司的运行节奏是每周两次召开AI EIEIO会议(“就像Old MacDonald有个农场——公司里每个人都想做AI”),由前15-20名技术负责人演示各自完成的工作。这套机制刻意采用达尔文式设计:“不管是害怕Nikesh 3天后问你做了什么,还是团队在推动你,你都会带着东西来。”转型必须自上而下,而不是自下而上;自下而上的Token试验只能把最优秀的人才筛出来。
- 他正在规避一个过去见过的陷阱:2004年的“首席互联网官”——CEO雇来24岁的互联网向导,借此把自己从互联网问题中摘出去。“AI也确实存在同样的风险……请见我的首席AI官,他可能是某所顶尖大学的研究员,但执行能力很弱。”产品路线图会暴露这种偏离:展望6-12个月,路线图里“根本没有Agent”。
9. FDE其实是在诚实承认产品还没做完
- Harry先把争论摆出来:Factory的[可能是Matan]认为“如果你需要FTE,那说明你的产品很烂”;另一边是Palantir学派。Arora拒绝二选一:企业AI真正被追逐,“也就过去12个月,顶多如此”。他的解释是:“FTE只是‘我的产品还没完全做好’的简写……我要派一些人坐进你的办公室,一边适应你的需求,一边替我把产品做出来。”真正的FDE会把代码带回产品里;其余人只是技术销售顾问。初创公司急于获得收入,又被要求“在产品完全成熟前先卖出去”,所以短期内需要FDE。
- 编程领域的流失已经给出证据:Wind Surf和Devin是早期代表——“它们已经不再以当时的形式存在”;现在轮到Codex、Claude、Antigravity,Factory和Cognition则在争夺SDLC市场。“谁知道2年或3年后谁会成为领导者。”他会下注吗?“不,你来做。我只需要一个团队能用的好产品。”
- 他的并购逻辑也是同一套思路:6个月前,他低价收购了一家Agentic AI网关公司,押注企业Agent治理需要“将Agent流量汇聚到一个可以监控和拦截的网关”中。如今市场开始意识到,路由器还能用于优化和Token管理——如果晚些时候收购,价格可能翻倍,但这并不重要:“我买的东西要么能让我提升10倍或100倍,要么就戏剧性失败。提升1-2倍没有意义。”底层的焦虑是:“漏掉一个技巧,你还能活;漏掉两个技巧,你会部分受创;漏掉3个技巧,你可能就过时了。”
10. SaaS重定价、PANW多空逻辑与对抗FOMO的纪律
- 对于SaaS是否被过度抛售,他把市场传递的信息拆成3层叠加的困惑:记录系统面临“工作流重构”,没有观点的软件将让位于有观点的软件;其上方的分析层“已经在被重塑”,因为Snowflake、Glean和Databricks让LLM可以直接处理数据湖;此外,没人知道最终会剩下多少席位。诚实的结论是:“我不知道正确的估值是多少。”对于Neill Mehta提出的测试——Salesforce的最好时代在前还是在后——他的回答是:“取决于他们接下来如何执行。”
- 他主动给出了清晰的看空逻辑:“如果我无法在未来3年带着团队完成转型,那么确实存在看空理由,因为别人会造出更好的捕鼠器。”看多逻辑来自平台化——客户不愿管理40-60家安全厂商——以及市场空间:Palo Alto在网络安全收入中的占比已从不足2%升至“接近8%-9%”,仍有提升至20%-40%的空间。攻击者不断创新,因此创投级回报仍然存在;但“10亿美元已经不够了,需要10……20、30亿美元”。宏观层面,营销技术、人力资源技术,以及用Token替代重复性人工的支出,“都会变成技术支出”,技术在标普500中的占比仍将上升。
- 对硅谷共识错误的快速判断是:兴奋情绪叠加FOMO,投资时钟被压缩——“你有20年时间投资SpaceX,却只有3年时间投资Anthropic”——于是市场开始相信,“现在出现的每家公司都会成为下一个Anthropic,所以我们最好赶紧投进去。”
- 解药来自他董事会处理一笔接近10亿美元收购时的经验:“有时你会把投入的努力和对结果的渴望混为一谈……你还没花一分钱,只是投入了3个月的努力。”他现在的做法,也是他给那些击败8个竞争对手、拿到Term Sheet的VC的建议:出去长走一圈,问自己:“如果它现在才出现在门口,而且此前完全没有投入过努力,我会不会接?”