先锋 趋势 方法 投研 作者
OpenAI vs Anthropic vs 开源模型|Token 最大化、AI“宿醉”与即将到来的 ROI 清算
返回节目精读

OpenAI vs Anthropic vs 开源模型|Token 最大化、AI“宿醉”与即将到来的 ROI 清算

摘要

  • 模型大战可能不会有唯一赢家。 Matan 过去12个月最大的认知转变是:他曾认为会有1、2家实验室甩开其他竞争者、统治前沿模型,如今则认为“可能至少会有4家,能力大致相当,而这本身就是胜利……对人类而言,最糟糕的情况是只有一家特别特别强”。Factory 自己的悲观情景则是反过来:只有当一家实验室明显领先时,公司才会死掉——“但那就意味着整个经济都要担心一家垄断者”。如果被迫在 IPO 当天选一家,他会纯粹因为波动性选择 Anthropic:“OpenAI 的随机、混乱、动荡事件更多。”
  • 企业 AI 已经进入“宿醉”阶段。 路径是:董事会向 CEO 施压 → 把 Token 最大化写进绩效考核 → “你回头看账单,会发现,天啊,我们花了这么多钱,却完全不知道 ROI 是什么”。他认识的一位 CIO 发现,公司每月有数十万美元花在员工向 Opus 4.8 问“最近怎么样”和天气上。Factory 多家客户私下已经出现类似 Uber 的$1,500/人上限,他预计前沿模型使用量会出现短期收缩,并认为这是健康的。
  • 如今在前沿模型上运行的任务中,有80%-90%其实可以交给开源模型。 通常只有“规划”需要前沿模型。Harry 反问,这难道不是对 Claude Code 和 Codex“有史以来最大的悲观情景”吗?Matan 的回答是,剩下的10%-20%属于“决策 Token”——类似管理层工时,数量少却最有价值——而且即使前沿模型的使用占比下降,单 Token 的前沿模型支出仍在上升。他还说:“美国没有前沿开源模型,实在挺丢人的。”
  • Token 支出很可能会接近薪资支出。 针对 Harry 的基准——可能是 Marc Benioff 花在 Anthropic 上的3亿美元,相当于开发人员薪资的3.8%——Matan 认为,3年内的中位数将达到“一个数量级……与薪资相当”。但个体差异会从0%一直拉大到“数万个百分点”,因此给每名工程师设统一预算是在“用过于宽泛的刷子作画”。
  • 价值归属是一个随时间变化的现象——模型、应用和基础设施都在“试图把不是自己的那一层商品化”,因此他强烈反对未来12个月属于 AI 基础设施的判断。 Kirkland 投入5亿美元自建 AI 的案例说明了另一点:“构建 AI 技术不是这家公司的核心能力”,而这“其实对 Harvey 有利”。更深层的变化是:“未来将不会再有任何东西是没人能造出来的”——护城河会从能力转向资源配置。
  • 劳动力替代叙事是融资策略,不是预测。 Dario 说“我们会拿走你的工作”,让他“非常恼火……这是出于自私的原因”:当你要筹集数千亿美元时,“说整个资本主义都完了”是最能说服投资人的方式;等到 IPO 时,同一批人又会变成买家。Harry 补充说,可能 Zuck 和 Demis 从未这样说过,因为他们从来不缺钱。短期替代令他担忧,长期则不担忧。基础设施泡沫?“长期绝对不是,完全不是一回事。”
  • 人才与市场进入正在被同时重估:奥赛漏斗式履历如今“有点像反向信号”,“博学多才者的时代回来了”;把销售和市场视为脏活,则是一颗定时炸弹——那些靠淘金热混日子的 AI 公司是“漂在太空中、没有重力的宇航员。 你的肌肉会萎缩,重力终将回来”。

精读

1. 模型大战没有唯一赢家——至少4家实验室能力相当

  • 他过去12个月最重要的认知反转是:“有一段短暂时期,我认为可能只有1、2家公司会甩开其他公司、成为前沿模型。现在对我来说已经很清楚了:可能至少有4家,能力大致相当——这就是人类的胜利。”他之所以把这称为一个 hot take,正是因为“现在人们还有点迷恋于可能只有1、2家”。
  • 针对 Factory 的悲观情景,是把同一笔交易反过来看:“如果一家模型供应商显著强于所有其他供应商”,企业就会把全部业务押给它——“但那就意味着整个经济都要担心一家垄断者”。他的基准情景是模型能力大体相当,每周轮流领先:“一家在代码审查上略好,另一家 Python 更强……每周都在波动。”
  • 模型发布最终会不再成为事件:“到最后,他们甚至不会宣布,只会告诉你,这是我们的模型,它在持续变强。”企业工程师“不可能跟上每一个新模型,也没有必要跟上”——这正是应用层存在的全部理由:针对每项任务,在成本、质量和速度之间做套利。
  • 快问快答:如果 IPO 当天只能买一家,选 Anthropic 而不是 OpenAI——两家业务“基本相当”,所以决胜因素是波动性:“过去是未来的指标,而 OpenAI 的随机、混乱、动荡事件就是更多。”

2. 每个人都在试图把不属于自己的那一层商品化

  • 对 Brendan——可能来自 Mercor——关于未来12个月将是 AI 基础设施价值归属最集中的时期这一判断,他“相当不同意”。他的框架是那张微软组织架构梗图:模型、应用和基础设施彼此举枪,互相宣称对方无关紧要。“现实是,价值归属是一个随时间变化的现象……并不是某一个人最终稳定地拿走全部价值。”他指出,所有人都会替自己的利益说话——拥有专有数据的公司需要模型胜出,Factory 则需要模型能力保持平价。
  • 对消费者最优的结构,是模型与应用分离,因为两者的激励并不一致:“如果我是一个模型供应商,同时给你提供编码工具,我希望你尽可能多用 Token,因为我是 API 生意……我没有很强的动力去提高 Token 效率。”独立的应用层意味着,“你最好是最强、最便宜或最快,否则 Token 根本不会流到你这里。”
  • 这可能避免云计算式锁定,因为云时代留下了深刻教训:签下3年折扣,“然后他们就会涨价;一旦你标准化使用某一家,切换需要2年……你就被我们困住了”。“我接触的每一位 CIO 都非常清楚:我们不能把全部身家押在一家模型供应商上。”同样的创伤也带来了 Factory 最出人意料的客户之一 EY——它是 Factory 最大的客户之一,“看到了自己在云时代落后的教训”,如今“比一些创业公司更原生于 Agent,这很疯狂”。
  • 对 OpenAI 推出竞品后 Lovable/Replit 的处境,他确实没有把握——可防守的细分市场是向销售、市场和客服团队销售,但如果继续追逐非技术人员编写生产代码,会是“不明智的”,因为任何涉及数据库和访问控制的东西,“最终都会由工程师来运行”。

3. Token 最大化结束了——宿醉与 ROI 清算已经到来

  • 企业采用 AI 有3个阶段:第一阶段,“董事会向 CEO 施压——你的 AI 战略是什么?”;第二阶段,Token 最大化——把采用率写进绩效考核,“纵情狂欢,彻夜狂欢,尽可能使用所有 AI”;第三阶段,“宿醉”:回头查看账单,“我完全不知道 ROI 是什么。这到底在帮助我们的业务吗?”大多数企业现在都处于这一阶段。
  • 他从一位 CIO 那里听到的真实故事是:公司每月有“数十万美元”花在员工向 Opus 4.8 问“最近怎么样?我今天吃的东西有多少宏量营养素?”——“我们不需要人类智能的前沿来替我们做这些事,更何况这甚至不是工作。”因此需要做路由分配。
  • Uber 公开披露的$1,500/人预算,在“我们的很多客户那里私下已经发生”:使用量先爆炸,之后才有人决定代码库的哪些部分值得消耗 Token。Factory 现在会主动设置用户上限。结果是:“我们可能会看到前沿模型的使用量短期收缩——但我认为这是健康的”,总好过一直视而不见,最后突然纠偏。
  • Harry 的基准问题是:可能是 Marc Benioff 花在 Anthropic 上的3亿美元,占开发人员薪资的3.8%;3年后这个数字会是多少?Matan 认为,中位数大概是“一个数量级……与薪资相当”,但范围会从部分人的0%延伸到那些“并行向几十个机器人委派任务”的人的“数万个百分点”。给整个组织设一个统一比例,就是“用过于宽泛的刷子作画”。

4. 开源模型可承担80%-90%的任务——前沿模型保留决策

  • 他的判断是:目前由前沿模型处理的任务中,“可能有80%-90%”可以交给开源模型——“通常真正需要前沿模型的是规划”。开源是“非常重要的制衡力量”,迫使 OpenAI、Anthropic、Google 和 Microsoft “尽可能便宜、快速地提供最好的模型”。
  • Harry 的质疑值得保留:“这难道不是对 Codex 或 Claude Code 有史以来最大的悲观情景吗?”Matan 的反驳是,留在前沿模型上的10%-20%属于“决策 Token”——这和人类组织一样,“大部分人的工时并不用于做决策”,但那些做出不可逆战略决策的人,“通常也拿着很高的薪水”。即使前沿模型的 Token 占比下降,单 Token 的支出仍在上升——例如“超高推理”。
  • 迁移过程中存在一个自尊陷阱:“不行,我做的工作只有前沿模型才能处理。”他承认自己切换时也掉进过这个坑:“不是的,它可能其实可以。”
  • 美国初创公司使用中国开源模型:没问题。至于模型被植入“触发词”、随后切换为敌对模式的卧底担忧,经不起博弈论检验:你会“尽可能晚地植入,因为如果在早期模型里这么做、又被人发现,他们以后就永远不会再用你的模型”。但他仍说:“我相当爱国。美国没有前沿开源模型,实在挺丢人的。”

5. 当任何人都能构建任何东西,核心能力就是新护城河

  • 对于 AI 是否会让 GDP 增速超过过去200年的2%均值,他的回答是:“是的,绝对会。”但过程会很慢,因为企业都是围绕解决问题组织起来的,“资源配置需要时间调整”。如今每家公司都必须做出选择:用同样的人解决更多问题,还是用更少的人解决同样的问题。
  • 未来24个月,C-suite 面临的问题是如何围绕核心能力配置“美元、Token 和人”。Kirkland 承诺在5年内投入5亿美元自建 AI,是他用来警示的案例:“构建 AI 技术不是这家公司的核心能力……我反而认为这对 Harvey 有利——没有什么比亲自尝试更能让你意识到,天啊,这事其实非常难。”
  • 更深层的变化是:“未来的世界里,将不会再有任何东西是没人能造出来的。理论上,任何人都能构建任何一款软件。”他的类比是:他知道如何给团队买午餐,但“在 Factory,我们的核心能力不是 CEO 去给所有人买午餐”——能力不再是护城河,资源配置纪律才是。
  • 他认为,组织臃肿源于“中间指标”:“我们交付了4个功能。多么棒的一个季度。但这对业务根本不一定重要。”同样的视角也适用于苦干文化的表演:“想象一下,试图根据谁出汗最多来判断哪支球队赢了篮球比赛……看记分牌。”

6. 承重型通才取代证书型工程师

  • 对于 Andrej Karpathy 关于100倍工程师将出现分化的判断,他认为方向上没错,但问题是“10倍什么?”“现在我可以借助这些工具写出10亿行代码,但这些代码可能很烂。”他的衡量标准是“承重型个体”——移除他们,系统就会塌——而 AI 会给这些人更多杠杆,也会让那些无法使用杠杆的人“在相对意义上变得更加不值钱”。
  • Harry 为 VC 证书主义辩护:在“Anthropic 和 OpenAI 会做什么、会杀死谁”的高度不确定性中,奥赛奖牌等验证信号是一根拐杖。Matan 接受这是拐杖,但把它反过来用于招聘:高中奥赛漏斗式履历如今“有点像反向信号,因为你没有掌握自己的命运,也没有主动选择的能动性”;而那个来自“偏远小地方”、独自寻找比赛机会的孩子,仍然能传递信号。关键在于:“你造过什么?你如何从头到尾承担所有权?”
  • 未来的角色,是由前工程师转型而来的 GM,负责一个业务结果——营销文案、产品指标、销售赋能。而且“博学多才者的时代回来了”:达·芬奇和 Euler 能够触达多个前沿,是因为当时各领域都还很浅;弦理论需要“花50年补齐文献”,而 AI 缩短了这段爬坡时间。因此他会招聘那些能承受不确定性、同时推进多个前沿的人。
  • AI 无法解决的瓶颈是“人的那一面……行为改变”。其中存在一个有趣的不对称:有30年经验的工程师抗拒这些工具,但“知道如何委派”;职业早期的工程师则积极采用,却“不知道如何管理人”。

7. 销售和市场是一等公民——重力正在回来

  • 他在这个领域最具争议的观点,是反对“硅谷谬误”——把研究视为顶峰,把销售视为“脏活”。“Factory 的产品是完整旅程”,从客户第一次听到我们的名字,一直到10年后的第10次续约。工程师和销售人员混在一起工作:“销售人员签下订单时,工程师会说,是我们签下了订单。”
  • 他给淘金热竞争者的警告是:“他们是漂在太空中、没有重力的宇航员。你的肌肉会萎缩。重力终将回来……而你将无法竞争。”他的挑战是:“说出一家销售或市场团队很烂的传奇公司。你说不出来。”Harry 反过来补充,而他也承认:“我能说出一些产品很烂、但销售和市场团队很强的公司。”
  • 他主张建设团队,而不是表演苦干:不规定工时,也不在办公室放床——“如果你只睡2小时就能完成工作,那你做的就不是什么高杠杆工作”。但在一次持续两周的冲刺中,他给全部30名员工买了价值$3,000的 Eight Sleeps:“这就像 Seal Team Six、NBA 全明星——为了让他们提高生产力,每一美元都值得。”对于 Stebbings 的 limoncello 式享乐主义,他的回答是:运动员有赛季和休赛季——全情投入,然后“休赛季就 Charlie Sheen 一把”。
  • 他的企业销售启蒙来自一位职业生涯第一份工作就是这份工作的人:面对面交流极其重要,而且“你永远不应该试图销售某个东西”——先理解问题,再确认是否匹配。交易中的 FTE 只能用于加速消费:“把100万美元的消耗规模从6个月提前到3个月”,而“如果我们需要靠 FTE 才能让产品运转,那我们就是产品很烂。我又不是 Accenture”。

8. 工程师停止写代码,开始建设工厂

  • 推进的第一阶段是“看看我们能生成多少代码”;第二阶段则是“某个可怜的资深工程师不得不审查数百个这样的垃圾 PR”。解决方案是让 Agent 做好准备:更新文档、让 Agent 能自行运行代码的远程机器、CI/CD、linters、pre-commit hooks。过去这些投入的 ROI 与工程师数量1:1增长,现在则取决于使用多少 Agent,可能达到“10倍或100倍”。
  • 公司名称本身就是其论点:组织将拥有“专门建设生产软件的工厂的工程师”。他的画面是 Tesla 的装配线:里面只有少数人,但人类设计了整条线,以最大化吞吐量,避免 Agent “在技术上通过测试,却大幅增加技术债务”。
  • 5年后我们会嘲笑的,是高薪工程师亲手撰写发布说明和文档。Stripe 著名的文档优势会被拉平——“是的,这会降低它的影响”,但“这是一个更好的世界,每个人的文档都能达到 Stripe 的水平”。
  • 值得关注的滞后是:代码生成正在“指数级增长”,“安全投入却没有同步增长……未来几年可能会发生一些相当严重的事件”,而且很可能已经发生,只是没人承认——“我们甚至还没有看到最具对抗性的行为”。

9. 劳动力替代恐惧是融资话术——Dario 造成了伤害

  • 对于劳动力替代,他说短期内“是的”,这让他担忧——裁员冲击正在波及数万人。长期则“不担忧”:世界上有大量问题,“那些可以用软件解决的问题中,我们目前真正用软件解决的还非常少”。工程师大量涌入市场,会把人才重新分配到医疗、制药和气候领域,但“经济必须匹配他们,并给予适当激励”,这需要时间。
  • 他对暂停 AI 阵营最尖锐的批评,借失智症展开:“这本来就是可以通过更好的 AI 和更好的软件解决的问题……当你说要放慢 AI 时,你是在对那些家里有人患失智症的人说:不,不好意思,你们得再维持这段关系久一点。我们害怕。”他的结论是:这“非常有害,也非常自私”。
  • 当被直接问到 Dario 说“我们会拿走你的工作”是否损害了整个生态时,他回答:“是……这不仅是不真诚,也是错误的,而且真的伤害了很多人的心理状态——这是出于自私的原因。如果你要筹集数千亿美元,最好的办法就是说整个资本主义都消失了,最后只剩下我这一家公司。等到 IPO 时,突然又变成:等等,等等,人类很重要。”Harry 补充说,那些从未这样说过的人——可能是 Zuck 和 Demis——从来不需要这笔钱。
  • 对政府是否应引导 AI 人才,他除了国防和安全之外都很谨慎:“你需要给出非常充分的理由”。即使是气候问题,也可能支持更快发展 AI,尽管短期排放会上升。AI 基础设施泡沫?“短期可能有些波动,但长期绝对不是。完全不是一回事。”

10. 从弦理论到 Sequoia 以 post-money 20% 投入100万美元

  • 故事起点是:几何老师让他重修这门课,于是他的第一笔 Amazon 订单就是一摞数学教材;他用一个暑假全部学完,随后跳过了所有相关课程。他父亲说最难的数学是弦理论,于是开启了“12年的隧道式专注”:先在 Princeton 读本科,成为第一个与可能是 Juan Maldacena 合作并共同写论文的本科生;之后在 Berkeley 攻读博士,直到“整个世界轰然坍塌”,因为他意识到自己做这件事,只是“因为它很难,也因为有人说我做不到”。
  • 一场程序综合研讨会让他彻底“nerd sniped”:“代码的明确目的就是创造自己。”物理学家从不关心 n=3,只关心 n 维解。他读了 Zero to One,随后在播客中听到一位曾被他引用过的前物理学家 Sequoia 合伙人,可能是 Shaun Maguire。一次冷邮件最终变成在 Sand Hill 散步3小时;他没有拿出 pitch,因为“不想用一笔交易把它弄脏”。
  • 第二天,他在一次黑客松上遇到联合创始人 Eno——“智识上的一见钟情”。两人用72小时重做了 demo,随后那位合伙人说:“从博士项目退学,发一张截图给我。”对于那些一无所有、从苏联移民而来的父母来说,这个决定极其残酷。2023年4月,他们向 Sequoia 推介:当时 Copilot 尚未普及,他们推销的是完全自主的 Agent,条件是:post-money 20% 对应100万美元。Harry 算了一笔账:按上一轮估值、不考虑稀释,这部分股权大约价值3亿美元。
  • 他从未把项目拿出去比价:“不会有其他人相信我……信任、忠诚和信念,比价格标签重要得多。”是否愿意给 Sequoia 折扣?“通常愿意。”真正重要的是“在一切尚不明确时仍有深度信念”,而不是热门轮次中的恭维;他从一位老派投资人那里亲身学到这一点:“我是个他妈的天才……但那种感觉30分钟后就消失了——天啊,他把我拿下了。”至于 Ivanka Trump 通过他招募的 Francesca 以及 Affinity 关系进入 cap table,他认为她确实有价值:“投资人有很多脏活和投资人协助工作,她做的这些事,一些更知名的投资人反而不会做。”

核验说明

  • 原始字幕同时出现了“Five post”和后文的“20% post”;本摘要保留后者。