先锋 趋势 方法 投研 作者
Anthropic早期往事:22家VC中21家拒绝它|AI的四大瓶颈|Anj Midha
返回节目精读

Anthropic早期往事:22家VC中21家拒绝它|AI的四大瓶颈|Anj Midha

摘要

  • Scaling law依然成立——饱和是领域的属性,而不是范式的属性。 针对Demis关于回报递减的判断,Anj Midha明确反驳:编程评测可能已经饱和,但在Periodic Labs(他最新孵化的项目)中,LLM预测超导材料,机器人负责合成,X射线衍射进行验证,再将数据回流训练——“现在每次迭代,继续投入算力可能带来超指数级增长……苦涩教训依然成立,而且运行良好。”
  • Anthropic的种子轮曾被22家投资者中的21家拒绝——其中一位面对这支GPT-3发明团队时,甚至问“什么是GPT-3?” 融资目标也从5亿美元重新锚定到1亿美元种子轮,而OpenAI当时已融资10亿美元;“算力乘数”叙事——每个VC美元对应的智能单位成本低6倍——只有SBF等接近有效利他主义圈层的ML从业者,以及Amazon看得懂。Amazon最终完成了最初的40亿美元算力换股交易。种子轮没有一家VC机构参与;Midha投入了毕生积蓄,此后已向“有史以来增长最快的企业”投入“数亿美元”。
  • “我们不在AI泡沫中……我们确实处于GPU浪费泡沫中。” 数十亿美元被搁置的算力处于闲置状态,因为H100、GB200和GB300之间的flops并不具备可互换性。算力仍处于标准化之前的时代,像“1885年的工业革命英国”;如果OpenAI、Anthropic或Gemini未来几年未能达到收入目标,他给出的理由将是算力获取,而不是需求。
  • 中国的全栈竞赛不是芯片竞赛:将Huawei芯片与基础设施、训练任务协同设计,以规模化对抗蒸馏西方前沿模型,发布开源模型来启动反馈循环——一旦追上,就停止开源。 他给出的西方答案是为推理建立“铁穹”:“如果我们不能把前沿模型推理置于协调一致的铁穹保护之下……我不认为未来10年我们还能持续留在前沿。”
  • Cloud Act是15年来超大规模云厂商主导地位出现的第一道裂缝——ASML、CMA CGM等欧洲关键任务工作负载在法律上不能运行于美国管理的云上,这正是他押注Mistral的全部逻辑:“让AI基础设施栈的每一层都实现规模化独立。” 未来4年,欧洲主权能力的门槛是Google级基础设施——约12–15吉瓦。
  • “完美竞争属于失败者”——而垄断就是黑帮。 他对Thiel的修正是:最优市场结构是每个前沿领域保留3–4支团队;约50家由VC补贴的推理公司正在“把数亿美元付之一炬”,最终的4–5家赢家将由一个变量拉开差距:“供应。供应获取能力……如果你在造蒸汽机,就需要煤。”
  • 风险投资正在“回到未来”——Arthur Rock在Intel、Kleiner地下室里的Genentech、Apple的Markkula——价值将归投资人兼联合创始人,而不是只会开支票的人。 Midha更广义的投资方法是把未来视为未定,提出瓶颈假设,开展并行实验,并始终愿意承认自己可能错。Amp被打造为算力电网的“独立系统运营商”:以锁定1.3吉瓦作为概念验证,4年云支出约40美元,融资结构约20%股权、其余为债务,并在公共利益治理下按成本免费提供算力。他给LP的建议是:“我会投资瓶颈。”

精读

1. Scaling没有饱和——饱和存在于领域,而非范式

  • Harry开场提到Demis认为算力回报正在递减。Midha毫不留情地反驳:“不,完全不是……这根本不对。”在编程这类探索充分的领域,评测增量确实需要更多算力,但这只是已经饱和的例外,不是普遍规律。
  • 最有说服力的案例是Periodic Labs:这是他最新孵化的项目,位于Menlo Park的一座3万平方英尺设施内。LLM预测新材料,机器人进行合成,X射线衍射设备验证预测性质,再将验证数据回流训练。“现在每次迭代,继续投入算力可能带来超指数级增长……超导体发现根本没有饱和。苦涩教训依然成立,而且运行良好。”
  • 故事起点在一年前。当时“AI for science”概念正热,他用Claude和Gemini测试物理、化学能力——“令人意外的是,它们很差。”缺的不是算法,而是锁在国家实验室、学术实验室和半导体工厂里的数据;这些数据没有进入互联网预训练。按他的说法,这套物理实验室配方适用于任何想要推动进步的领域。

2. 四大瓶颈——文化正在悄然解决算法问题

  • 他给出的完整清单是:上下文反馈、算力、资本、文化——“而且我认为,文化实际上可能是有史以来最重要的瓶颈。”算法创新已经不在清单上:只要拥有使命驱动的文化,研究者就不会再陷入transformer与diffusion的部落之争,“算法层面的事情自然会解决。”两三年前,架构曾是巨大瓶颈;在他看来,现在已经不是。
  • 上下文反馈是第一步,也是资金所在:“上下文未必就是护城河……至少现在还不是。”VC很快就会分析护城河,但真正独特、差异化的反馈循环,才是进展最清晰可见的地方,也是更优商业模式所在。
  • 他有意压低对超级智能的表述:分布内能力确实已经超越人类,“好吧,我们就把它叫作超级智能”;编程领域的递归自我改进“确实完全在发生”。但你不能告诉一个编程模型:“在Menlo Park为我搭建一个实体研发实验室。”Harry拿Cursor的云化与Periodic的物理数据作对比;Midha回应称,上下文暂时未必是护城河,但独特反馈循环会带来清晰的进展和商业优势。

3. Cloud Act撬开超大规模云厂商主导地位——Mistral的全部逻辑

  • 机制在于:美国Cloud Act允许美国政府访问由美国企业管理的基础设施上的数据。因此,如果你是ASML,或是运营关键物流业务的CMA CGM,就不能在法律上把这些上下文交给AWS、GCP或Azure处理,而欧洲几乎没有值得信赖的替代方案。于是,2025年7月,33岁的科学家Arthur Mensch与Macron、Jensen一同登上Vivatech舞台,宣布在巴黎建设一座吉瓦级设施。“这是15年来超大规模云厂商的主导地位第一次对初创公司开放争夺。”
  • 他对Mistral的原话是:“让AI基础设施栈的每一层都实现规模化独立。”包括主权土地、电力和机房,本地算力,以及本地训练、完全开放的模型。
  • Harry追问:Anthropic和OpenAI难道不会直接进入欧洲?关于Anthropic,Midha的回答是,这家公司一直“非常贴近美国体系”;而全球最大的企业客户——政府和财富500强——越来越需要让工作负载在本地运行。

4. Anthropic的种子轮:22家中21家拒绝,一家VC都没有

  • 他“永远”认识Dario——Dario是GPT-3论文的主要作者之一。Tom打来电话,说他们准备离开、创办一家新实验室。从2021年初开始,他们每周碰面,把“一个研究假设——扩展Scaling recipe——转化为商业假设”:AI编程助手将本地代码仓库作为上下文反馈循环,推理既带来购买算力所需的收入,也带来提升能力所需的反馈。
  • 他们最初试图融资5亿美元,后来将目标重新锚定到1亿美元种子轮;相比之下,OpenAI当时已融资约10亿美元。他在Sand Hill Road上下游引荐了22位投资人,结果21个说不。他至今忘不了那段对话:“证据?这些人可是发明GPT-3的人。你还要什么更多的证据?”对方回答:“什么是GPT-3?”
  • 真正看懂这件事的是与有效利他主义社群重叠的ML从业者——包括SBF——以及Amazon。对Amazon而言,部署在AWS上的最先进模型“极具增值性”,最终促成最初的40亿美元算力与资本换股合作。Midha投入了毕生积蓄,“我的大部分净资产都被锁在Discord股票里”。
  • 后来,Harry为VC通过养老金和捐赠基金实现财富分配辩护时,Midha反问:“Anthropic种子轮里有多少家风险投资机构?”答案是:“一家都没有。”“这就是答案……公共资本被错误配置给VC管理人的规模非常巨大。”此后,他已在多轮融资中投入数亿美元,并计划将其中大部分捐给公共利益事业。

5. 公共利益治理:防止国会介入的保险

  • 针对Harry认为企业做到一定规模后必然遭遇国会听证,Midha举出REI和Ben & Jerry’s:这两家公共利益公司年收入达数十亿美元,却从未被拉去接受质询——“因为它们进行了自我约束。”当长期使命与利润保持平衡时,“两者并不冲突”;PBC治理正是调和两者的机制,“硅谷需要更多公共利益章程。”
  • Harry转述一位共同朋友的讥讽:这些PBC创始人难道不会先赢下市场?Midha回应:“他们想成为‘有史以来增长最快的企业’的投资人时,让他们给我打电话。到那时,他们再来教训我什么是公共利益治理。”
  • Amp有一项股东难以理解的具体决策:按成本赠送大部分算力——这涉及数十亿美元基础设施——因为真正推动前沿发展的团队“负担不起价格 gouging”,而Amp的使命是“最大化全球前沿产出”。

6. Amp Grid:约1885年的算力独立系统运营商

  • Amp“不是云服务商,我们不拥有自己的数据中心,也不是传统风险投资机构”,而是一个独立系统运营商,负责协调容量,让最优秀的团队按基础负载而非峰值负载进行配置。他的判断是:“我们大致处于1885年工业革命时期的英国。”前沿实验室像工厂一样,“在自家后院各自运行发电机,但只有一半产能”。把发电机池化:鞋厂白天出现峰值,钢厂晚上出现峰值。
  • Harry最尖锐的质疑是:按成本提供算力,难道不是风险基金的引流亏损——用算力换取3亿美元配置?Midha回答:“完全不是……交易根本不是这样。”他一次只孵化一家企业:在Periodic,他每周有3天驻场;过去一年里,他每天早上8:00–8:30与Liam Donohue举行站会,而Amp的算力团队就在楼上负责采购。
  • 数据方面,概念验证阶段已锁定约1.3吉瓦——4年云支出约40美元,融资结构为约20%股权(约10美元)、其余债务。融资“不是问题,真正的问题是系统设计”,他花了一年时间——实际上是4年——才把结构搭好。供应优势可以追溯到a16z的氧气项目:“第一步,是在人们意识到它有多大价值之前先到位。”
  • 欧洲的规模以吉瓦计算:据他所知,Google的规模“约为12–15吉瓦”,而且还有大量土地、电力和机房储备正在推进。“如果欧洲没有Google级基础设施,那你们到底在做什么?”这就是未来4年实现全面主权的门槛。

7. “不是AI泡沫,而是GPU浪费泡沫”

  • 他反复强调:“我们不在AI危机中。我们肯定不在AI泡沫中……我们确实处于GPU浪费泡沫中。”数十亿美元的算力被搁置、无法使用。原因在于算力不可互换:即便都来自Nvidia,H100、GB200和GB300也是“完全不同的芯片类型”;在H100上启动的训练任务无法转移到Blackwell,而旧集群在前沿工作中又受制于内存。“我希望flops可以互换,但今天并非所有flops生而平等。”
  • 算力正处于标准化之前的时代——类似1885年的电力、钢铁和铁路——“战争不断,公司相互背刺。”出路在于电力领域的AC/DC,以及互联网领域TCP/IP的RFC流程:由技术人员提出开放标准,再由NIST等机构推动标准化。他希望行业能够“自行标准化……跳过繁荣与萧条周期。”
  • 最深层的瓶颈就是本期节目开场的那句话:“AI对齐,别误会,很难,但不是最难的问题。现在真正的问题是人类对齐。”尚未解决的核心争论是:统计模型是否应该像确定性软件——比如电子表格——一样被监管和采购。他认为Trump正在“尽最大努力……给美国足够的创新自由,让这些标准有机会被发现”。

8. 中国的全栈竞赛——以及建立推理铁穹的理由

  • 中国意识到,“AI扩展竞赛不是芯片竞赛,而是全栈系统协同设计竞赛。”在缺少领先制程芯片的情况下,中国将Huawei芯片与基础设施、训练任务协同设计,随后进行规模化对抗蒸馏——从不同端点蒸馏西方最先进模型,发布为开源模型,收集反馈并持续迭代,直到追上。然后问题变成:“我们为什么还要继续开源?”他的判断虽然令人不适,却是:“这很漂亮……非同寻常。”这实际上复制了Google的整合策略——土地、电力、机房,TPU、Borg、Gemini——只是用开源完成启动。
  • 这会让他担忧吗?“你在开玩笑吗?当然。”今天的防线实际上就是他的群聊:某位创始人发短信问“有没有其他人注意到这个地区的蒸馏活动大幅增加?”随后他在自己参与的7家董事会之间进行非正式协调。解决方案是把这种机制规模化:建立推理铁穹,让所有前沿推理都通过共享代理提供服务,并在不同公司之间标记攻击。“如果我们不能把前沿模型推理置于协调一致的铁穹保护之下……我不认为未来10年我们还能持续留在前沿。”
  • 我们应该知道、却还不知道的事情包括:内部威胁确实存在,蒸馏正在利用美国与欧洲之间的分裂以及“我们的政治体系”,而服务企业工作负载的关键任务数据中心“相当脆弱”。

9. 最优竞争:Thiel的表述“不够精确”

  • 他对“竞争属于失败者”的修正是:完美竞争属于失败者——50家公司训练LLM就像50家餐厅,毫无防御性;但垄断同样糟糕:“垄断就是黑帮。”一旦形成垄断,“它们就会停止创新”,囤积资源,并通过收购打通上下游;他表示这种行为已经出现。目标应是最优竞争:每个前沿领域有3或4支团队,足以带来非凡回报,又足够不安逸,能够持续创新。
  • 应用到推理领域,只要瓶颈被打通,需求就可能呈组合式增长;而且“如果OpenAI、Anthropic、Gemini等未来几年没有达到收入目标,任何理由归根结底都会是它们无法获得足够算力。”50家由VC补贴的推理公司正在价格战中“把数亿美元付之一炬”;最终的4–5家赢家将由“供应。供应获取能力……如果你在造蒸汽机,就需要煤”拉开差距。
  • 针对他前合伙人——可能是Martin Casado——关于模型创始人会保留最佳模型的推文,他的看法是:通用产品会像iPhone一样,把开发成本摊薄到最多用户身上,因此通用模型会保持广泛可用;专用模型则会进行企业级分层。“不存在一个大型上帝模型”,开源与闭源访问的争论也被“有些夸大了”。
  • 他4年来一直在反驳的,是一个分类错误:这些从来不是基础模型公司,而是前沿系统公司——所以才有Claude Code,也才有Mistral Compute。“这从一开始就是计划……只是你们没有注意到,还拿着你们那些由投资经理递交的整齐市场地图。”未来还有许多市值超过1000亿美元的前沿系统公司尚待建立。

10. 回到未来的风险投资——“他是对的”

  • 前沿产业由投资人兼联合创始人创立:Arthur Rock在Intel亲自编写股票激励计划,并主持每周全员会议;Genentech在Kleiner的地下室孵化出来,核心人物是Herb Boyer和Kleiner associate Bob Swanson;Mike Markkula“实际上是Apple第一年里的首任CEO”。Midha在20岁时于Kleiner跟随Brook Byers学习这种模式;他认为,开支票和共同创办企业“很难在一个人身上共存”,有时甚至难以在一家机构内共存。他更广义的投资方法是把未来视为未定,提出瓶颈假设,开展并行实验,并始终愿意承认错误、对LP保持诚实。
  • 他给LP的建议很直接:“读材料。不要跳过艰苦工作。”太多LP把资本配置外包出去;“我会投资瓶颈。”他完全认同Harry对那些从未用AI真正造过东西的GP的批评。他在斯坦福CS 153课程中的项目是“单人前沿实验室”,因为4年前需要50人完成的事情,如今1个人就能做到。一家主权基金正让26位部长参加他为期一年的项目;在每个人都构建并部署一个agent之前,不会颁发结业证书。
  • 从内部看,Dario的特别之处首先是“纯粹的科学天赋”,更具体地说,他“骨子里是个物理学家……是个经验主义者”;其次是使命感清晰——“不漂移。我们不会走捷径……愿意做出巨大的取舍”。即便面对“疯狂”的人身攻击,这种特质仍能吸引世界级人才。
  • 他的心态转变来自家庭和自身的健康经历,这让他“不再把时间视为理所当然”——这是他给学生讲的第一个“人生Scaling law”。至于墓志铭式的回答,则是在旧金山一次晚宴上被妻子Viv突然点名后脱口而出:“他是对的。”整个房间瞬间安静下来,所有人都说:“没错。”