为什么拥有无限 GPU 的 AI 实验室仍会失败——Anjney Midha，AMP
摘要
Anjney Midha 认为，资金和算力并不能保证产品交付，真正的约束是执行协同和组织文化。 他表示，Google 将约 95% 的节点利用率视为接近宕机，而业内最佳 MFU 只有 60–70%；协调不佳的实验室会让微小的规划误差在组织层级间不断累积。“AI 扩容的本质，应当是提高常识的价值。”
Amp 给出的答案，是建立一个中立的算力网格，汇聚分散在不同云和芯片上的供给。 目标是让“megaflops 像 megawatts 一样流动”，为参与者保证基础容量，同时动态分配峰值需求。Amp 已开始锁定明确披露的 1.3GW 规模需求，相当于约 400 亿美元云支出；但 Midha 估计，未来 4 年其团队可能需要 6GW 的峰值容量。
数据中心必须与所在社区达成明确的利益交换，否则许可风险就会变成基础设施风险。 Swyx 转述一项估算称，今年美国最多 20% 的数据中心可能缺乏足够的社区支持，但他也提醒这一数字可能被高估。Scott Nolan 提议的“新 AI 契约”是：将算力价格从每小时 4 美元提高到 4.50 美元，并通过现金把增加的 0.50 美元直接返还当地居民；Swyx 还建议提供更便宜的电力。作为算力客户，Swyx 表示自己很乐意买单。
替代性 AI 芯片可以扩大供给，而无需让整个技术栈碎片化。 Matrox 选择 NVIDIA 的参考架构和机架规格，再将创新集中在逻辑 die 与系统协同设计上：“你不可能在每条战线上同时作战。”更深层的约束是信任——芯片从设计到流片约需 2 年，因此设计者需要尽早了解模型架构的变化。
垂直一体化实验室内部囤积研究，为独立资本和基础设施创造了切入口。 Midha 表示，DeepMind 的 6 个月内部禁发期，在研究显现商业价值后可能永久化，导致公开发表的内容出现逆向选择。Amp 的 Foundry 因此为前沿团队提供支持，包括今年早些时候向 Anthropic 投资数亿美元；同时，Amp 也将多余算力捐给非营利组织和大学实验室。
临终预测是 Midha 所举最清晰的、兼具公共价值的 outputmaxxing 案例。 他说，Stanford 的纵向数据集覆盖至少 1200 万名患者，而当时 Medicare 和 Medicaid 超过 30% 的支出用于临终关怀；即使是回归模型和简单神经网络，看起来也具备技术可行性。真正卡住项目的是监管，而不是建模，因为错误诊断的责任无法从医生转移给 AI 系统：“过去 14 年里，我没有一天能把这件事从脑中移开。”
文化是 Anthropic 编码能力突围背后脆弱、却能不断复利的优势。 Midha 不接受“只是掷中了幸运骰子”的解释：Anthropic 在资源稀缺中花了 4 年做好准备，将编码设为 P0，因为计算机使用能力可能推动 AGI 进展，并承受了“21 次拒绝”，由此逼出了清晰方向。“文化不是一套信念，而是一套行动”（Culture is not a set of beliefs. It’s a set of actions）——它需要每天浇灌，而不是一座永久护城河。
精读
1. 未充分利用的集群暴露协同失败
Midha 将节点分配与模型 FLOP 利用率区分开来：约 96% 的节点使用率应当是标准，Google 据报将 95% 视为宕机，而当前最佳 MFU 约为 60–70%。他说，他讨论的大多数集群连第一项测试都通不过。
他的诊断指向组织：出资方、集群部署者、调度器和产出测量者之间隔着太多层级。就像两条起点夹角只有细微偏差的直线，微小的失配到了规模化阶段就会变成巨大的浪费。
解决方案是借鉴半导体行业的迭代式 bring-up，并非 AI 专属发明。新能力的出现，不足以成为放弃运营纪律的理由：“这次不一样”或许适用于能力，但不适用于基础设施常识。
2. 算力池化可能优于全栈自有
Swyx 提出的问题值得保留：像 xAI 或 OpenAI 这样的垂直一体化运营商，难道不是最有动力提升效率吗？Midha 的系统性回答是，利用率既可以通过一体化提升，也可以通过池化提升；Amp 有意选择后者。
Amp Grid 覆盖多云和多种芯片，在调度和经济层协调闲置算力。它的目标是让“megaflops 像 megawatts 一样流动”，将原本不可互换的容量变成共享资源。
Midha 将 Amp 定义为独立系统运营商，而不是 neocloud。历史上的电网之所以有效，是因为中立协调者汇聚了发电机组和需求不相关的客户——钢厂在夜间达到峰值，鞋厂在白天达到峰值——同时不拥有底层资产；PJM Interconnection 是他所说的成熟类比。
Amp 表示，正在围绕 1.3GW、4 年期规模组织供需，但强调全部容量尚未锁定。理想稳态是 1.3GW 的基础负载容量，加上未来 4 年约 6GW 的峰值容量。
3. 动态分配仍需要指挥权
Amp 的调度模型呼应了 Google 的 Borg/GQM 实现，以及 Midha 在 a16z 的 Oxygen 项目：团队获得有保障的基础容量，将可中断任务排队，并花费 credits 重新排序。Midha 举例称，Nano Banana 2 获得 10 个 credits，Genie 3 获得 5 个，因此前者可以中断后者；他特别说明这是虚构示例。
Swyx 提供了关键反例：Brain Marketplace 确实存在，但 Midha 表示，Google 内部的 credit 机制最终导致 Google 错失 GPT。Midha 更广义的控股公司结构，则是将池化基础设施与 Foundry 资本业务结合起来，用于孵化和支持前沿实验室。
4. 社会许可正成为算力投入
Swyx 转述一项估算称，今年美国最多 20% 的数据中心可能难以获得社区支持，同时明确警告这一数字可能被高估。仅有就业岗位并不足够，因为居民承担着电网、环境和许可成本。
General Matter 创始人 Scott Nolan 的提议把利益交换具体化：如果算力成本为每小时 4 美元，就收取 4.50 美元，并将多出的 0.50 美元转给所在社区。Swyx 表示，作为算力客户自己会乐意支付，因为更便宜的本地电力或直接现金能让居民成为合作伙伴，也能让最终获得的算力供给更可靠。
Midha 预计，审计和调查最终会追上那些“快速行动、打破东西”的运营商。他偏好的合作方，是拥有 20 多年经验的数据中心老兵：他们有土地、电力、信用记录，也经历过互联网繁荣与萧条周期；他们可能不会赞助 NeurIPS 的庆功酒会，“但他们是成年人”。
5. 独立基础设施可以释放被囤积的研究
Midha 认为，大型实验室内部存在市场失灵：具有商业潜力的 DeepMind 研究可能进入 6 个月禁发期，并无限期无法公开。由此产生逆向选择——公众看到的，可能恰恰是企业认为价值最低的工作。
Foundry 作为 Amp 的资本部门，负责孵化和资助独立的前沿实验室；Midha 表示，今年早些时候 Amp 向 Anthropic 投资了数亿美元。Amp 也将多余算力捐给非营利组织和大学实验室。
他用一个刻意夸张的规模检查开玩笑：“我们只有 1.3GW 的算力，这根本不算什么。”但这个规模相当于约 400 亿美元的云支出。即便如此，如果团队同时推进超导体、医疗模型和其他前沿项目，这个算力池仍然不够。
6. 临终 AI 展示了 outputmaxxing 如何进入公共政策
Midha 读 Stanford 生物信息学研究生时，加入了 Nigam Shah 的临终预测项目，因为在他的估计中，Stanford 的纵向数据集覆盖至少 1200 万名患者；他说，唯一更大的数据集来自 VA。据报道，当时 Medicare 和 Medicaid 超过 30% 的支出用于临终关怀。
实际问题从不确定性开始：终末期患者可能听到“6 个月到 6 年”，而医疗事故风险让医生不愿给出更明确的建议。患者于是“什么都试一遍”，把最后几周耗在医院里，而不是在知情状态下决定如何使用剩余时间。
Midha 的文化对比来自个人经历，而不只是技术判断。他在 Chennai 长大，看到死亡被视为人生的另一阶段，并通过庆祝性的游行来纪念；而在美国医疗体系中，不确定性最终默认指向延后死亡。
建模本身看起来并不难——“连回归模型都能用”，简单神经网络也可以，如今 RL 能做到更多。尚未解决的障碍是监管责任：错误临床诊断的责任无法从医生转移给 AI 系统。14 年过去，Midha 仍把患者赋权称为“我愿意为之死守到底的阵地”。
7. Outputmaxxing 意味着扩张而不丢失协同
Midha 将这套纪律称为“Outputmaxxing 部”；如果在更正式的场合，他可能会称之为 Alignment 部。向一个次优扩展方案投入 500 个或 50 万个 GB300，并不等于遵循 Bitter Lesson；Anthropic 决定统一采用 Transformer 架构，则说明聚焦如何释放速度。
组织规模扩大后，专业分工、接口和抽象层随之增加，每一层都会引入沟通损耗。他的工程问题是：系统能否在纵向和横向扩张的同时，避免层与层之间的有损传输。
他认为有两条出路：将协议标准化，直到协同接近无损；或者创造足够的新供给，让损耗变得不再重要。室温超导体是他的极端案例——实现无损能源传输，并且按他的说法，几年内就能拥有“飞行汽车”。
8. 兼容型硅片把创新推向真正的瓶颈
Swyx 问及非 NVIDIA 加速器。Midha 举出的反例是 Matrox：它采用 NVIDIA 的参考架构和物理 I/O 规格，因此芯片可以接入已经按 NVIDIA bring-up 方案建设的场地。
这一选择让 Matrox 可以专注于逻辑 die 和系统协同设计的改进。NVIDIA 发布的标准因此成为赋能基础设施，而不只是竞争壁垒，尤其是因为在 Midha 看来，NVIDIA 无法满足全部生产需求。
真正的依赖转向信任。一块芯片需要约 2 年才能完成流片；如果模型架构在产品上市前发生变化，设计就可能被搁置。Google 内部团队可以与 Gemini 或 PaLM 研究人员并肩协同设计，独立创始人却失去了这种优先可见性。
Midha 认为，Amp 与不同实验室的关系可以跨过这道信任边界。算力网格也可以与 SF Compute 等交易所双向连接，但短期供给已经极度紧张：他说，过去 6 周已经消灭了 Amp 原本预计年末会有的多余容量，而那些已经融资数十亿美元的创始人正发短信询问“15 个节点”。
9. 科学家创始人靠精准度和持续维护文化取胜
Midha 不认同投资人把人当作静态类别的习惯。在 Berkeley 等机构达到学科顶尖水平的研究者，都是“思想上的运动员”，已经练就了争取资源、赢得组织信任、面对技术判断、发表成果并将其推出去的能力。
CEO 还必须具备超越科学本身的对抗能力，能够处理招聘、团队、招募和客户等问题。他提到 LM Arena 的 Anastasios、Black Forest Labs 的 Robin、Mistral 的 Guillaume 和 Anthropic 的 Dario，作为顶尖研究能力可以迁移到公司领导力的例证。
精准度也能消解虚假的竞争。“世界模型”掩盖了多个不同问题，而“实时动作预测模型”则揭示了真正的工作内容。以这种分辨率开展工作的研究者往往会寻求合作，反倒是商业抽象制造了谁在获胜的简单故事。
Anthropic 的编码突围是 Midha 最后的样本。它可能受益于运气，但“运气偏爱有准备的头脑”（luck favors a prepared mind）：4 年来在稀缺、效率和安全信念下的准备，加上“21 次拒绝”，最终迫使编码进入 P0，成为通向 AGI 的路径。
因此，文化不是静态护城河，而是“一种非常脆弱、极易破碎的东西”（a very brittle, fragile thing），需要通过行动每天维护。Midha 表示，现金充裕、从未经历困难的实验室，可能永远无法确定自己要守护的阵地；在 Periodic Labs，他反对重新聘用一名因更高薪酬而离开、直到取得 SOTA 突破后才回归的人，因为这一决定本身就会重写文化。