摘要

核心判断：协同设计就是100倍。 分别优化硬件、系统软件和模型，3个2倍相乘只有8倍；跨越所有层级协同优化，结果“实际上是100倍”。后果是模型与芯片绑定：DeepSeek V3的专家形状为 Hopper 打造，V4则面向 Blackwell 和 Huawei 的芯片，因此“TPU运行 DeepSeek 很差”；按 OpenAI 模型的发展方向，使用 TPU 将是“一个糟糕的决定”，而 Anthropic 和 Google 用 GPU 训练也同理。
CUDA护城河已经不再是CUDA本身。 如今模型会写 kernel，“所有软件都会商品化”，护城河已经转移到生态：DeepSeek、Kimi、Alibaba 等中国开源模型都围绕 Nvidia GPU 协同设计，进而把下游所有推理 API 和 RL 公司拖到 Nvidia 阵营。如果 Google 开源真正优秀的模型，同样的引力会把生态拉向 TPU，这正是 Gemma 的意义。
这轮算力紧张由需求驱动，而且具有持续性。 今年新增20 GW，明年即使计入延期也会超过30 GW，但 Fable 5/Mythos 5的 TAM“绝不只是 Opus 的2倍”；而在 Opus 4.5发布后的7个多月里，全球算力并没有翻倍。Anthropic 在剔除股票薪酬后于Q2实现净利润盈利，Opus 4.8 API 的 token 利润率“超过80%”，因此即使高于市场价格租 GPU 仍能持续赚钱：“我想付什么价格，就能付什么价格。”
GW之间并不可互换。 Trainium 的每GW租金低于100亿美元，GPU为120亿–130亿美元，SpaceX–Google 的交易约为每GW250亿美元；托管价格已从每千瓦每月60美元涨到120–160美元，最高200美元。Google 通过调配电力，在1 GW机房中塞入约1.5 GW硬件；“给 Anthropic 的1 GW，客观上比给 OpenAI 的1 GW能带来更多收入。”
所有人都在做ASIC，但通用算力仍会存活。 各家实验室“根本不知道1年后会采用什么架构”，专用芯片可能在局部最优点上竞速，最终被淘汰。Google 同时运行3种不同架构的 TPU 项目，却仍以每GPU小时11美元向 xAI 租 GPU。Cerebras 的风险在于，资金会集中到最好的模型；如果前沿模型达到10T+参数、上下文达到百万 token，基于 SRAM 的芯片就装不下。
Jensen正在构建一个多极世界。 如果超大规模云厂商掌握全部算力，或3家封闭实验室掌握全部模型，“那将是一个他会很惨的世界”，所以他支持 neocloud 和 neolab，也乐见中国实验室发展——“把一堆诱饵撒进水里，最好的鱼会自行找到方向并活下来。”
太空算力是真趋势，但还没到现在。 到2030年，太空算力占比仍低于1%；但到2040年，它可能贡献“超过一半的新增算力”。仅 OpenAI 和 Anthropic 到2030年合计就将超过100 GW，2040年达到太瓦级，推理支出将占 GDP 的“多个百分点”。
他真正认可的熊市情景，与让他恼火的那一个并不相同。 Sonya 对杠杆的担忧确实成立：Crusoe 的一名客户刚要求暂停建设；如果模型产生的有用工作不再以快于算力增长的速度扩张，“潮水就会退去”。但“AI没有 ROI”让 Dylan 恼火，Shaun 否认模型进步则可以用一句话概括：“在能力维度上，这条线一直在向右上方走。”

精读

1. 从汽车旅馆脚凳到 Starcraft 宗师——一个偏执狂是如何炼成的

按他自己的说法，父母经营一家汽车旅馆和一家加油站，而他个子太矮，够不到香烟，于是学会根据进店的人提前把脚凳放到合适位置。“我训练的第一个神经网络”就是依据人们何时进入加油站、挑选哪种香烟，对其进行种族和外貌画像。小生意的经济学烙印一直没有离开他。
他的 Xbox 360 出现“红环死亡”，他拆机后把温度传感器短接，结果“打开了潘多拉魔盒”。12岁时，他已经在 Reddit 硬件论坛担任版主；即使还是青少年，他也因利润率问题为 Nvidia 力压众人偏爱的 AMD：“它用更小的芯片，在更低功耗下获得更好的性能。”
贯穿始终的是偏执式投入：他一度成为北美 Starcraft 2 天梯宗师。“痴迷是好事。”至于成绩？“足够应付亚洲父母。”

2. 2020年那场人生崩盘，催生了 SemiAnalysis

创业前是一连串打击：他让量化公司创造了远超1000万美元的无风险收入，却“被克扣了奖金”；祖母患上痴呆症，并在摔倒后去世；随后 COVID 爆发。一次网络争论又导致他被人肉曝光，他停更3周，问自己“我到底在做什么？为什么在乎这些？”，并在24岁生日当天启动了 SemiAnalysis 博客。
从2020年年中到2024年，他实际上一直无家可归：先是开着卡车、带着帐篷游历美国国家公园，同时阅读半导体教材；之后去了拉美；再后来每年参加供应链各环节的40多场会议。SPIE 光刻技术第一次让他彻底受挫——第一次只理解约10%，第二次一半，第三次75%：“供应链有些环节极其晦涩、极其深奥……即使到现在，我也没有全部理解。”
一个日本人用蹩脚英语讲出的往事成为行业传说：1980年代，世界上生产某种化学品的唯一工厂被烧毁，存储器价格随之翻了2倍或3倍。“和今天没有太大不同。”
如今 SemiAnalysis 约有90人，其中很大一部分是供应链技术专家和工程师，另一大部分来自对冲基金；内部争论——“这不重要”“但成本很重要”“这项技术太酷了”——都是自然发生的。至于1亿美元收入的传闻：“信息有多准确，这个说法就有多准确。”

3. InferenceX 跟踪模型成本每年下降60倍

静态时点的 benchmark 一发布就会过时：每周都有新模型，vLLM、SGLang、PyTorch 每周更新2次，“一个接一个、毫不停歇的突破”推动同等质量模型的成本每年下降约60倍。因此，InferenceX 每天自动运行，覆盖中美最好的开源模型和约15种芯片，使用来自 CoreWeave、Crusoe、Nebius、Oracle、Microsoft、Amazon、Google 和 OpenAI 捐赠的超过5000万美元硬件；等 TPU 和 Trainium 到位后，规模将超过1亿美元。
核心是找到 Pareto 最优前沿：供应商往往拿自己的最优点去对比竞争对手的非最优点——“如果我开一辆 Porsche 和赛车手开一辆赛车比赛，显然我会开得更慢”。InferenceX 会在曲线上的每个点，为最优配置开源容器。
他的总框架是“吞吐量—交互性曲线”：“硬件、基础设施、模型、应用层的大多数事情——一切都由这条曲线决定。”一刀切的推理时代正在结束：批处理工作负载拿到4倍成本节省，低延迟用户则为此支付4倍价格；Claude Code 的 fast mode 和 OpenAI 的 priority queue 都是按价格切分用户的例子。

4. 太空算力与每瓦智能账本

被问到多少推理会在太空完成时，他的判断是：2030年低于1%；但“20年后，我认为绝大多数算力都会进入太空”，到2040年，太空可能贡献“超过一半的新增算力”。如果能买股票，他会买 SpaceX IPO——“不是投资建议”，这句话他重复了2次。
背后的规模是：到2030年，“仅 OpenAI 和 Anthropic 合计就会超过100 GW”；到2040年达到太瓦级，推理市场规模超过石油，“占 GDP 的多个百分点”。
每瓦智能的提升约为40倍，相比之下成本方面是60倍。与人脑相比，我们仍相差多个数量级——“幸好这其实不重要”：给计算机供电远比给人供能容易，后者还要面对“疾病、食物偏好……睡眠”等问题。

5. 核心论点：协同设计把8倍变成100倍

Shaun 的框架是3个层次：硬件、kernel 级系统和模型，而且近期收益主要来自硬件；Dylan 直接反驳：“Shaun，我完全不同意。”在最优部署下，Hopper 到 Blackwell 让 DeepSeek 获得约30倍提升，但模型层带来的提升更大：3年前前沿模型还是 GPT-4，如今一个小型 Qwen 就强得多——总计27B参数，活跃参数约2B。
机制在于：DeepSeek V3 的专家形状针对 Hopper 优化，V4则针对 Blackwell 和 Huawei 的芯片优化。结果是，“TPU 客观上是一款非常出色的芯片……但 TPU 运行 DeepSeek 很差”。形状、网络 I/O、集合通信和注意力算术强度都在全栈协同优化，“很难把这些收益彼此拆开”。Google 也是如此：每一代 Gemini 都为对应一代 TPU 打造，迁移到旧硬件上“真的不怎么样”。
对于中国是否更擅长这套方法，他的答案是否定的：“西方不会告诉你他们在做什么。”GPT-4o 与 DeepSeek V3 的规模大致相同，前者略小，而且更早发布。
逐层优化是2倍×2倍×2倍，合计8倍；跨3层协同设计，“不再只是相乘得到8倍，而是实际上达到100倍”。一家可能与 Naveen Rao 有关的公司——也是 Sequoia 的一笔投资——代表了更长期的路线：同时设计芯片、软件抽象和模型，甚至尝试将模拟计算与能量模型结合。“大概率不会成功，但这很令人兴奋……肯定不会很快成功。”

6. CUDA护城河已经不再是CUDA本身

Shaun 观察到，模型公司已经不再害怕其他芯片：“Claude 和 Codex 已经很擅长完成大量优化工作”，而且市场上只有几十家模型公司，不是 CUDA 护城河理论假设的几千家。Dylan 也承认：“CUDA 护城河和软件护城河至少部分已经脱钩……模型非常擅长写代码，所有软件都会商品化。”
剩下的是生态引力：DeepSeek、Kimi、可能还有 Zhipu、Alibaba、可能还有 Tencent，以及 Xiaomi，都围绕 GPU 协同设计开源模型，于是下游所有参与者——推理 API 提供商、RL 定制公司——最后都会得出结论：“既然生态都在用 Nvidia，那我大概也得用 Nvidia。”如果 Google 开源真正优秀的模型，引力就会反向转向 TPU——Gemma 正是为此存在。
大型实验室根本不需要开源软件栈：OpenAI 很早以前就 fork 了 PyTorch。前沿竞争的逻辑是：“我会选择最好的硬件，并把模型和基础设施软件从头到尾协同设计；然后让 AI 帮我写出所有这些软件。”

7. Nvidia 与 TPU 双赢——真正的风险是局部最优

他拒绝二选一：2年后，Google 每年将生产超过1000万颗 TPU，对应每年1000亿美元以上的 TPU 规模；Nvidia 则会出货数千万颗 GPU，规模超过5000亿美元——“这不是具体估算”。他可以一本正经地论证 GPU 远胜 TPU，也可以论证 TPU 远胜 GPU；最终答案仍是协同设计：按 OpenAI 模型的发展方向，“使用 TPU 将是一个糟糕的决定”，而 Anthropic 和 Google 用 GPU 训练也可能同样糟糕。
具体差异包括：OpenAI 的模型稀疏得多，Anthropic 的模型则是“更稀疏、但更稠密”；矩阵乘法单元的尺寸不同；NVLink 交换机连接72颗 GPU，而 Google 无交换机的 ICI 以高带宽连接8000颗芯片，数据会经过其他芯片。Google 同时运行3个独立的 TPU 设计项目，分别由 Broadcom、MediaTek 和一家未披露的公司负责，架构确实各不相同。
最终，每家公司都会部署数十亿到数百亿颗自研 ASIC，Google 每年的规模将达到数千亿美元；但通用算力仍会存在，因为实验室“根本不知道1年后会采用什么架构”。专用芯片可能在局部最优点上竞速，却因一次注意力机制突破而被淘汰。即便 Google 也会以每GPU小时11美元向 xAI 租用 GPU；Google 的部分非 Gemini 项目——药物发现或 Waymo，“我不说是哪一个”——主要运行在 GPU 上。
对 Cerebras，他认为这家公司“非常创新”，SemiAnalysis 几乎“只用” fast mode；但风险在于，fast mode 对最好的模型最重要，收入也会集中到这些模型上——Fable 5 和 Mythos 5 发布当天，尽管价格更高，仍有大量用户切换过去。若未来出现10T+参数、百万 token 上下文的模型，Cerebras 和 Groq 这样的 SRAM 芯片就无法容纳。至于 token 数量而非收入：“谁在乎 token 的数量？关键是美元。”这就是他用 F-150 对比 Camry 的观点。

8. 物理瓶颈：古老的存储单元、1W/mm²墙与柴油发动机

从技术而非供应链角度看，NAND 单元已有约25年历史，DRAM 约40年；HBM 的进步主要只是堆叠更多层、提高速度。未来几年会出现的新路径是把存储器直接堆叠到计算裸片上，“让带宽爆炸式增长”。
功率密度过去20年一直被锁在约1瓦/mm²：今天芯片功耗达到1400W，Rubin 达到2000W，Rubin Ultra 约4000W，全部只是继续增加硅面积。当前正在研发的突破方式是打破这面墙，让单颗芯片使用更少硅，但代价是极其困难的散热和电气干扰工程。共封装光学不是“做不做”的问题，而是“什么时候做”的问题，争论范围横跨“27年、28年、29年、2030年”。
能源问题也有不性感但有效的解法：把美国能够生产的数百万台柴油卡车发动机改成燃气发动机，让电动机反向运行充当发电机，再从汽车修理店调机械师来维护这些站点。Shaun 提出的、更深层的西方问题得到 Dylan 认可：“既然你可以给广告做广告赚钱，为什么还要去硬件行业工作？”

9. 算力紧张是真实存在的——而 Anthropic 能支付高于市场的价格

供给正在复合增长：今年20 GW，明年超过30 GW，且已计入延期；但需求增长更快。Mythos 5/Fable 5 的 TAM“绝不只是 Opus 的2倍”，而在 Opus 4.5发布后的7到8个月里，全球算力并没有翻倍。
其下方的经济学是：Anthropic 在剔除股票薪酬后于Q2实现净利润盈利，可能到Q3连同股票薪酬也能盈利；Opus 4.8 API 的 token 利润率“超过80%”。在75%毛利率下，即使算力成本翻倍仍有50%毛利，因此“我租来的每一颗 GPU，都能立刻拿去卖 token，并保持正利润……我想付什么价格，就能付什么价格。”Anthropic 甚至以高于市场的价格从 SpaceX 买过 GPU，但仍低于 Google 后来支付的价格，因为 Google 签约更早。
Sonya 的反驳值得保留：所有人的杠杆都押在“必须建出来”这件事上，而 Crusoe 已公开表示，一名客户要求暂停某项建设；“高杠杆、高增长作为投资者让我非常紧张。”Dylan 先调侃她——少量股权就有巨大上行空间，“你又不是债权投资人……去上私募股权学院”——但最终承认了核心问题：如果模型产生的经济价值不再以快于算力供给增长的速度扩张，“潮水就会退去”。
他的基准情景是潮水不会退：模型进步速度比6个月前更快，形成一个“伪递归自我改进循环”——模型编写基础设施，让下一代模型更早上线。资本才是约束条件：即便 SpaceX 约1000亿美元股票将在9个月后解禁，Google 仍然融资；Larry Page 当年以100亿美元估值投入10亿美元，“这是有史以来最伟大的投资之一。干得好，Larry。”Meta 宣布融资后股价却下跌。至于那个“让我非常恼火”的观点——“AI没有 ROI”、模型进步已经停滞——他的回应是：“兄弟，能力这条线一直在向右上方走……看看新 benchmark，它们正在飙升。”

10. GW之间并不可互换——Jensen想要一个多极世界

价格已经在区分不同算力：Trainium 每GW租金低于100亿美元，GPU历史价格为每GW120亿–130亿美元；SpaceX–Google 的交易“好像是每GW25、甚至是疯狂得难以置信的数十亿美元”——具体约为250亿美元/GW，也就是每兆瓦每年2500万美元。托管价格已从每千瓦每月60美元升至120–160美元，最高200美元——适用于信用较弱但设施优质的租户；印度最低约80美元。在算力层面，“给 Anthropic 的1 GW，客观上比给 OpenAI 的1 GW能带来更多收入”；两家公司都能卖掉手里的全部算力，尤其是在 Codex 5.5 发布之后。
运营能力会进一步放大差异：Google 通过根据工作负载知识调配电力，能把约1.5 GW硬件塞进1 GW数据中心；它还会签下2 GW的电力合同，只允许每年3天例外。Shaun 补充说，SpaceX 的 Starlink 网络能力和 Tesla 的电力管理经验，“可能是很多人分析时严重忽略的部分”；SpaceX 卖的是“现在就能运行的算力，买就行”，而 Google 卖的是提前6个月、停留在纸面上的算力，并用它为自己的采购订单融资。
Neocloud 之所以存在，源于他2023年的《Amazon Cloud Crisis》报告：超大规模云厂商的优势——Nitro NIC、租户隔离、定制 SSD、定制网络——原本是为按时间切片的 CPU 云设计的；当 AI 客户改为通过长期合同租用整机架后，这些优势反而变得中性甚至有害。Microsoft 的数据中心团队在需求预测翻倍时“摔得很惨”。激励机制也不同：超大规模云厂商里没人会因更快建设而变富，而 Crusoe 的“高杠杆股权所有者”会。
按 Dylan 的说法，Jensen 的棋局是：“Jensen 绝对痛恨一个所有超大规模云厂商都掌握全部权力的世界。”如果世界只剩 OpenAI、Anthropic 和 Google 的模型，或只剩超大规模云厂商掌握算力，“那将是一个他会很惨的世界”。因此，他为 neocloud 提供支持、投资 neolab，并支持中国实验室——因为5年后 Crusoe 和 CoreWeave 仍然存在，会削弱 TPU 和 Trainium。“把一堆诱饵撒进水里，最好的鱼会自行找到方向并活下来。”早期回报已经出现：Thinking Machines 的 Tinker 上线约6个月不到，ARR已达到几亿美元。

两名哈佛辍学生融资8亿美元，向 NVIDIA 发起挑战 Pershing Square Challenge 2026 决赛选手谈 MSA Safety：隐藏的高质量复利股？$MSA