摘要

Nvidia–Intel 的联手是一场战略背书，既可能降低 Intel 的资本成本，也可能重绘 PC 与数据中心版图。 在 SoftBank 投入20亿美元、美国政府投入100亿美元后，Nvidia 又承诺投入50亿美元，但 Dylan Patel 仍认为 Intel 需要约500亿美元；Jensen Huang 先带来半导体行业的“巴菲特效应”，再为更大规模融资铺路。Guido Appenzeller 认为 x86 与 Nvidia 的整合产品极具吸引力，并警告称，当“两大宿敌突然联手”时，AMD 和 Arm 面对的是最坏的消息。
Huawei 在技术上具备可信度，但制造规模——尤其是高带宽内存——仍是决定成败的承重墙。 Huawei 在2020年将7 nm Ascend AI 芯片推向市场，后来通过中间商获得约290万颗 TSMC 制造的芯片，如今又提出将 prefill 与 decode 分开的产品路线，并配套定制 HBM。中国或许能生产大量7 nm 逻辑芯片，甚至利用现有设备做到5 nm，但 Patel 强调，设计不等于生产：HBM3 良率、刻蚀产能，以及从库存储备转向国产规模化生产，仍未解决。
中国拒绝 Nvidia 芯片，同时是产业政策、一次高风险产能押注，也可能成为谈判筹码。 ByteDance 和其他模型厂商仍偏好 Nvidia，因为它“好得多”，但北京可以强制采用国产芯片，同时让 Huawei 发布雄心勃勃的路线图；Patel 称这一招是“1万 IQ”，华盛顿“下跳棋，而他们在下国际象棋”。如果国产供应无法足够快地爬坡，中国可能暂时回撤，届时必须在主权与以接近美国的规模部署“超级强大的 AI”之间做选择。
Nvidia 的短期看多逻辑，建立在 AI 资本开支显著高于华尔街模型之上，而不是进一步提升市场份额。 银行共识预计6家超大规模云厂商明年资本开支约3600亿美元；Patel 对数据中心和供应链的研究则指向4500亿至5000亿美元，其中 Nvidia 大体随市场增长、同时守住份额。仅 OpenAI 就与 Oracle 签下超过3000亿美元的合同，行业看多逻辑最终变成“每年在 AI 基础设施上投入数万亿美元”——但 Patel 拒绝预测5年以后，因为“第5年基本就是 YOLO”。
Nvidia 的护城河，在于它反复愿意押注库存、临近量产时重做设计，并在竞争对手完成修改前先交付可用芯片。 据称 Jensen 在 Microsoft 正式授予 Xbox 业务前就下了量产订单，押注不可取消的产能时甚至超过客户自身计划，并在投片前仅数月为 Volta 加入 tensor cores。Nvidia 往往在 A0 阶段就出货，而 Intel 有一款数据中心处理器走到了 E2——约第15次修改；这体现了“我讨厌电子表格，我就是知道”和按季度谨慎决策之间的文化差异。
Amazon 和 Oracle 即使没有最好的加速器，也能获得 AI 云份额，因为带电产能与愿意动用资产负债表的交易对手都很稀缺。 Patel 预计，随着 Anthropic、Trainium 和 GPU 部署填满 Amazon 的闲置产能，AWS 收入增速将触底并重新超过20%；Trainium 仍然“非常难用”，但服务少数高流量模型的实验室可以对其进行手工优化。Oracle 的硬件中立工程能力，以及为 OpenAI 需求提供承保的意愿，使其成为更大胆的交易对手，不过 OpenAI 在2028–29年能否每年支付超过800亿美元，仍是核心风险。
GB200 的经济性取决于工作负载，而基础设施能力不足的团队可能因可靠性问题损失纸面性能。 相比 H100 约1.6倍的总拥有成本，GB200 在部分训练场景中可能只有约2倍性能，但在 DeepSeek 推理中，每颗 GPU 的性能可能超过6–7倍；问题在于，如今一次故障会发生在包含72颗 GPU 的 NVLink 域内。因此，一些云厂商对64颗 GPU 承诺约99%的可用性，对完整72颗 GPU 却只有95%；“故障的爆炸半径”与基准测试速度同样重要。
GPU 市场再次趋紧，而 Nvidia 下一个战略难题变成：每年潜在的2500亿美元自由现金流该怎么用。 Patel 在同一句话中还使用了一个含义不明的“2亿美元”数字。随着推理模型推高需求，几家大型 neocloud 的 Hopper 产能已经售罄；Blackwell 的部署耗时超过 Hopper，价格数月前已触底并开始缓慢上行——少量分配仍容易获得，但大规模即时集群并不容易。Patel 偏好的资金出口是数据中心和电力，即 GPU 增长的瓶颈，但即使如此，也未必能消化这些现金而不把 Nvidia 变成一家文化完全不同的公司。

精读

1. Nvidia 对 Intel 的投资，将竞争转化为战略依赖

Patel 开场的反应带有金融戏剧色彩：Nvidia 宣布投资50亿美元于 Intel，Intel 股价上涨约30%，按他的说法，这笔持股已经产生了“10亿美元利润”。更重要的是，一位潜在的大客户正在投入资本并承诺产品路线图，让 Intel 在重返公开债务或股权市场前就获得了验证。
产品逻辑异常强。Intel 会把自己的一个 chiplet 与 Nvidia 的一个 chiplet 并排封装，改写 Intel 因芯片组业务遭遇反垄断诉讼、并向 Nvidia 支付和解金的历史。Patel 称这一转折“很有诗意”：Intel“某种程度上正爬向 Nvidia”，但一台完全整合 Nvidia 图形能力的 x86 笔记本，可能是市场上最好的设备。
已宣布的支票相对于 Intel 的需求仍然很小：Nvidia 投入50亿美元，SoftBank 投入20亿美元，美国政府投入100亿美元，而 Patel 此前估计 Intel 需要立即获得约500亿美元。更多战略投资者——他提出 Apple 作为一种可能——可能在 Intel 扩充资产负债表之前，先制造“沃伦·巴菲特买入一只股票”般的效应。
Appenzeller 从客户角度给出的评价既兴奋又残酷。Intel 可以重置其缺乏竞争力的内部图形和 AI 项目，包括讨论中提到的“Gaudi F4”；AMD 如今要面对两大历史宿敌联手，Arm 则失去了“任何想避开 Intel 的客户都会自然选择它作为伙伴”的卖点。“牌局被重新洗牌了。”

2. Huawei 在制裁来临时已是一家接近前沿的芯片公司

Patel 要听众从2020年开始回顾，而不是从当前路线图开始。Huawei 将 Ascend 加速器提交给独立的公开基准测试，成为第一家将7 nm AI 芯片推向市场的公司；在禁令切断完整的海外供应链之前，它与 Nvidia 的技术差距并不大。Huawei 的 TSMC 订单量还曾超过 Apple。
Trump 政府的限制，恰好在 Huawei 已具备挑战市场的要素时切断了这条供应链。Nvidia 加速扩张，Huawei 则围绕 SMIC 重建供应链、寻求韩国内存，同时通过空壳公司下单购买 TSMC 芯片。Huawei 已经用有限的原始 Ascend 库存训练了大量模型。
Patel 称，到2024年末，这条中间商渠道已在约5亿美元订单的基础上，产出约290万颗 TSMC 制造的芯片，随后被当局叫停。他提到有报道称 TSMC 可能面临10亿美元的美国罚款，但明确表示不确定罚款是否已经开出；关键是，公开可见的 Ascend 部署当时还没有消耗完这批库存。
2025年的 H20 禁令又移除了 Nvidia 在中国超过200亿美元的收入，SemiAnalysis 曾对此作出估算。Nvidia 注销库存，后来获准转售这些芯片，也面临更艰难的选择：重启一条可能再次被切断的供应链，还是任由 Huawei 和 Cambricon 吞下一个当前仍使用海外晶圆和内存的“国产”市场。

3. 中国设计前沿架构的速度，快于制造它的速度

Patel 对设备规则的解读，比其公开标签更宽松。尽管华盛顿称限制范围延伸至14 nm，他认为真正被禁止的设备主要用于7 nm 以下工艺。因此，中国应能生产大量7 nm AI 芯片，也可能利用现有设备把工艺拉到5 nm，只是经济性会更差。
Huawei 的路线图将推理拆成专用产品：一颗芯片用于推荐系统和 prefill，另一颗用于 decode。Nvidia 和多家初创公司也在进行同样的架构拆分，因此 Huawei 真正令人意外的并非拆分本身，而是为 decode 定制 HBM——Nvidia 和 AMD 当时也只是在准备于次年采用类似方案。
进口轨迹仍然说明瓶颈所在。此前中国将30–40%的设备进口用于囤积光刻设备，历史上晶圆厂设备组合中光刻设备约占17–18%，EUV 时代约占25%；如今刻蚀设备进口正在激增。HBM 需要先在每一层上刻蚀硅通孔，再将12层或16层芯片堆叠起来。
Huawei 曾经采样 HBM2，但据 Patel 所述，到当时还没有开始量产数年前就已推出的 HBM3。设备可得性和良率爬坡都很重要：中国追赶的速度可以快于发明这项技术所需的时间，因为工艺已经存在，但几个月的进口无法复制韩国多年积累的产能。Torenberg 将最终结果概括为“只是时间问题，不是会不会的问题”；Patel 自己强调的则是，制造产能和良率仍是瓶颈。

4. 北京禁用 Nvidia，制造出危险的过渡缺口

中国可以先拒绝 Nvidia，因为它正在把2024年的库存转化为加速器。真正困难的阶段，会出现在这些芯片耗尽，而国产逻辑芯片和 HBM 尚未达到量产时。Patel 预计中国最终会爬坡，但“会再花一点时间”，这可能造成一段北京回撤并放松政策的窗口期。
商业激励与产业政策背道而驰。ByteDance 被形容为“苦苦哀求 Nvidia 芯片”：它使用部分 Huawei 和 Cambricon 硬件，但希望用 Nvidia 训练最好的模型，并高效部署推理。政府可以强制采购国产芯片，但这并不意味着 Nvidia 已经失去竞争力。
走私和转出口仍以低到中低规模持续，但无法填补全国部署缺口。中国最终必须决定，在多大程度上优先建设内部供应链、又要如何保持强大 AI 的发展速度；否则，它部署的“AI 芯片数量会少得多”，落后于美国。

5. Huawei 越是想要 Nvidia，越可能夸大自身实力

Patel 的谈判解读极具对抗性：如果中国想要更好的美国芯片，就应该宣传国产自给自足，公布尽可能“疯狂”的多年期 Huawei 路线图，并宣布禁用 Nvidia。美国供应商随后会警告官员，一个不可替代的市场正在消失，并游说放宽出口限制。
他将这套打法称为“1万 IQ”——“我们在下跳棋，而他们在下国际象棋”——同时承认 Huawei 的许多架构是真实存在的。夸大之处主要在于对制造确定性的描述：路线图把希望中的产能和良率，当成了已经存在的现实。
因此，出口政策不能简化为全部出售或全部禁售。Patel 建议比较中国在各性能层级上能够实现的产量，再决定哪些接近或略高于该水平的美国产品可以出售。AI 的潜在终端市场远大于半导体设备，因此只追求当前芯片收入是不够的。

6. Jensen 真正担心的中国以外竞争者，是 Huawei

Patel 认真对待 Jensen 对 Huawei“强大”的描述。在制裁之前，Huawei 的 TSMC 订单量和多个市场的手机份额都超过 Apple，随后又在没有西方供应链的情况下开始恢复。基于这段历史，对 Huawei 的担心超过 AMD，并不只是游说话术。
Jensen 最有力的论点，是让 Huawei 雄心勃勃的路线图变成地缘政治现实：说服政策制定者相信制造产能不是约束，相信 Huawei 将拿下中国、中东、东南亚和南亚、欧洲以及拉丁美洲。Patel 的反驳很窄，却很关键——产能和良率是真实约束，即便只是暂时的。
另一种策略是“日本化”中国：将其隔离到硬件和软件都针对国内市场高度优化，像 Patel 提到的那些不同寻常的日本 PC 一样，把全球平台留给美国公司。但隔离也可能迫使中国走上一条更优路径，而西方的硬件—软件协同设计则固化在局部最优。“我不知道这是否准确，但这是一个有意思的说法。”

7. Nvidia 可量化的看多逻辑，是超大规模云厂商4500亿至5000亿美元资本开支

银行共识预计 Microsoft、CoreWeave、Amazon、Google、Oracle 和 Meta 明年资本开支约3600亿美元。Patel 基于逐个数据中心、组件和供应链建立的模型，得出的数字约为4500亿至5000亿美元。Nvidia 已经占据主导地位，无法有意义地继续提升份额；盈利杠杆在于守住份额，同时让基础设施总规模以快于共识的速度扩张。
Oracle 的合同说明了需求规模。OpenAI 承诺在数年内支付超过3000亿美元，年支出升至超过800亿至900亿美元，尽管它目前没有现金完成支付。OpenAI 的 ARR 已达到约200亿美元；对下一年退出时 ARR 的估计介于350亿美元和450亿美元之间，而在实现盈利前，预计年度现金消耗约150亿至250亿美元，盈利目标定在2029年。
将 OpenAI、Anthropic 和其他实验室的类似收入与融资叠加起来，5000亿美元的超大规模云资本开支就变得可信。Nvidia 的最大化论点是：AI 基础设施每年将达到“数万亿美元”，GPU 将成为商业代理、编程和消费级陪伴服务的中介。
当被追问 Nvidia 的最终天花板时，Patel 拒绝给出虚假的精确度。如果 AI 反复改进 AI，价值创造可能达到数百万亿美元，但供应链只能看到未来3到4年：“第5年基本就是 YOLO。”白领生产率是否翻倍、被取代，或依赖持续不断的 token 流，超出了可投资的5年预测范围。

8. Nvidia 通过反复押注公司生死，构筑了护城河

Nvidia 早期多次失败，也反复作出攸关存亡的承诺。一位行业老兵告诉 Patel，Jensen 在 Microsoft 正式授予合同前就下令生产 Xbox——这个故事可能比传说本身更复杂——但订单确实先下了。Nvidia 第一颗成功芯片同样必须在公司唯一负担得起的掩模组上一次成功，否则公司就会耗尽现金。
加密货币繁荣期间，Nvidia 说服供应商相信需求来自持久的游戏、可视化和数据中心增长，促使它们建设产能。加密货币崩盘后，Nvidia 吸收库存减记，供应商则留下空置产线。AMD 的挖矿芯片效率更高，却没有激进扩大产量；这是合理的风险政策，但也放弃了上行空间。
这种行为延续到了超大规模云厂商。Nvidia 预订了高于 Microsoft 内部计划的不可取消、不可退回产能，随后 Microsoft 将自己的计划上调至接近 Nvidia 的数字。Patel 用 Jensen 对 CFO 说过的话概括这位创始人的决策体系：“我讨厌电子表格。我不看它们。我就是知道。”
Jensen 的弹球比喻解释了这种时间跨度：“你之所以赢，是为了能够再玩一局。”胜利为下一代产品提供资金，而不是服务于一份固定的15年计划。创始人的记忆在这里很重要——他记得 Nvidia 曾几乎破产，却仍然认为公司必须继续承担类似风险，而不是围绕可预测的华尔街季度优化。

9. 首版硅片与临门改设计，将愿景变成市场份额

Nvidia 长期稳定的工程组织里，既有有远见的架构师，也有愿意说“我们现在就得把这颗硅片做出来”的执行者。Patel 形容其中一位私下里的工程负责人几乎像传说人物，另一位同事则以砍掉技术人员喜爱的功能闻名，把这些功能留到下一颗芯片，而不是拖延出货。
可量化的优势在于 stepping。Nvidia 经常交付 A0 硅片，偶尔交付 A1；Intel 有一款数据中心处理器走到了 E2，约为第15次修改。每次新的 stepping 可能耗费约1个季度，因此验证质量会从工程卫生问题变成上市武器。Patel 回忆说，Intel 曾公开羡慕 Nvidia“始终能在第一次修改时交付”。
Nvidia 还会先开始晶体管层生产，在必要时于最终金属布线前暂停，等验证完成后再进入量产。仿真、验证与有计划地保留在制品相结合，使 Nvidia 能在竞争对手完成掩模修改前作出响应。
Volta 是这类押注的典型：Nvidia 观察 P100 Pascal 上的 AI 工作负载后，仅在投片前数月加入 tensor cores。如果没有这次临时改动，AI 加速器市场可能会被别人拿走。同样重要的是，其软件组织足够快地交付驱动和基础设施，使首版硬件一出厂就能立即发挥作用。

10. Nvidia 的资产负债表正在变成战略问题

Patel 提到 Nvidia 每年约2500亿美元的自由现金流；同一句话中还出现了一个含义不明的“2亿美元”数字。监管机构不允许 Nvidia 收购 Arm，即使是50亿美元的 Intel 投资也需要审查，而没有明显的收购标的能够在不引发反垄断或整合问题的情况下吸收数千亿美元。
对 CoreWeave、模型实验室和其他 neocloud 的小额投资有助于分散买家，但仍只是“小菜一碟”。Nvidia 可以为 Anthropic、xAI 或 OpenAI 的整轮融资提供资金，但挑选赢家会让所有未被选中的客户感到不安，并强化它们采用 AMD、TPU、初创公司或自研芯片的动机。
更干净的用法，是扩张互补环节：数据中心和电力。Nvidia 可以为数据中心和能源基础设施提供资金，却不亲自运营云层，从而移除 GPU 增长的物理瓶颈，同时让日益强大的云竞争者负责出租算力。
未解决的风险在于文化。浇筑混凝土和建设电力基础设施，需要的是与设计加速计算不同的人才；无休止的回购则会让人把 Nvidia 与 Tim Cook 治下的 Apple 相比——供应链执行出色，但在 Patel 看来，近10年几乎没有转型性投资。“没有什么东西需要3000亿美元资本”，却又能提供明显回报。

11. Amazon 的闲置电力可能扭转其 AI 云放缓

Patel 在2023年第一季度提出的“Amazon 的云危机”认为，AWS 针对的是上一个时代：弹性横向扩展网络、定制 CPU 和降本，而不是在绝对成本上升时仍追求每美元性能最大化的紧耦合 AI 系统。Neocloud 会把这一优势商品化，AWS 随后成为表现最弱的超大规模云厂商。
他最新的判断是转向，而不是撤回此前的结构性批评。随着 Anthropic、Trainium 和 Nvidia 产能开始贡献收入，AWS 同比增速应在当前季度触底，并重新超过20%。在当下的短缺环境中，有带电空间可以填满，可能比拥有行业最干净的软件或加速器更重要。
Amazon 历来运营密度异常高的设施——当同行使用12 kW 机柜时，它使用约40 kW——其对效率的痴迷让数据大厅感觉“像一片沼泽”，又热又潮。改造网络和冷却不如专门建设基础设施优雅，但相对于 GPU 成本很低；Patel 提到，有些2 GW 场址已经配备电力、变压器、湿式冷却器和干式冷却器。
这次改造创造了组件赢家。SemiAnalysis 曾基于 Amazon 的连接订单等因素，将 Astera Labs 的目标价设在约90美元；Patel 指出，该股次月已升至约250美元。他的意思并不是 Amazon 拥有更优架构，而是只要新增网络和冷却硬件能让 GPU 机柜出租出去，这些成本就无关紧要。

12. Anthropic 能容忍 Trainium，因为它服务的是狭窄工作负载

Trainium 仍然“非常难用”，一家主持人投资组合公司的说法是，2023年夏天它几乎不可能使用。Patel 没有声称开发体验已经变好。他更窄的论点是，即使在 Nvidia 上，生产级推理也需要手写 kernel、底层优化，有时还要做类似汇编的工作。
TPU 和 Trainium 使用更大、更简单的核心，通用功能更少；据称一些 Anthropic 工程师在深入到底层后反而更喜欢这种设计。普通客户仍然会遇到困难，但 Anthropic 只需要优化少数几个模型，不必支持全世界的架构。
Patel 有意给出的粗略例子，是主要服务 Sonnet——“Sonnet 3.5，或者等等，4.5，不管现在是哪一个”——同时把其他模型留在 GPU 或 TPU 上。如果 Anthropic 的 ARR 达到数百亿美元，而一个模型承载大部分流量，那么即使 Trainium 难用，为约150亿美元的 Trainium 产能投入大量优化成本也具备经济合理性。

13. Oracle 通过承保 Microsoft 不愿承保的需求赢得订单

Oracle 将庞大资产负债表与几乎不带硬件教条的态度结合起来。它可以部署 Arista Ethernet、白盒网络、Nvidia InfiniBand 或 Spectrum-X，并由强大的网络和软件团队提供支持。这种灵活性使它成为承接 OpenAI 极端需求的天然交易对手。
Microsoft 的独家权变成了优先购买权：OpenAI 可以提出每年800亿美元、或多年3000亿美元的需求，而 Microsoft 可以拒绝。Oracle 接受这场押注，是因为 OpenAI 没有资产负债表，而 Oracle 有；Microsoft 的谨慎可以辩护，但也因此留下了机会。
SemiAnalysis 通过许可证、卫星图像、电力设备、冷却器、变压器和发电机，绘制 Oracle 已签约和潜在场址。按照 GB200 时代的简化假设——一颗 GPU 约1000瓦，整套系统约2000瓦，每颗 GPU 的全包加速器资本开支约5万美元——它估算每兆瓦每年约1200万美元的租赁收入，再将每个场址每季度通电的进度纳入 Oracle 预测。
这套方法与 Oracle 公布的2025–27年收入路径以及2028年的大部分表现高度吻合；未被观察到的2028–29年产能造成了偏差。OpenAI 能否每年支付超过800亿美元仍不确定，但 Oracle 只会在出租前1到2个季度购买 GPU。它更早作出的承诺主要是数据中心产能，因此搁浅资产风险有限，后续购买 GPU 则可以通过债务融资。

14. xAI 的优势，是把监管当成另一项工程约束

AI 基础设施已经从百分比增长进入数量级增长。一个超过100 MW、拥有10万颗 GPU 的集群曾经非同寻常；Patel 的团队如今追踪的这类集群约有10个，看到另一个200 MW场址时甚至只会发一个打哈欠的表情。“只有做到 GW 级别才值得兴奋。”
Elon Musk 在 Memphis 的第一个项目仍然突出：xAI 在2024年2月前后买下一座工厂，6个月内便用约10万颗 GPU 训练模型。它部署了大规模液冷、移动变电站、发电机和 CAT 涡轮机，还接入附近的天然气管道——在传统运营商还在寻找另一个场址时，xAI 已经把资源集中到位。
Colossus 2 在接近 GW 的规模上重复了这一做法。Memphis 的扩张受到政治和环境阻力后，xAI 又买下约10英里外的另一座设施，将其建在 Mississippi 州边界附近，并在 Mississippi 收购了一座电厂，因为那里的监管不同。Patel 的第一性原理总结是：别人说那里建不了电力设施，Musk 说，“那就跨过边界。”

15. GB200 奖励正确的工作负载，也惩罚薄弱的运营能力

SemiAnalysis 估算 GB200 的总拥有成本约为 H100 的1.6倍。如果工作负载只能获得2倍性能，升级值得做，但优势有限；对于 DeepSeek 推理，Patel 提到每颗 GPU 的性能超过6–7倍，并且仍在持续优化，这会把60%的成本溢价转化为约3–4倍的每美元性能。
B200 在运营上更简单：传统服务器内放置8颗 GPU，上行空间较小，但可靠性更熟悉。GB200 NVL72 建立了一个72颗 GPU 的统一域，推理收益大得多，但热量、新颖性和系统复杂度让它更难伺候。一颗 GPU 故障的“爆炸半径”远大于8 GPU 服务器中的一次故障。
具备复杂基础设施能力的实验室，会将高优先级任务放在64颗 GPU 上，将低优先级任务放在8颗 GPU 上；一颗 GPU 故障时，可以借用健康 GPU，并推迟实体维修。云厂商无法随意把这些备用 GPU 租给其他客户，因为 NVLink 域必须保持一致。
SLA 如今体现了这种折中：Patel 的示意案例是，64颗 GPU 的正常运行时间约为99%，完整72颗 GPU 则约为95%，具体取决于供应商。大型实验室可以围绕这一点排程；小公司则可能因 GPU 闲置、停机，以及无法混合高优先级和低优先级工作负载，损失理论上的性能收益。

16. Rubin CPX 将 prefill 变成独立的芯片市场

现代训练越来越多地由类似推理的强化学习生成组成，而推理本身又分为 prefill 和 decode。Prefill 处理提示词并构建 KV cache；decode 则自回归地生成 token。两者对硬件的压力差异足够大，领先实验室已经将它们放在不同的 GPU 池中。
Chunked prefill 可以填补未使用的批处理容量，但会拖慢并发 decode。Disaggregation 让运营商能够分别对长输入和长输出流量自动扩容，同时保证首 token 时间——这是用户最能感知的延迟。一位主持人说，“反正我也读不了那么快”，但用户仍会放弃那些在开始输出前迟疑的产品。
Decode 会反复移动模型参数和用户专属的 KV cache，因此内存带宽是核心。一个64,000 token 的 prefill 请求则包含足够多的计算，可以单独占满一颗加速器；相比快速加载参数，原始 FLOPS 更有价值。
Nvidia 的 Rubin CPX 专门针对计算密集型 prefill 阶段，并去掉昂贵的 HBM；Patel 称 HBM 占 GPU 成本的一半以上。如果 Nvidia 将相近的毛利率传导给客户，CPX 就能显著降低长上下文推理的成本，而不必迫使数据中心运营商重新设计周边设施。

17. 大型 GPU 买家重新陷入趋紧的现货市场

Patel 的 GPU 采购原则刻意令人难忘：“买 GPU 的方式，就像买可卡因。”买家会联系或私信多个供应商——“喂，你们有多少？什么价格？”——而不是进行一场干净利落的企业 RFP。他的团队与约30家 neocloud 保持 Slack 联系，并实时传递客户需求。
几家大型 neocloud 的 Hopper 已经售罄，而 Blackwell 产能仍要等数月。推理模型和收入增长速度超过了供给；与此同时，Blackwell 的可靠性和部署学习曲线，使可用产能相对于 Hopper 延后，后者在1到2个月内就能安装并产生收入。
Hopper 价格大约在3到6个月前触底，随后开始缓慢上涨。Patel 没有断言市场回到了2023–24年的短缺状态：少量 GPU 容易获得，但能够立即交付的大型集群很难找到。产能再次先于正式价目表成为关键。

价值与动量 General Catalyst CEO Hemant Taneja：将 GC 管理资产规模扩至400亿美元的经验