第003期——深度拆解 NVIDIA Vera Rubin VR NVL72（AI供应链）｜Jordan Nanos、Myron Xie、Copper Wei（Wega）、Howie

摘要

• Rubin 标称的50 petaflops稀疏FP4，是团队认为这次真正可用、而不只是「Jensen math」的第一个稀疏算力数字。 Howie解释，与结构化稀疏不同——后者要求「把每隔一个数据点……强制变成0」，在FP4下「基本完全没被用起来」，因为模型无法收敛——Transformer Engine中的新型自适应压缩引擎会动态压缩数据流：实际以35 PF的稠密算力处理，最高可实现约50 PF有效算力（Blackwell Ultra为15 PF）。NVIDIA宣称的5x，是拿Rubin稀疏算力对比Blackwell稠密算力。
• HBM4的核心是供应商差异化带来的取舍：NVIDIA希望单颗芯片达到22 TB/s带宽，而Blackwell单颗为8 TB/s，显著高于JEDEC规范，并非所有供应商都能达标。 Copper补充，Micron为底 die保留了晶体管质量相对较差的DRAM工艺，SK hynix转向TSMC N12，Samsung则采用自家的4nm；其中Micron「在达到目标速度方面遇到了困难」。结果是，「大量出货的Rubin可能达不到宣传的内存带宽」，GPU实际上会按HBM供应商分档。
• NVLink 6通过双向SerDes把scale-up带宽翻倍，却没有让线缆数量翻倍——市场宣传的「400G SerDes」，本质是同一根物理线缆上以200G双向运行。 单个交换机的带宽没有增加，因此每个机架的交换机数量从18个翻倍至36个；Howie指出，这让交换机die得以维持单体设计，因为上一代已经触及约800mm²的光罩尺寸上限。背板硬件与Blackwell不变，实际单向吞吐量也会低于400G的最佳情况。
• 「无缆」计算托盘是一次面向制造性的设计，PCB内容量大致翻倍——被移除的是Ethernet和PCIe线缆，不是NVLink线缆。 Wega将其与GB200的爬坡痛点联系起来：狭小装配空间里，线缆会刮伤连接器，导致良率低、调试困难；新的模块化Strada／midplane／Orchid设计，配合只有3家供应商能够完成或正在与NVIDIA合作开发的自动化方案，把计算托盘装配时间从「2小时缩短到5分钟」。Trainium更早采用了无缆设计，但代价是成本更高：石英玻纤midplane材料钻孔良率更差，是否降规格仍「在讨论中」。
• Rubin单颗GPU的功耗和散热跃升至2.3 kW（Grace Blackwell Ultra为1.4 kW），解决方案是渐进式演进，而非架构革命。 微通道盖板还没准备好满足上市节奏，因此方案改为两片式均热板加加强件，以控制翘曲；通过电镀金来抵御腐蚀液态金属TIM；提高冷却液流速，则可支持45°C进水的无冷水机设计——这是选项而非强制要求，因为「并非所有东西都针对Rubin优化」。液冷母线和直接向Strada板转换的50V供电，则构成机架层面的其他变化。
• 在DRAM供应趋紧之际，NVIDIA重新接管了SoCAMM采购，这可能带来相对竞争对手的定价稳定优势。 Wega估计，NVIDIA已为SoCAMM签下当前Rubin部署可供量的约一半（「Jensen去韩国吃炸鸡……肯定是有原因的」），再加上利润转售给客户，使其成为BOM中两位数占比的项目。Jordan认为，稳定的投入成本让NVIDIA能够在边际订单上击败AMD和Trainium；后两者可能「更容易暴露在DRAM价格市场的变化之下」，而HBM价格仍可能迎来大幅上涨。
• 时间表是：机架系统在2026年下半年出货，大规模部署更可能落在2027年上半年，Rubin Ultra（1TB HBM4E、16 stacks）计划于2027年下半年推出。 团队预计其爬坡会比GB200更顺利——供应链、机架组装商和测试站点电力都已到位——但「以NVIDIA推进的速度……总会可能出现一些磕绊」。下一个重大系统挑战是Kyber，而不是Rubin。

精读

1. 稀疏FP4终于有了实际意义：自适应压缩引擎

• 芯片本身由两颗大型计算die、8 stacks HBM4组成，I/O则拆分到侧边chiplet，分别服务于NVLink C2C和NVLink 6。Wega给出的核心数字是：35 PF稠密FP4，对比Blackwell Ultra的15 PF；此外还有「50 petaflops稀疏算力」，而且这种稀疏「不同于」NVIDIA在Hopper和Blackwell上宣传的方案。
• Howie解释，NVIDIA宣称Rubin的稀疏FP4算力「最高是GB200的5倍」，但这是拿Rubin稀疏对比Blackwell稠密。Transformer Engine中的新硬件压缩机制会「直接观察数据流并动态压缩」，而不是强制每隔一个数值归零，因此实际处理以35 PF运行，最高可实现50 PF有效算力——「这是一种混合方案，不会像强制把数据变成0那样损失精度」。
• Howie认为，这一点之所以重要，是因为结构化稀疏在低精度场景「基本完全没被用起来」——「一路降到FP4……模型无法收敛」——因此这一代产品可以「真正拿回稀疏算力」。Jordan对这段历史的概括是：经历了4、5代「Jensen math」把宣传FLOPs翻倍之后，「我们预计这次稀疏性能能以过去做不到的方式真正发挥作用」。

2. HBM4达到22 TB/s：超越JEDEC规范，并将导致供应商分档

• Wega的计算是：HBM4将每个stack的I/O数量从1,024翻倍至2,048，而NVIDIA要求供应商维持相同的pin速率，目标是Rubin单颗芯片22 TB/s，对比Blackwell单颗芯片8 TB/s，约为2.5x。问题在于，原始JEDEC规范「低得多」，而不同供应商的「准备程度各不相同」。
• 底 die工艺的分化最能说明问题：Micron继续采用晶体管质量相对较差的DRAM工艺，SK hynix采用TSMC的N12逻辑工艺，Samsung则「全力投入」自家的4nm。结果是，Micron尤其「在达到目标速度方面遇到了困难」，因此「Rubin很可能会有大量出货产品低于宣传的内存带宽」——Jordan的总结是，GPU会按HBM供应商分档。
• 容量维持在288GB，因为密度无法提升：16-high stacks尚未实现规模出货，而TSV布线翻倍会吞噬die面积，因此单层密度从HBM3到HBM4基本持平。Rubin Ultra通过将stack数量翻倍至16个，并采用16-high HBM4E，把容量提升到1TB（每个stack 54GB，12-high stack则为32GB）。Copper提醒，DRAM「非常紧张」，因此XPU设计商最终可能需要「配给或调整……容量或许会低于最初规划」。Copper还纠正了术语：不是「R200」——「把200去掉，就是Rubin」。

3. NVLink 6靠双向SerDes诚实地「绕过物理限制」实现带宽翻倍

• Wega的核心观点是：NVSwitch单个交换机的带宽没有提升，因此每个机架的交换机数量从18个增至36个（9个托盘、每个4个封装）；市场宣传的「400G SerDes」，实际是每根物理线缆以200G双向运行，在「相同物理布线量」下实现带宽翻倍，背板硬件也与Blackwell相同。他保留了这一判断：400G单向传输是「最佳情况，但不太可能达到」。
• Howie补充了为何选择增加芯片数量，而不是提升单颗芯片的带宽：上一代交换机die已经达到光罩尺寸上限，超过800mm²，因此在单个封装内把带宽翻倍「会非常困难」——否则就必须采用chiplet。现在每条Rubin到交换机的链路都是单条400G链路，不再需要多个端口。

4. 无缆设计的本质是良率，PCB成为新的BOM争夺点

• 关键修正是：被移除的不是NVLink协议线缆，而是Ethernet和PCIe线缆；背板中仍保留线缆。动机来自GB200爬坡期的教训：工人需要在狭小空间内布置10–20根线缆，装配过程中连接器「会被刮伤」，之后还要艰难排查究竟是哪根线缆失效。Jensen在CES上称，自动化装配能把计算托盘的装配时间从「2小时缩短到5分钟」；目前只有3家供应商能完成这套自动化，或正在与NVIDIA合作开发。「这有点像搭乐高。」
• 架构上，后部是2个Strada模块（每个包含2颗Rubin GPU和1颗Vera CPU），中间是midplane桥接，前部是4个搭载CX-9的Orchid模块——所有信号都走PCB，使PCB面积相对Blackwell增至「2倍或更多」，材料也大幅升级。midplane采用业界先进的石英玻纤，但材料硬度过高，可能拉低钻孔良率；NVIDIA是否将规格降至高端玻纤布，「目前仍在讨论」。
• 当被问及NVIDIA是否首创这一方案时，Wega将功劳归给Trainium——后者是首个无缆设计，Amazon在re:Invent上连续2年推动，但采用的是横跨整个机箱的「一整块大型baseboard」（Amazon称这是一个面向上市节奏的决策），而NVIDIA选择了模块化方案。取舍不在可维护性上（「这里的可维护性更好」），而在成本上。至于封装本身，Myron认为NVIDIA「更加保守」：AMD正在推进hybrid bonding／SoIC，「MI300X以来就一直在做」。

5. 单颗GPU 2.3 kW：让系统扛住功耗和散热的工程技巧

• Rubin单颗GPU的TDP从Grace Blackwell Ultra的1.4 kW提升至2.3 kW。集成于封装内的微通道盖板，也就是冷板，还不够成熟，无法用于首批部署；替代方案包括：两片式均热板加加强件，以控制更大封装的翘曲；在盖板和冷板上都采用电镀金，因为液态金属TIM「会腐蚀铜」；同时缩小冷板通道间距，以增加换热面积。
• 大家讨论的45°C进水温度，本质是基础设施方案，而不是芯片本身的技巧：通过提高流速、缩小进出水温差（45°C进水、65°C出水），可以实现无冷水机数据中心。Wega强调，「无冷水机设计不是一套适用于所有场景的解决方案……但它是一个有助于降低TCO的选项」——数据中心还要承载其他硬件，产品路线也会变化。NVIDIA的参考设计显示，其散热性能约为Blackwell的2倍。
• 供电方面，系统采用液冷母线，因此不需要风扇；Strada计算模块本身则将50V到12V的转换移到板上。每个Strada模块承载5 kW，把降压环节尽可能靠近封装是「正确的设计选择」，有利于提升效率。网络模块仍由供电板完成降压。HVDC电源机架属于可选项，但其时间表「正在提前」，部分Rubin部署可能会采用。
• 总体而言，架构仍与Grace Blackwell大体相似；系统层面最大的变化是PCB内容量，而相当一部分性能提升来自半导体侧。

6. SoCAMM争夺战，以及指向2027年上半年的2年节奏

• Wega认为最具交易价值的观察是：SoCAMM——Vera CPU使用的插接式LPDDR模块，用来替代焊接式LPDDR——过去由客户采购，但在内存供应紧张之际，NVIDIA「重新接管了采购责任」，签下当前Rubin部署可供量的「约一半」。「Jensen去韩国吃炸鸡，肯定是有原因的。」客户通过NVIDIA的利润率承担这笔成本，使SoCAMM成为BOM中两位数占比的项目（不计利润则为个位数）；在已签约部分，供应和价格都已锁定。
• Jordan据此得出的竞争结论是：投入成本稳定后，NVIDIA「可以让边际订单的交易成立」，从而与AMD或Trainium竞争；后两者可能「更容易暴露在DRAM价格市场的变化之下」。Wega补充了关键风险：HBM「可能会出现大幅涨价」。
• 时间表共识是：机架将在2026年下半年出货，但Myron基于Blackwell的提醒仍然适用——「开箱即用、马上达到最佳性能……从来都不太可能」；因此大规模部署将在2027年上半年，Rubin Ultra则计划于2027年下半年推出。Jordan给出的Blackwell参照是：CoreWeave的首个机架于2024年11月交付，2025年2–3月开始实际使用，2025年5–6月实现规模部署。Wega认为这次爬坡会更顺利：机架组装商已有产能，测试站点电力也已落实，不像GB200早期那样受限；但「总会可能出现一些磕绊」，而且「下一个重大挑战将是Kyber」。