Vol.204 产业观察38|从英伟达200亿美元收购Groq看,中国AI推理芯片的机会在哪里
摘要
- 节目把英伟达对 Groq 约 200 亿美元的交易安排,解读为对“实时推理”阶段的重注,而非单纯买人才或扼杀对手。 杨斌指出,按节目中的估算,这笔钱约为英伟达全年现金流的四分之一至三分之一;英伟达前三季度现金流为 560 亿美元,因此这是动用家底的一笔大钱。交易补上了 Grace CPU、Rubin GPU、Mellanox DPU 之外缺失的实时推理板块,也契合其自 2025 年起向智驾、机器人等具身智能场景延伸的第二增长曲线。
- 杨斌对架构的判断极其明确:LPU 是推理领域“最合适的一种架构,没有之一”。 节目援引 Groq 的商业进展作为旁证:2024 年收入约 9,000 万美元,2025 年预期约 5 亿美元,客户覆盖 Meta、沙特及挪威算力中心,云端注册用户约 250 万;英伟达愿意吸收其知识产权与核心团队,被视为成熟的战略决策。
- LPU 真正能卖钱的不只是绝对短时延,而是绝对短时延和长期稳定的短时延。 杨斌援引 Groq 在 2024 年 Hot Chips 会议上发布的比较:14nm 芯片对 4nm H100,时延约为六分之一、功耗三分之一、成本四分之一,并由 Groq 宣称整体能效高 10 倍。“一会儿快一会儿慢”在聊天机器人上伤体验,在自动驾驶中则可能直接决定场景能不能成立。
- Groq 九年后走红,核心不是技术突然变好,而是模型、应用与商业成本开始共振。 杨斌认为,DeepSeek 之后,30B—70B 已成为大量应用的“甜点”,模型能力与相对成本都跨过了可用门槛;当行业从试点、炫技进入规模部署,功耗、成本和稳定时延才从可忽略项变成利润来源,“技术远远领先于产业周期,你就会成为先烈”。
- 推理市场不会简单复制训练市场的一家独大,端侧与边侧的长尾会容纳多架构、多尺寸和多家公司。 穿戴设备、相机、汽车、边缘一体机和具身智能对性能、功耗、成本的取舍不同,不可能由一个“唯一的六边形战士”包办;中国公司的结构性优势来自靠近消费电子供应链和客户,以及擅长多维度快速迭代。
- 技术分水岭在于,CPU、GPU、NPU仍属于同一技术体系的演进,而LPU则用确定性硬件数据流打破共享内存主导的数据交换方式。 CPU 到 GPU 是计算范式从标量转向矩阵、矢量;节目将 NPU 概括为传输范式的优化;LPU 则像生产线或回转寿司,让数据沿固定方向持续流动,以较低灵活性换取高利用率、低功耗和可预测时延。
- 源创微的下注是“LPU Plus”:短期重构传统硬件,长期指向具身智能。 杨斌称实验室成本、时延结果与 Groq 数据“极度吻合”,但产品不会复刻 Groq,而会叠加团队二十多年大芯片、软件和市场经验;他的创业触发点是 2025 年春节读完 DeepSeek 论文后意识到“大模型真的不是泡沫,已经可以用了”,因此选择做一件“难,但是正确的事”。
精读
1. 这笔 200 亿美元交易押注的是产业下半场
杨永成先摆出市场流行解释:英伟达可能为了扼杀潜在竞争者,或为了 Groq 创始人 Jonathan Ross 的 TPU 背景而出手。杨斌先说明接下来只是个人判断,随后回应称,前一种说法“相对比较狭隘”。
交易规模是其判断起点:节目口径约 200 亿美元,而英伟达今年前三季度现金流约 560 亿美元;按全年保守估算,这笔交易可能占其全年现金流的四分之一至三分之一,“这是动用家底的做法,是一笔大钱”。
杨斌把它放进 AI 产业阶段看:上半场比模型参数、上下文和 benchmark,下半场则是应用兑现模型价值;英伟达选择推理公司,说明其判断推理已成为下一阶段核心算力需求。
杨永成据此归纳:英伟达既认可 LPU 路线,也预期推理市场会迅速放量,希望尽快取得类似训练市场的领先地位,把其他玩家“远远抛在后面”。
2. Groq 补上了英伟达实时推理的能力缺口
杨斌列出的版图是 Grace CPU、Rubin GPU 与来自 Mellanox 的 DPU:这套组合已经覆盖云端超节点训练,但走向端侧、智驾、机器人时,还缺少实时推理这一块。
从 2025 年开始,杨斌观察到英伟达逐渐由训练侧向推理侧移动,并把具身智能视作第二增长曲线;Groq 的 LPU 因而不是孤立收购,而是“完善了自己整个竞争力的版图”。
对 Groq 而言,加入英伟达是获得再一次发展、甚至提升自身能力的机会:先进制程、封装、IP、产品组合和工程能力,都能加速原架构迭代。节目后续看到的信号是,核心团队进入英伟达产品开发,LPU 被放到“实时推理”基石位置。
3. 商业收入证明 Groq 已不只是架构实验
杨斌给出的经营数据是:Groq 2024 年收入约 9,000 万美元,2025 年预期应能达到约 5 亿美元;他同时表示不知道当前数据是否已经变化,并据此判断,英伟达做的是“非常成熟的决定,不是非常冲动的决定”。
Groq 的客户被分成三类:Meta 等美国大厂,沙特国家算力中心和挪威算力中心,以及云端散户和小企业;其云服务注册用户约 250 万。
这也改变了“恶意收购”的解读:能够被英伟达当作竞争对手,本身已是对 Groq 的高度认可,但节目更强调其收入增长、实时推理能力与英伟达战略需求的共同作用。
4. “收购 TPU 人才”经不起时间线检验
杨斌承认 Jonathan Ross 是 TPU V1 的主架构师,常被称作“TPU 之父”;但那是 2016 年的事情,他随后离开谷歌并独立开发 Groq LPU,时间已经接近十年。
他的反问是:如果目的只是 TPU 人才,英伟达直接去谷歌找即可。杨永成补充说,TPU 已发展到 V7,和 V1 发生很大变化;更关键的是,TPU 兼顾训练与推理,LPU 则是完全不同的“两个物种”。
杨斌提出另一种可能解释,但明确只是其理解:知识产权、团队和品牌分置的安排或与美国反垄断约束有关。杨永成以 Intel 需要 AMD 继续存在作类比——Groq 品牌及云业务仍可独立经营,核心人员则加入英伟达。
5. LPU 等了九年,等到的是产业与技术共振
杨斌的警句是:“当你的技术远远领先于产业周期出现的时候,你就会成为先烈。”Groq 不是研究机构,技术再强也必须形成商业闭环;此前推理量太小,用 GPU 已经够用,另开一套体系反而算不过账。
转折来自模型能力和成本同时跨过门槛。节目认为,从 DeepSeek 引发关注之后,30B—70B 模型成为大量应用的甜点区间,“基本上我们想象的事情都能做”。
杨永成把过去称为试点式应用:解决有无和新鲜感,多等 0.几秒、功耗高一点都能接受;真正进入千家万户后,成本、电费、时延和体验都要精打细算,专为推理优化的 LPU 才显示价值。
两人用一句俗语概括 timing:“早起的鸟儿有虫吃”,但也可能是“早起的虫儿被鸟吃”。如果推理市场当时再晚五年,Groq 可能仍只是一项有远见却难以兑现的技术。
6. 稳定短时延决定的不只是体验,而是场景能否成立
杨斌强调,LPU 的亮点不只是绝对时延短,而是能长期提供稳定的短时延。人与机器人对话时,反应太慢令人出戏,忽快忽慢同样破坏交流节奏。
杨永成把这个逻辑推到自动驾驶:算力输出一会儿快、一会儿慢,会让车辆控制风险不可接受。因此,确定性时延“本质上是一个行不行的问题”,并非单纯体验好坏。
消费电子的例子是拍照闭眼:今天可以在 PC 或高端手机上后处理,把闭眼改成睁眼;若实时推理足够快,相机按下快门时即可直接生成睁眼、笑眼版本,把后处理能力变成能直接产生价值的新功能。
7. 14nm 对 4nm 的比较揭示了架构红利
杨斌援引 Groq 在 2024 年 Hot Chips 会议上发布的数据:以 Groq 自有架构的 14nm 芯片对比英伟达 4nm H100,时延约为六分之一、功耗三分之一、成本四分之一,并由 Groq 宣称整体能效高 10 倍。
这些指标尤其适合边缘端与消费端产品,因为这些场景同时关注成本、功耗和实时体验。杨永成半开玩笑说,这已经可以拿来做他的“梦中照相机”。
源创微的实验室结果在成本、时延上与 Groq “极度吻合”。杨斌没有把目标停在复刻,而是称团队做了大量新迭代:“这个量级一定是可以卖钱的”,并有信心在最终产品上做得更好一点。
8. LPU 是从共享内存体系中长出的“新物种”
杨斌从冯·诺依曼体系讲起:CPU 用共享 memory 作为交换中心,以指令和可编排的数据流换取通用性;即便做 AI 也可以,只是效率不优。
GPU 没有改变这套数据交换本质,而是把 CPU 的标量计算扩展为矩阵和矢量计算,形成 Tensor Core、Vector Core。杨斌随后以在处理器之间增加“特殊通道”解释一类传输优化,并指出 NPU 与 GPU 的相似度较高,未深入展开。
LPU 则取消公共共享 memory,让数据沿固定方向流动,是确定性的硬件数据流架构。杨斌的类比是从不会转的满汉全席,变成回转寿司:“你想要的东西就在你面前。”
杨永成换成组织比喻:GPU 像教授带一群都能干各种活的博士,灵活却有调度损耗;LPU 像生产线,每个工位只做一件事,产品不停顿地从一端走到另一端,效率和时延因此更可控。
9. 极致推理也意味着主动放弃训练灵活性
杨斌并未说 LPU 不能训练:Groq 早期也“强行去做了训练”,在沙特也有云端业务;但训练技术路径和模型结构变化快,LPU 的灵活性不如 GPU。
当模型稳定后,LPU 的效率和实时性优势会重新显现;模型频繁变化时,则可能需要重新编译。两人的取舍很明确:源创微“抛弃了训练”,把推理做到极致。
这种专用性也意味着不会有一颗芯片包办所有市场:另一些厂商可能牺牲性能,只把功耗做到极致,也依然有客户。“不可能是一个唯一的六边形战士来解决所有的问题。”
10. 高门槛在完整系统,而不只是一张芯片图纸
多核 CPU、GPU 可以复制大量相同核心,LPU 流水线的每个环节却不同,必须分别设计、验证、优化并处理衔接;其硬件工作量因而不是简单堆核。
软件挑战同样集中:客户希望沿用熟悉的模型库和开发体验,但编译器又必须理解全新的非冯·诺依曼架构。既懂处理器、又懂编译器和 AI 架构的完整团队,“非常难得”。
Groq 作为先驱已经趟过许多坑,但早期缺少市场反馈,迭代速度受限。节目还提到业界对其大量使用 SRAM 的批评,涉及功耗、成本和晶圆面积。
杨永成认为,中国团队的机会不在照着巨人原样追赶,而在于靠近消费电子客户,以积累的技术、量产经验和需求反馈重新设计;源创微因此把自己的路线称为“LPU Plus”。
11. 中国机会来自长尾市场与传统硬件重构
杨斌判断,推理仍是偏蓝海市场,但需求一旦放量会很快转红;端侧覆盖穿戴、相机、汽车、边缘一体机和具身智能,不同模型尺寸与功耗约束会催生多种架构和多家公司。
中国的结构性优势是离供应链和客户更近,也更擅长高频、多维迭代。长期“星辰大海”是具身智能,短期落点则是“传统硬件的重构”:把只会识别猫狗、摔倒的分类器,升级为具备内容生成能力的系统。
杨斌创业的明确 moment 是 2025 年春节。读完 DeepSeek 论文后,他的第一反应是“大模型真的不是泡沫,已经可以用了”;在此前扫描 GPU、NPU、LPU 等路径的基础上,他终于确认应用爆发周期已到。
这笔超亿元天使轮融资还吸引了两家上市公司产业资本。杨斌把最终选择概括为博采众长的 LPU Plus,但更看重一句判断:“LPU 是一件难,但是正确的事。”