先锋 趋势 方法 投研 作者
Arm CEO Rene Haas 谈 AI:Nvidia 的启示、Intel 的衰落与美中芯片战
返回节目精读

Arm CEO Rene Haas 谈 AI:Nvidia 的启示、Intel 的衰落与美中芯片战

摘要

  • 本期节目对 Arm 的开场铺垫异常强劲。 Arm 9月 IPO 估值超过540亿美元,成为2年多来规模最大的公开发行;开场时还称其估值已增长至原来的3倍。随后主持人称,在 SoftBank 以320亿美元将 Arm 私有化、但出售未果并重新上市后,Arm 的市值达到1500亿美元。
  • Arm 在 AI 上的杠杆来自 CPU/IP 层,而非制造环节。 Arm 正越来越多地提供连接 Nvidia、Google 和 Cerebras 等加速器的微处理器;Nvidia 的 Grace Blackwell 使用了“72颗 Arm CPU”(“72 Arm CPUs”)。Haas 暗示 Arm 可能会比今天更进一步,但未确认其会制造芯片或直接与 Nvidia 竞争。
  • Haas 预计,AI 算力将分化为训练、专用推理,以及一个由更小模型同时进行学习和推理的中间层。 巨型模型可以教会约200亿参数的混合专家模型,而端侧推理不能依赖一块“功耗达1千瓦的 GPU”。
  • Haas 表示,物理 AI 目前的规模已经超过数据中心,并可能按设备数量实现巨大增长,因为每个机器人都可能搭载几十乃至上百颗芯片。 当前系统主要是改造汽车芯片;未来系统可能需要针对执行器、关节和端侧学习设计的专用芯片。
  • Haas 从 Jensen Huang 身上学到的经验是,Nvidia 愿意快速转向。 他回忆称,Huang 曾将 Nvidia 约6000名员工中的2000人,从一个与 Intel 相关的芯片组项目调入基于 Arm 的 SoC 项目:“原本计划中的路线图评审,最后变成了‘我们要改变战略’”(“We’re changing the strategy.”)。
  • Intel 的衰落说明,半导体行业的错误会在以10年计的周期中层层放大。 错过移动市场、对 EUV 投资不足,让 TSMC 吸引了 Apple、Nvidia 和 AMD,并通过这些公司的规模持续改进、进一步拉开差距:“芯片一旦落后,就极其、极其难以追赶。”
  • 重建美国半导体产能,需要产业政策、企业资本和制造业文化,不能只靠建晶圆厂。 Haas 认为,美国已经失去了全天候运营卓越所需的“肌肉记忆”,必须通过大学、企业以及持续多年的融资,重新提升制造业的地位。
  • 广泛实施出口许可管制,可能催生其原本想遏制的竞争性技术生态。 Haas 警告称,被拒绝提供计算架构的有能力国家“会找到办法”,最终形成“2个平行宇宙”,令西方生态面临失去全球首选地位的风险。
  • Haas 表示,中国当前的软件生态大体沿用全球体系,包括基于 Android 的移动软件和 ADAS 软件栈,并主张保持这一生态开放。
  • Arm 仍是一家全球分布式公司,而且仍需要更多工程师。 其员工有50%在英国,班加罗尔有2000人,美国可能超过1000人;Haas 表示,AI 减少了财务和法务岗位的招聘需求,但没有减少工程师招聘,并主张加大 STEM 投资。

精读

1. Arm 的定位——以及 Nvidia 的转向

  • 开场对 Arm 的定位是:它不制造有形产品。Arm 9月 IPO 估值超过540亿美元,成为2年多来规模最大的公开发行;开场时还称其估值已增长至原来的3倍。随后主持人称,SoftBank 以320亿美元将 Arm 私有化、未能找到买家后又让其重新上市,Arm 市值达到1500亿美元。

  • Arm 负责设计处理器/IP,芯片由其他公司制造,主要在 TSMC,也有部分产能位于 Samsung,甚至 Intel。Haas 将 Arm 描述为连接硬件与软件、并连接处理器和加速器的 CPU 环节。

  • Haas 从 Jensen Huang 身上学到的长期经验,是“愿景、速度、无畏、敢于冒险”,以及极快转向的能力。当 Nvidia 年收入约40亿美元时,公司正在评估不同的增长路径。

  • 最清晰的例子发生在一次 offsite:Nvidia 突然改变战略,取消一条产品线,并重新安排约6000名员工中的2000人。该项目涉及连接 Intel 处理器的移动芯片组;与 Intel 的 PC 集成架构竞争异常艰难。Haas 表示,这段经历促成了 Nvidia 向 SoC 和 Arm 架构的大幅转向。

  • Nvidia 的 AI 优势起于对工作负载的匹配,而不是一开始就拥有专用 AI 芯片:AlexNet 训练运行在游戏 GPU 上,因为训练任务高度并行。任何 AI 工作负载都仍需要 CPU 来运行计算机并协助加速器;Nvidia 的 Grace Blackwell 将 Blackwell 架构与“72颗 Arm CPU”结合在一起。

2. Arm 可以服务于分化中的 AI 市场各个分支

  • Haas 表示,Arm 既能提供标准解决方案,也能为定制芯片提供知识产权,并连接 Nvidia、Google、Cerebras 等公司的加速器。他没有确认 Arm 会自己制造芯片:当主持人追问这一结论时,他表示今天不会这么说,同时指出这并非不可能,Arm 正在考虑是否“比我们今天所做的更进一步”。

  • Haas 预计,AI 不会只是训练与推理的二分法。巨型模型可以教会约200亿参数的混合专家模型,后者同时结合推理、强化学习和训练,像是“教授教会一个也能当学生教师的学生”(“the professor teaching a student who can also be a student-teacher”)。

  • 在边缘侧,能源效率将成为决定性因素。头显、可穿戴设备和其他端点无法运行功耗达1千瓦的 GPU。Haas 认为,Arm 在这类能效要求高的工作负载上处于特别有利的位置。

  • Haas 表示,物理 AI 目前的规模已经超过数据中心,并可能按设备数量实现巨大增长。机器人可能搭载几十乃至上百颗芯片。当前系统主要使用改造后的汽车芯片,并满足 ADAS 的功能安全要求;未来物理 AI 系统可能需要针对执行器、关节更小部位的专用芯片,以及能够学习的芯片。

3. Intel 的失误变成 TSMC 的复利优势

  • Haas 将半导体描述为一门会惩罚少数错误转向的生意:产品、晶圆厂和生态周期都很长。约10年前,Intel 错过移动市场,也没有像 TSMC 那样持续加大对 EUV 的投资。

  • 由此形成的飞轮很难逆转:Apple、Nvidia 和 AMD 在 TSMC 生产,其先进制程业务又帮助 TSMC 持续改进晶圆厂。主持人总结称,Intel 和 Samsung 因此获得的机会更少。“芯片一旦落后,就极其、极其难以追赶。”

  • Haas 认为,政府支持不应止于入股 Intel,还应覆盖 ASML 级别设备及相关基础设施等上游能力。他表示,稀土矿产的获取是全球性的,真正的瓶颈在于材料提炼和工厂建设,而这需要持续数十年的投资。

4. 美国晶圆厂需要制度耐心和运营肌肉

  • Haas 对中国以工程师为主导的产业政策印象深刻,因为这种政策可以持续超越单一选举周期。他为美国提出的方案,是让大学、企业、私募股权和其他融资力量围绕相关计划协同投入,因为这些计划的资本需求和周期都大到不可能由任何一方单独承担。

  • TSMC 的模式是“24/7运营”:产线出现故障或客户遇到问题时,技术人员和工程师必须立即响应。美国曾经具备这种制造纪律,但如今已经失去相应的“肌肉记忆”,制造业职业所承载的文化声望也一并流失。

  • 当被追问具体解决方案时,Haas 指向了大学对微电子和芯片设计项目的重建,包括 Carnegie Mellon。制造业运营卓越也应成为一门正式学科,以重建人才供给链。

5. 出口管制有分裂全球算力生态的风险

  • 主持人指出,受出口管制的先进半导体销售需要商务部许可和跨部门审批。流程可能耗时数月,有些申请甚至已挂起2年,到获批时芯片可能已经过时。主持人警告,不应把 GPU 当作“钚”一样对待,并主张对全球先进半导体销售实行许可管理。

  • Haas 表示,西方的算力领先既来自芯片创新,也来自全球软件生态。只有在销售对象和生态发展方式不受限制的情况下,这一生态才能以扁平、开放的方式发挥最佳效果。

  • 如果某种计算架构被切断供应,拥有足够人才、技术或创新能力的国家“会找到解决问题的办法”。风险在于形成“2个平行宇宙”,而替代生态最终可能成为市场首选。Haas 表示,只要许可能够加速,半导体最适合以全球生态的方式运行,让“最好的公司胜出”(“may the best company win”)。

  • Haas 还表示,中国的软件生态目前沿用全球体系:中国手机使用 Android 的一个版本及其应用生态,自动驾驶汽车则借助由 Arm、随后由 Qualcomm 和 Nvidia 打造的 ADAS 软件栈。他认为,保持全球生态开放是更理想的做法。

  • 谈到中国这个更广泛的议题时,Haas 明确表现出对合作的乐观态度。根据他在中国的交流,中国官员认为 AI 护栏和相关政策是维持安全检查的方式。他不会把当前形势等同于核军备竞赛,但表示,拥有相关能力的国家同样有必要坐到同一张桌子前。

6. Arm 的起源与全球人才模式

  • Arm 起步于 Cambridge 的一间谷仓,是 Apple 与 VLSI Technology 为 Apple Newton 成立的合资项目;Newton 需要一款低成本、低功耗的处理器。Haas 回忆称,最初的芯片“并不算好”,但设计足够优秀,团队得以围绕它建立一项业务。

  • Haas 是 Arm 的第4任 CEO,也是第1位非英国籍 CEO。在接任后的3年半里,他一直在努力保留 Cambridge 的科学与技术实力,同时加入更多 Silicon Valley 式的进取性、速度和快速行动意愿。

  • Arm 有50%的员工在英国,班加罗尔有2000人,美国可能超过1000人,其余分布在欧洲各地。Haas 表示,公司会跟随工程人才所在的地方布局。

  • AI 减少了 Arm 在财务和法务岗位上的招聘需求,但没有减少工程师招聘。Haas 表示,AI 的开发、创造和科学研究仍然是困难问题,因此 Arm 需要更多工程师,也需要更广泛地投资 STEM、电子工程和芯片设计。