主题 先锋 趋势 方法 作者
返回

第035期 - 技术尽调、性能预测、供应链、投资逻辑(咨询)

·SemiAnalysis

正在生成长图…

本篇主题 AI算力基建投资与尽调测算
本篇先锋 Abhilash Jain

摘要

  • SemiAnalysis 搭建咨询业务,是为了打通 AI 基础设施与资本配置——Abhilash Jain 称之为“科技金融协同设计”(tech finance co-design)。 专门团队将其13-14套机构模型和技术网络转化为定制化项目,周期从3-4周到1年不等,服务于考虑10亿-20亿美元投资的投资者,以及需要做产品、选址和市场进入决策的产业客户。
  • 最清晰的案例,是一套全球 token 供给模型:交付形态是持续更新的软件,而不是演示文稿。 模型整合当前芯片装机量及未来5年预期增幅、训练与推理的分配比例、每块 GPU 的吞吐量,以及每百万 token 的价格;客户可以在仪表盘中调整模型、芯片、上下文和缓存命中率假设,看到“每一个数字真的都会变化”(“literally every number changing”)。
  • 战略项目将不断变化的工作负载映射为产品规格和客户优先级。 一家内存与存储公司通过重放智能体轨迹,测试带宽与容量之间的取舍;一家拥有约100个潜在买家的半导体公司则通过市场访谈筛选出10-15个值得投入的客户,因为每个客户的资格审查“至少需要3-4个月”。
  • 一笔10亿美元级别的 neocloud 投资,同时需要技术验证和商业基准对比。 SemiAnalysis 会复核 SLA、OEM 保修和支持条款,测试集群,找出其擅长和不擅长之处,并制定100天或180天的整改计划;同时用 TCO 数据将资本开支和运营开支与市场水平对标。
  • SLA 结构是融资基础设施,而不是合同上的例行事务。 随着运营商的客户从 hyperscaler 和专业机构扩展到房地产开发商和家族办公室,Abhilash 给出的直白判断是:“没有强有力的 SLA,就绝不可能拿到融资”(“without strong SLAs, you won’t be funded, period”);一次故障可能危及贷款偿付,触发抵扣金或合同终止,并导致运营商在 GPU 合同只有5年的情况下,仍要支付15-20年的数据中心租约。
  • 风险评估必须沿着每一项客户承诺,穿透数据中心、OEM、硬件和软件栈。 审查范围可以从3份核心合同,延伸到 L3-L5 就绪度和裸机故障模拟,因为电力、制冷、机架、监控或软件都可能导致性能失效——“只要有一件事出问题”,运营商就可能需要支付 SLA 抵扣。
  • 建还是租的建议主要取决于时间、运营能力、付费意愿和资本获取能力。 一位客户要求“就在接下来6个月内”获得100 MW,被建议租用,因为自建不可行;能够等到2028或2029年的客户,则得到完全相反的建议。

精读

1. 标准化研究触达不到的地方,才是咨询业务的空间

  • SemiAnalysis 一直做咨询,但直到前一年才成立专门团队。其13-14套机构模型和开放研究的大部分内容,包括 Infant X 和 ClusterMAX 等项目,原本都是标准化产品;更深度、针对具体客户的工作则缺少相应的运营机制。

  • 项目会配备专门团队,周期从3-4周到1年不等。Abhilash 的框架是“科技金融协同设计”(“tech finance co-design”):“我们需要教科技圈的人更多金融,也要教金融专业人士更多技术。”

  • 金融客户包括大型私募股权基金和对冲基金:它们评估10亿美元级别的芯片、neocloud 和数据中心投资,或围绕内存、CPU 等主题寻找“下一波”机会。产业客户则涵盖 hyperscaler、AI 实验室和半导体公司,涉及未来3-5年的产品规划、印度远程站点建设或市场进入执行。

2. Token 供给预测变成持续运行的软件,而不是静态演示文稿

  • 一家对冲基金要求测算芯片装机基础所对应的全球 token 总供给。模型连接了装机容量及未来5年增幅、分配给训练与推理的比例、每块 GPU 的日吞吐量,以及每百万 token 的美元定价。

  • 最难处理的变量是未来吞吐量:SemiAnalysis 必须将公开的推理数据外推到尚不存在的芯片和模型。模拟器会测试不断变化的芯片与内存规格,并纳入10万亿、15万亿或20万亿参数的模型假设。

  • 由于排列组合过多,“静态 Excel”变得不切实际,因此交付物改成了可编辑的仪表盘。输入项包括推理分配比例、AMD/TPU/NVIDIA 规格、输入输出比例、智能体运行框架、序列长度和上下文长度、数据类型,以及80%、85%或90%的缓存命中率。

  • Jordan 特别纠正了一点:ClusterMAX 并非起源于咨询业务,但 AI 云 TCO 模型确实是。推理模拟器也走过类似路径——从内部“科学项目”,到服务1个客户,再到多个客户,最终朝着独立成为咨询产品的方向发展。

3. 战略工作将工作负载的物理特性与产品、客户连接起来

  • 一家内存与存储客户使用模拟器,在不同模型和芯片组合上重放智能体轨迹。产品问题非常具体:在服务真实生产环境中的推理工作负载时,带宽与容量之间的取舍应如何变化?

  • 另一家半导体公司拥有一款产品和大约100个潜在买家,却无法明确回答“该卖给谁”。由于筛选出一个合格客户至少需要3-4个月,SemiAnalysis 将范围收窄至10-15个优先客户,并为每个客户设计技术销售沟通方案。

  • 这项优先级排序需要与20、30或40个潜在客户沟通,再将他们的需求汇总为市场判断。Abhilash 表示,公司在这里不会依赖专家访谈机构,而是依靠直接的生态关系。

4. 一笔10亿美元的 neocloud 投资,需要技术和商业验证

  • 接着 Dan 对用于支持 AI 基础设施的7万亿美元债务发行所作的讨论,Abhilash 表示,尽调对成熟投资者和新进入者都越来越必要。一家私募股权基金向一家 neocloud 投入10亿美元,需要分别回答技术和商业问题。

  • 技术尽调要回答:运营商能否兑现承诺的 SLA,OEM 支持、保修和合同是否留下隐性风险敞口,以及集群的实际表现如何。受 ClusterMAX 启发的测试则进一步支撑100天或180天的改进计划。

  • 商业尽调会重构项目建设的资本开支和运营开支,并通过 AI 云 TCO 模型与当前市场成本对标。针对芯片公司、模型公司、数据中心和带电土地,采用的框架各不相同,但目标始终是量化下行风险。

5. SLA 把一个薄弱环节变成融资风险

  • Jordan 将导致合同终止的路径分为两类:交付延迟和可用率不足。如果集群晚到数月,客户可能取消订单;如果可用率低于90%——大致相当于30天中有3天不可用——补救措施可能包括抵扣金或合同终止。

  • Abhilash 称 SLA “真正是为坏时候准备的”。贷款方关心停机是否会导致利息无法偿付,而运营商还可能遭遇声誉损害,既拿不到第二笔客户交易,也签不下第三份租约,同时仍背负15-20年的数据中心义务。

  • SLA 保险可以用按基点计价的保费承保约定的罚金,可能提高合同的可投资性。但它不能替代运营能力:“如果你的性能很差,连保险都买不到”,因为保险公司承保评估的正是 neocloud 本身。

  • 风险评估可以从承购方、OEM 和数据中心合同开始,再延伸到 L3、L4 和 L5 就绪度、机架交付、电力与制冷整合,以及裸机测试。SemiAnalysis 会刻意模拟故障,检查监控和恢复能力,因为“只要有一件事出问题”就会触发责任。

6. 产能时钟决定自建、购买还是合作

  • 紧张的托管资源供给、芯片可得性和劳动力,意味着自建往往无法匹配近期需求。决策取决于上市时间、是否愿意支付租赁溢价、是否具备内部集群运营能力,以及在资本市场上的可信度。

  • 一家公司需要在6个月内获得100 MW,SemiAnalysis 建议其租用:“根本不可能”这么快完成自建。若客户可以等到2028或2029年,建议则“完全相反”;这类评估通常需要3-4周。

  • 反复进行 neocloud 尽调已经形成“肌肉记忆”:第2天发出信息清单,第4天进行访谈,第6天提出预期的5个后续问题,第8天给出中期汇报。当 Jordan 反驳说结论不可能预先确定时,Abhilash 打趣道:“你会惊讶于这种情况有多常见。”Jordan 随后问,反复出现的 neocloud 合同是否会让结果很快变得清晰,Abhilash 表示同意。