主题 先锋 趋势 方法 作者
返回

可编程数据中心——Evan Conrad,SF Compute

·Latent Space

正在生成长图…

本篇主题 算力资产化与期货对冲交易 AI算力基建投资与尽调测算
本篇先锋 Evan Conrad

摘要

  • SF Compute的核心押注是,要建立可交易的GPU市场,就必须运营交付算力所需的基础设施。 Conrad称,公司花了3年才弄清实物交割为何重要:“这些东西并不像你以为的那么可互换”。即便是2种VM配置,性能也可能相差40%;在交付尚不可靠时先搭建金融合约,容易引发操纵,也会让对冲价格脱离实际可成交价格。
  • SF Compute称,目前仅有5%的容量挂在订单簿上,但转售流动性已能切实满足客户需求。 客户每花100美元,平均可通过转售容量回收25美元,这是流动性是否真正帮到商业用户的实际指标。Conrad另称,公司已成交数亿美元交易量,但订单簿上的成交量仍然不大。
  • Swyx对B300推理收入的估算,揭示了本期最尖锐的定价矛盾。 Swyx估算,利用率达到100%时,每小时推理收入约40美元;利用率约为50%时,收入约25美元,而租用成本为每小时5–6美元。Conrad认同这是“严重超额收费”;预期算力价格上涨的买家,可能愿意多付钱锁定未来供应。
  • SF Compute希望建立一条流动性充足的远期曲线,为客户放弃容量的权利定价。 买家可以购买从1小时到3年的容量;批处理任务或许能接受提前几分钟通知,在线推理则可能需要提前1至3个月。Swyx形容价格走势有个“鼓包”:临近交付却尚未售出的容量,会像临期牛奶一样打折;交付时间更近的容量,也可能比远期交付更贵。Conrad还指出,预期价格上涨的买家可能愿意为未来容量支付更高价格。
  • Conrad认为,独立性是把算力交易转化为更低融资成本的前提。 在他看来,NVIDIA、云厂商和大型推理买家都不够独立,难以让人放心在其平台交易。SF Compute不持有硬件:“我们必须像瑞士一样保持中立”(“we have to be Switzerland”),由此形成的流动性才能成为贷款人融资的依据。
  • 可编程数据中心为资产所有者提供GPU投资的运营层。 客户可根据容量需求变化自行拆分InfiniBand网络,SF Compute则负责运营基础设施并承担SLA。其主权算力方案把本地集群与旧金山的需求和专业能力结合起来:“我们要让它具备融资条件”(“We’re going to make it financeable.”)。

精读

1. 实物交割离不开云厂商式的运营能力

  • Conrad讲起创业缘起:最初是转租一座集群,后来逐渐接手更多责任,就像卖酒店客房的人被要求负责清洁、客房服务和安保,“到了一定时候,你其实就是在经营整家酒店”。因此,SF Compute搭建了云厂商所需的运营能力,确保算力能够可靠交付。“实物交割”借用了期货市场的概念:交易一份合约,和真正收到石油或大豆,是两回事。

  • 订单簿和交付系统是围绕算力的实际约束共同设计的。Conrad拿电力市场举例:订单会纳入锅炉冷却时间等限制;算力客户可能只有在配备能让工作负载快速恢复的存储时,才接受中断。合约标准化“还差得很远”。这段经历让他们得出一个结论:“我们得把整套东西都运营起来”——先实现一致、可靠的运营,才能形成标准化产品。

  • Conrad起初称这个市场“还不成熟,深度和流动性也不足”,随后区分了订单簿成交量偏小与已挂牌容量内部流动性集中的情况。目前,订单簿上只有总容量的5%,但更多容量正在挂牌。客户每花100美元,平均可通过转售收回25美元。他称公司已成交数亿美元交易量;他更看重的流动性检验标准是:“这有没有解决客户的问题?”

2. 硬件差异让算力无法成为单一、可互换的产品

  • Swyx以大宗商品分级作类比,但实际工程问题不小:不同运营商的VM配置,性能可能相差40%。Conrad将差异归因于GPU内核启动延迟,最终会拉低MFU。因此,要判断算力是否等价,不能只看GPU型号,还必须了解基础设施实际交付的性能。

  • SF Compute会按约束条件撮合买卖,不等固定标准成形。买家可以接受每小时6美元以内的任意Blackwell,系统再匹配GB300或B300;另一些买家则要求特定显存或NVLink域。Swyx认为,暴露这些差异会让做市更困难。Conrad认同,产品仍有多个维度:灵活度带来套利机会,指定条件则要付出更高成本。按名称查询的功能正在推出,基于查询的撮合已经在运行。

  • 存储和网络连接决定了容量能否真正互换。Conrad提到WEKA或VAST存储系统、存储容量,以及数据能否快速迁移、让工作负载在其他地方重启。这需要高速传输通道,通常是WAN。GPU集群选址跟着电力走,而传统CPU集群会跟着客户走,以满足延迟要求,因此较新的选址可能缺少站点之间的强连接。

  • 即便集群的部署批次也可能影响匹配,不过按批次撮合目前还只是讨论中的想法。Swyx问,常规老化测试为什么不能筛掉缺陷。Conrad区分了单颗GPU故障与可能影响多套系统的固件问题:早期H100遇到的问题,可能出在Supermicro机箱的固件,而非GPU本身。测试并更换坏硬件解决不了这类问题;需要更新固件,或在新机箱中修复。

3. 远期曲线同时为临期容量和中断权定价

  • Conrad回答“3到5年”时,最初谈的是更广泛市场中集群的融资周期。SF Compute的订单簿支持任意时长的容量块,购买周期从1小时到“未来3年及其间任何时点”,技术上还可以切得更细。目前,容量块需要全额预付,长期租赁则不需要。他的首要目标是建立一条流动性充足的远期曲线。

  • 已经在运行工作负载的容量,与下个月才启动的容量不同;后者的交易不会打断当前任务。批处理推理或许能接受提前1小时、甚至1到2分钟通知;在线推理可能需要提前1、2或3个月,因为中断可能导致客户要求支付SLA赔偿。Swyx意识到这其实是一个“打破租约”的市场,点出了中断权为何会有不同价格。

  • 被问到曲线呈现反向市场还是正向市场时,Conrad先确认Swyx指的是远期容量价格高于还是低于现货。Swyx说:“我们看到一个鼓包”,并用临期牛奶作比:即将交付、尚未售出的算力必须打折,因为“过去的东西没法再卖”。他认为,价格随后会回升至他们偏好的水平;远期容量的价格也可能更低,因为买家更看重交付时间较近的容量。Conrad认可这套解释,随后补充说,预期价格上涨的买家可能愿意为更晚交付的供应支付更高价格。

  • Swyx估算,B300以100%利用率出售推理服务,每小时可产生约40美元收入——“基本上什么模型都行”;利用率约为50%时,收入约为25美元,而租用成本是每小时5–6美元。Swyx说:“这几个数字里总有一个得变。”Conrad认同这是“严重超额收费”。因此,预期算力价格上涨的买家可能愿意为未来交付支付更高价格,以锁定供应。

4. 现金结算需要可信的实物市场作支撑

  • Conrad的警告来自3年来对交付问题的摸索:实物交割尚未建立,就急于把算力金融化,可能导致市场操纵和巨大的基差风险。用于对冲的价格,可能与客户实际能买到容量的价格相差甚远。按他的说法,让算力更具可互换性,是整个行业的任务。

  • Swyx提出货币和利率市场的常见模式:参与者约定一个类似LIBOR的定盘价。Conrad立刻指出,LIBOR曾被操纵。他担心算力指数也会依赖规模很小的数据集,且与购买新的预留合约价格相关性不高。仅仅约定一个基准,并不能解决底层测量问题。

  • Swyx认为,如果现金结算建立在实物交割之上,它可以成为一个很有前景的未来概念。Conrad则把现金结算合约比作《大空头》里的那种旁下注,可能与标的资产本身关系不大。他说,有些领域已经有人在做这类押注;Swyx则提醒,不要对一个尚未真正存在的标的做衍生品交易。

  • Conrad称,SF Compute非常看好Silicon Data和Compute Exchange,并将它们称为早期入场者。他认为,对方走现金结算路线、SF Compute走实物结算路线,两者可以相互促进,也可能展开合作。

  • 周边生态正在形成不同分工。Conrad提到,SemiAnalysis在推动更好的标准;此外还有残值保险,以及为云厂商垫付信用风险的押金贷款。他承认自己对个别服务商了解有限,但更广泛的趋势是,围绕算力金融瓶颈的生态正在形成。

5. 独立性支撑可编程数据中心业务

  • Conrad的判断是,NVIDIA能从这个市场受益,却很难可信地运营它;Crusoe、CoreWeave、Lambda、超大规模云厂商、Baseten、Fireworks和Modal也存在类似利益冲突。它们都不够独立,难以让交易者放心在其平台上交易;没有交易,就没有足够流动性让贷款人以远期市场为依据融资。而充足流动性可能降低整个行业的融资成本。因此,SF Compute选择不持有硬件。搭建这个交易平台,意味着放弃利润丰厚的云和推理业务:“要做成这件事,就得先把自己的业务干掉。”

  • 运营工作涵盖现场考察、物料清单、协调OEM确保设备按时交付、集群架构、机架部署和背板管理。如今,客户无需再让云厂商代劳,就能自行拆分InfiniBand网络,从而随着容量交易扩容或收缩。他们希望将“拥有硬件时本来能获得的所有东西”虚拟化,让数据中心变得可编程。

  • 资产所有者可以提供数据中心、兆瓦级电力或已接通电力的土地;SF Compute会与合作伙伴协调开发设施并接手超算运营,但不自行施工。对于希望获取GPU集群残值的投资者,Conrad提供运营保障——“SLA由我们负责”。如果投资者需要退出,SF Compute可以立即把容量卖给其他人,因此这部分资产不会留在他们的资产负债表上。

  • 这项业务主要在美国运营,也与希望成为本地云厂商的合作伙伴在全球部署。主权算力客户获得集群搭建、旧金山的专业能力,以及旧金山的算力需求方。Conrad将运营服务与融资直接相连:“我们要让它具备融资条件。”