主题 先锋 趋势 方法 作者
返回先锋
Walter Goodwin
开发者 2 场深度对话收录

Walter Goodwin

正在生成长图…

观点集合

20VC:挑战 NVIDIA:Fractile CEO 谈芯片的未来|资本开支到底哪里被看错了|Walter Goodwin 谈新云的赢家与输家

20VC

Fractile 押注在逻辑芯片上方堆叠内存,以兼得接近 SRAM 的带宽与 DRAM 的容量,服务长时间运行的智能体。Goodwin 预计,推理模型会通过延长运行和并行调用智能体大幅增加算力需求,而土地与电力约束让每兆瓦吞吐量更关键。Fractile 已拿到流片芯片,完整产品流片还要“几个月”;机架级可靠运行和量产规模仍是关键里程碑。

查看摘要(7段)
  • Fractile 的押注是,更快的推理需要不同的内存架构。 Goodwin 表示,新平台相信自己能在特定工作负载上实现成本或速度提升逾 10 倍;Fractile 则希望通过在逻辑芯片上方堆叠内存,同时提升两者。目标是为长时间运行的智能体提供接近 SRAM 的带宽和 DRAM 的容量。Fractile 已拿到流片芯片,但完整产品的流片还要“几个月”。
  • Goodwin 预计,即使智能服务的成本持续下降,推理需求仍会不断增长。 训练是工厂的固定成本,最终必须靠部署证明建厂合理。推理模型通过延长运行时间和并行调用智能体,双重拉高算力消耗;他预计 10 年后算力需求将达到现在的“数千倍”,模型运行支出也会大幅增加。
  • 电力约束让高效芯片更具价值。 Goodwin 表示,土地和电力是数据中心容量的根本限制,而能源是 AI 长期最根本的投资敞口:“买能源。”在电力额度固定的情况下,若更快推理牺牲整体吞吐量,成本就会很高。他提到中国的大型水电项目,并认为英国应增加可再生能源、核能及其他电力供应。
  • 前沿模型仍有定价能力,而能力合格的新云厂商则更难拉开差距。 DeepSeek 优化后的服务栈说明,即使是开源模型推理,行业也没有完全陷入价格战。Goodwin 更看好拥有企业客户渠道、业务灵活的推理服务商,而非重资产的新云厂商;他预计这一领域会出现“几家市值数千亿美元的公司”。
  • 芯片编排可能只是阶段性机会,未必能成为持久的控制点。 Goodwin 认为,把工作负载拆分给不同专用处理器,会形成固定的硬件组合;模型和上下文变化后,这套组合可能就不再合适。运营商必须从有限的兆瓦电力中尽可能多地创造收入,闲置产能“完全不可接受”;Fractile 希望在单一平台上兼顾速度、容量和算力。
  • Goodwin 预计,Nvidia 将在 5 年内成为一家 10 万亿美元的企业。 他的依据既包括 incumbent 的供应链优势,也包括芯片更换带来的需求:他说,今天装进数据中心的每颗芯片,最多 6 年或 7 年后都会被替换。“互联网泡沫让我们受了太大冲击,以至于从一开始就把繁荣预期计入价格了。”
  • Fractile 的 7.2 亿美元 C 轮融资,将用于供应链承诺和更广泛的产品路线图。 本轮融资对应 70 亿美元估值,资金将支持后续代际产品、系统、网络,以及内部机器学习实验。Goodwin 强调要“多线下注”:除了造出第一款产品,还要预测工作负载,并提前数年锁定零部件。

读精读全文 →

收听完整访谈 →

前沿模型架构的未来:Fractile 创始人兼 CEO Walter Goodwin

No Priors

Fractile押注前沿推理将受内存带宽与成本约束,而非单纯算力,并转向预计明年下半年运行的DRAM架构。Goodwin称单芯片带宽可达HBM架构的25倍,或令高稀疏MoE模型更具经济性;但制造周期、爬坡和3至5年摊销仍是约束。

查看摘要(7段)
  • Fractile 的核心押注是,前沿模型推理受限于内存带宽和内存成本,而不只是算力。 Goodwin 希望把 DRAM 的容量和经济性,与 SRAM 系统所代表的“每秒数千个 token”结合起来,从而支持长上下文智能体以及拥有数万亿参数的模型。

  • Goodwin 认为,今天 AI 芯片的多样性,很多只是品牌包装下的架构相似。 NVIDIA 和 AMD 的 GPU、云厂商 ASIC 以及 TPU,普遍依赖 HBM、tensor core 和 TSMC 先进封装。Fractile 的差异化在于,试图在整条技术栈上推动创新,而不是完成前端设计后将物理实现外包。

  • Fractile 在判断模型规模和上下文长度会超过 SRAM 承载能力后,放弃了最初的 SRAM 架构。 SRAM 能提供极高带宽,却缺乏具备成本效益的容量;即便是高速推理芯片,处理长上下文时也可能不得不回退到 GPU。公司转而追求“从全球最便宜的内存”DRAM 中获得极高带宽的平台,预计明年下半年全面投入运行。

  • 公司约 150 人的垂直整合团队,旨在缩短工作负载研究、架构、物理设计、封装和晶圆厂协作之间的反馈周期。 Goodwin 认为,能否在部署中胜出,可能取决于能否结构性地锁定 3 至 6 个月的领先:“如果你能找到一种结构性锁定 3 至 6 个月领先的方法,所有这些落地都会由你赢下。”

  • AI 可能大幅压缩芯片开发周期,但无法消除制造时间或芯片的经济约束。 晶圆厂周转仍需 3 至 5 个月,量产爬坡需要 12 至 18 个月,而一款具备财务可行性的芯片需要 3 至 5 年的摊销周期。因此,设计提速意味着手上同时推进更多“押注”,而不是每几周交付一款全新处理器。

  • Fractile 声称,单芯片带宽可达到 HBM 架构的 25 倍,进而可能改变哪些模型架构具备经济性。 Goodwin 以混合专家模型的稀疏化为例:从 1:16 向 1:128 或 1:256 推进,可能大幅节省计算量,但当前加速器会受带宽瓶颈制约。过去 20 年,算力大约增长了 100 万倍,而内存带宽只增长了约 40 倍。

  • Goodwin 预计,即便前沿实验室开发自研芯片,也会继续向多家硬件供应商采购。 自研芯片可以带来议价能力、供应多元化和控制权,但排他性依赖风险极高:如果竞争对手在算法效率上实现 5 倍突破,实验室可能在重新设计硬件的 9 个月里陷入停摆。独立平台依然有价值,因为它们让实验室能够在模型层面竞争,而不必把生存押在单一路线的架构上。

读精读全文 →

收听完整访谈 →