AI Token 的供需|Dylan Patel 访谈
AI Token 的供需|Dylan Patel 访谈
摘要
- SemiAnalysis 正在亲历自己报道的需求爆发:去年 AI 支出还只是“几万美元”,如今 Claude Code 的年化支出已达到700万美元(录制前一周还只有500万美元),对比约2500万美元的工资总额,已超过薪资的25%,按当前轨迹,年底将“超过100%”。 Dylan 的判断关乎生存,而非可选项:“如果我不采用 AI,别人就会采用,然后击败我。”
- Anthropic 的利润率计算是本期最值得交易的数字:营收从90亿美元升至350亿至400亿美元的年化经常性收入,而算力并未同比增长,意味着毛利率底线达到72%,远高于年初融资文件泄露的“三十几个百分点”。 需求远超供给,Anthropic 完全可以“把 Opus 的价格翻倍,我也会继续付……我敢打赌,这仍然解决不了他们巨大的产能问题”。
- Claude Mythos “可能是近2年来模型能力最大的一次跃升”——Anthropic 在2个月内从相当于 L4 软件工程师的 4.6 Opus,跃升至相当于 L6 的 Mythos(内部版本于2月开放),但仅以“5倍或10倍 Token 成本”向少数网络安全场景提供;顶级银行已经获得访问权限,而 Anthropic 发布的 Opus 4.7 按其模型卡所述,“被有意地在 Cyber 能力上做差”。 模型部署正在收窄,而不是广泛开放,这就是新秩序。
- 结构性倒置在于:“想法便宜且充足,但执行非常容易”——这正是实验室发布周期从6个月压缩至2个月的原因;仅靠线性外推,4.6 Opus 级模型的纯扩散就会让全经济支出从400亿美元升至年底的1000亿美元。 若世界拥有足够算力,Mythos “可能会带来5000亿美元收入,或者类似疯狂的数字”——因此连第二梯队实验室都能卖光 Token,第三梯队实验室大概也接近售罄,实验室利润率会持续扩张,直到硬件和基础设施供应链自行抬高利润。
- “如果你不使用更多 Token,就永远无法逃离永久底层阶级。” ——你必须使用 Token、从中创造价值,并捕获这些价值。他还提出集中度风险:设想 Ken Griffin 在每次新模型发布时,每年买下“最初的100亿美元 Token”,然后碾压整个市场。
- 供给端全面售罄:DRAM“从这里还会翻倍或涨到3倍”,真正的新增产能要到2028年才会到位;随着 Hopper 和 A100 集群以更高价格续约,GPU 的有效寿命正在延长至“甚至可能7或8年”;TSMC 2028年可能“认真地”投入1000亿美元资本开支;CPU 在强化学习环境和已部署的 AI 代码上“完全售罄”;下一代 AI 机架每台搭载120颗 FPGA。 晶圆厂设备商(Lam、Applied、ASML、MKSI)“仍然被严重低估”。
- 他对未来3个月的预测是确定性的:“大规模抗议”将针对 Anthropic 和 OpenAI。 AI 的民调“比冰块还不受欢迎,比政客还不受欢迎”,而 Sam Altman 在“大约2周内两次有人向他家投掷燃烧瓶”,新闻评论区却一片叫好。他的解决方案是:Sam 和 Dario “必须停止接受采访,他们太没有魅力了”。与此同时,未来6至18个月的机器人少样本学习突破,可能进一步拉动 Token 需求。
精读
1. Claude Code 已占 SemiAnalysis 工资总额25%,并正冲向100%以上
- 去年,AI 使用支出达到“几万美元”就已经显得很重。随后 Opus 在12月底上线,总裁 Doug O’Laughlin 作为非技术人员“非常积极地……带头”用 AI 写代码;他“慢慢把整个公司都带了起来”,支出转而进入 Anthropic 企业合同,Claude Code 年化支出达到700万美元(Patrick 上次见他、一周前还是500万美元),对比约2500万美元的工资总额。“如果这个轨迹延续下去,年底我们的支出会超过100%——这有点吓人。”
- Dylan 之所以回避“人还是 AI”的选择,只是因为“我们公司增长得太快”。其他公司不会:“如果这个人用 Claude Code 能完成5到10到15个人的工作,那我突然就应该裁员了。”
- 典型案例是 SemiAnalysis 在 Oregon 的逆向工程实验室。一名曾任职于 Intel 的员工只花“几千美元 Claude Token”,就搭建了一个 GPU 加速应用,能够在芯片图像上叠加“每一种材料”——铜、钽、锗、钴——从而快速对整个堆叠结构做有限元分析。在 Intel,“那是一个完整团队负责搭建和维护的工作”。
- Malcolm 此前任职于一家拥有100至200人经济学家部门的银行,他独自搭建了一套“需要200人经济学家团队花一年才能完成”的系统:接入 FRED 和就业数据,对 BLS 约2,000项任务进行 AI 可执行性评级(目前约3%可执行),并提出“幻影 GDP”概念——产出上升,但成本下降得太快,以至于“GDP 理论上反而会收缩”。“他已经完全沉迷于 Claude 了。”
2. 不采用 AI 就会被商品化——能源电网给出的证明
- 商业逻辑很直接:SemiAnalysis 出售信息,而“如果我不持续改进,我看不出这为什么不会在相当快的速度上被完全商品化”——他在2023年的旗舰数据集,“现在基本就是所有其他人在做的事”。因此,结论上升到生存层面:“如果我不采用 AI,别人就会采用,然后击败我。”
- 多名能源分析师花了一年时间,都没能攻克约9亿美元规模的能源数据服务市场。随后 Jeremy 陷入“Claude Code 迷狂”,他负责数据中心能源,每天花费约6000美元,把美国所有电厂和所有超过特定电压的输电线路抓取下来,做成展示微区域电力缺口与盈余的仪表盘,3周内完成。能源交易员的评价是:“比 XYZ 公司更好”——而那家公司有100名员工,做了10年。“如果我不加快速度,谁会来把我商品化?”
- Patrick 反问:资金充裕的基金难道不会自己在内部搭建?Dylan 的回答是,信息的售价总是低于它创造的价值(“如果我以1美元卖给你信息,你购买它只是因为它能让你赚超过1美元”),即使 Jane Street 和 Citadel 也会持续购买,因为在其上购买并继续构建,比从头搭建更便宜。“有些人可能会尝试。”
3. Anthropic 的利润率:从泄露文件中的约30%升至72%底线
- 宏观计算是:Anthropic 的营收从90亿美元升至“现在350亿、400亿美元……到节目播出时可能已经是400亿、450亿美元”。算力并未同比增长,研发算力显然也没有被削减(他们发布了 Mythos 和 Opus 4.7),因此,即便假设所有新增算力都投入推理,毛利率底线也达到72%,而年初泄露的融资文件中只有“三十几个百分点”。
- 利润率为何能如此扩张?需求过高,使 Anthropic 可以削减用量和速率限制。“真正重要的是拥有一名 Anthropic 客户代表和一份企业合同”——他的原话建议是:“不管你是谁,只要资本足够,就应该买一份 Anthropic 企业订阅,按 Token 付费。”
- 他做了一个定价压力测试:“他们可以把 Opus 的价格翻倍,我也会继续付钱,我敢打赌大多数用户也会继续付。我敢打赌,这仍然解决不了他们巨大的产能问题。”
4. Mythos:2个月从 L4 升至 L6,而 Anthropic 正把它压在手里
- 他最近最有趣的回忆是:他和朋友 Leopold“跪在 Anthropic 一位联合创始人面前,求他给我们 Mythos 的访问权限”,而那位联合创始人假装 Mythos 根本不存在。从基准测试看,Mythos“可能是近2年来模型能力最大的一次跃升”。
- Anthropic 原本的目标是到2025年底实现 L4 软件工程师能力,这一目标由 4.6 Opus 完成。Mythos 的基准测试“像一名 L6 工程师”,并于2月在内部开放——2个月从 L4 升至 L6。“接下来是什么?”
- 发布方式本身就是故事:Mythos 仅以“5倍或10倍 Token 成本”选择性用于网络安全;顶级银行已经获得 Cyber 访问权限,而公众拿到的是 Opus 4.7,“一个糟糕得多的版本”,其模型卡承认:“我们确实有意让它在 Cyber 上表现更差。”
- 从单位经济性看,Mythos 单个 Token 成本更高,但“完成任务所需的 Token 少得多”,因此“在大多数任务上其实比 4.6 Opus 更便宜”。它也是一个实质更大的模型——“证明 scaling laws 仍然有效”——Anthropic 追求的是“一次巨大跃升”,而 OpenAI 采取“小步扩展”。
5. 想法便宜、执行容易——经济秩序重排
- 本期的主轴,用他的话说是:“过去重要的是执行非常、非常困难,而想法很便宜。现在,想法便宜且充足,但执行非常容易。所以,只有好想法才能证明在超便宜的执行上投入资金是合理的。”放到实验室身上,这正是“发布周期从过去的6个月缩短到2个月”的原因。
- 他说不确定性仍然存在,但更担心的是,当执行能力不再重要时,“社会该如何重塑自己”;真正重要的会变成选择正确的想法、销售它,并为它募集资本。
- 成本曲线下降并不是需求驱动因素:GPT-4 级能力的成本已经降至原来的1/600(DeepSeek),还在继续下降,但“没人关心 GPT-4 级模型了”——创造经济价值的是前沿模型。按今天的质量,他一年大约只需花7万美元,但这“无关紧要,因为我会使用好得多、好得多的模型”。Patrick 的经历正好说明了这一点:4.7 发布当天,他在飞行途中遭遇速率限制,“我已经无法再考虑使用4.6了”。
6. 连第二梯队实验室也卖光了——机器人是第二条增长曲线
- 对于“Anthropic 赢了,OpenAI 完了”的说法,Dylan 并不认同。Anthropic 受算力约束——“Dario 过去还嘲笑 OpenAI 在算力上过于激进,现在 Anthropic 却在说,我真希望有更多算力”——而 OpenAI 正从 Oracle、CoreWeave、SoftBank、Microsoft,甚至 Amazon 的 Trainium 获得资金和“无节制规模的算力”,为其传闻中的 [spud?] 发布做准备(据 The Information)。
- 纯粹采用4.6 Opus 级模型,就会让全经济支出从400亿美元升至“年底1000亿美元”——“这是线性外推,不是指数增长”。如果 Mythos 获得足够算力,“可能会带来5000亿美元收入,或者类似疯狂的数字”。因此,“连第二梯队实验室都会卖光 Token……第三梯队实验室大概也会接近售罄”,实验室利润率会持续扩张,“直到硬件供应链的人说,等等,我为什么不直接提高自己的利润率?”
- 机器人今天消耗的 Token 大致为零,但他认为纯软件奇点“只是一个插曲”。当前的 VLA(视觉语言动作模型)数据效率低,“可能不会成为最终实现规模化的东西”;但由于执行成本变低,他预计未来6至18个月会出现少样本机器人学习突破——先训练好的机器人模型,只需展示几个例子,再下载针对特定场景的技能(“只用于清洁黑板的机器人”)。“我个人不认为 Token 需求会放缓。”
7. 使用、创造、捕获——否则就加入“永久底层阶级”
- 本期最关键的一句话,毫不留情地说是:“如果你不使用更多 Token,就永远无法逃离永久底层阶级。”他把问题拆成3个不同环节:使用更多 Token、从中创造价值、捕获这些价值。“无聊又偷懒的做法”是每天工作1小时而不是8小时;“酷一点的做法是,我仍然每天工作8小时,但完成8倍工作,可能赚到5倍的钱。”
- 广泛部署正在收窄:实验室担心蒸馏和现实世界影响,因此“模型的部署范围会越来越窄”——他拿 Anthropic 打趣,把这个项目称作“earwig”,但也说这不是它的名字。他设想,Ken Griffin 在每次模型发布时签下“每年最初的100亿美元 Token”——“现在他会碾压市场上的所有人。”
- 没人知道能力前沿在哪里——“Anthropic 不知道这些模型能做什么,没人知道”——因此杠杆落在终端用户手中,这“对人类极其高效、令人振奋”,但“资源集中会带来什么后果?”也许一两年后,“这门生意实际上就是套利 Token。”
8. 供给:任何“还有脉搏的东西”都卖光了
- 看空 GPU 折旧的人错了:使用了3至4年的 Hopper 集群正在续签3至4年,A100 也在续签几年;有效寿命“甚至可能达到7或8年”,而不是不到5年。续约价格还在上涨,因此集群毛利率会超过假设中的35%。
- 最强的判断来自内存:产能每年仅增长20%至30%,真正的新增供给“要到2028年,最早也要到2027年末”才会出现,因此“DRAM 从这里还会翻倍或涨到3倍”——因为必须通过需求摧毁来挤出产能:“我们这里不是在做配给。”那些认为内存故事被夸大的人“根本没看懂”。
- TSMC 表示今年资本开支为560亿美元;Dylan 说:“从1月以来我们已经有574亿美元了”,而且“说真的,他们2028年可能会投入1000亿美元资本开支——人们就是无法想象”。然而 TSMC 只提价个位数百分比,“因为他们是好人,至少看起来是这样”;与此同时,晶圆厂设备商 Lam Research、Applied Materials、ASML、MKSI 仍然“严重被低估”,随着资本开支尾部“被越甩越高”,ASML 已经售罄,“需要 Carl Zeiss 更快扩产”。从铜箔到 PCB 玻纤,售罄的投入品吸引预付款,即使毛利率不变,也会推高投入资本回报率。
- 被忽视的算力层是:强化学习环境,以及所有已经部署、运行在可能是 Vercel 或 AWS 实例上的 AI 生成代码,都依赖 CPU,而 CPU 已经“完全售罄”;下一代 AI 机架每台搭载120颗 FPGA。
9. 他算不出来的数字——以及他预测的抗议
- 他最想知道的是使用端的 Token 经济学。他对基础设施成本和实验室利润率的建模很成熟,但采用速度不断击穿模型——“1月时,我们对2月有着疯狂的估计,Anthropic 把它们打爆了”,到了3月又是如此。“到底是谁在使用这些 Token?他们用 Token 构建了什么?”
- 更深层的测量难题又回到了幻影 GDP:Token 的价值以全经济更优决策的形式扩散开来,“并不是 GDP 统计中的某个指标能真正捕捉到的东西”。“按照任何主观指标,它显然都很惊人。但幻影 GDP 到底在哪里?”
- 他直截了当地预测未来3个月会出现:“大规模抗议”,目标是 Anthropic 和 OpenAI。“AI 的受欢迎程度低于冰块,低于政客——我不明白 Pew 是怎么做出这个调查的。”Sam Altman“大约2周内两次有人向他家投掷燃烧瓶”,新闻文章的评论区却在叫好。“这只是开始。”
- 他的反制方案同样毫不客气:“Sam Altman 和 Dario 必须停止接受采访。他们太没有魅力了……Sam 上 Tucker Carlson 可能让所有共和党人都讨厌 OpenAI。”应该展示当下的生产率提升,停止向那些把实验室视为“一个由5,000人组成的阴险密谋集团”的人宣讲未来改变世界的能力——“必须进行一次大规模重组和品牌重塑。”