先锋 趋势 方法 投研 作者
Jonathan Ross:DeepSeek 专题——OpenAI 和美国政府应如何回应|E1253
返回节目精读

Jonathan Ross:DeepSeek 专题——OpenAI 和美国政府应如何回应|E1253

摘要

  • Ross 的核心判断是:DeepSeek 是「Sputnik 2.0」——NASA 太空笔对俄罗斯铅笔的故事“刚刚又发生了一遍”,但 600万美元是营销话术。 “他们在训练上确实花了大约 600万美元,但在蒸馏或抓取 OpenAI 模型上花得多得多”;既然 OpenAI 据报道每个 API token 都在亏钱,它实际上“无意中补贴了这个模型的训练”。真正的创新是全自动、可验证奖励的 RL,整个过程不需要人类介入。
  • 模型如今已经赤裸裸地商品化——“如果之前还有任何疑问,现在疑问已经结束了”——而 LLM“完全没有切换成本”,云计算的类比因此失效。 如果 Ross 是 Sam Altman,他会选择“为 OpenAI 的模型开源做准备”来回应——“开放总是赢,永远如此”,Linux 已经证明了这一点——因为“很明显你会输掉这一局,不如试着赢得所有用户和他们的喜爱”,再退回 OpenAI 真正的七大力量护城河:品牌。
  • 5000亿美元的 Stargate“不是花得太多,而是花得不够”。 Ross 在 TPU 时代看到 Google 的推理投入是训练的 10–20 倍;Harry 认为 Jenson 说过 Nvidia 的收入已有一半来自推理;Ross 则认为推理占比最终可能达到 95%——“你不会为了成为心血管外科医生而训练,然后一生只有 5% 的时间真正做手术”。测试时算力进一步放大这一趋势:DeepSeek 的一次回答烧掉了 18,000 个中间 token。
  • 可交易的判断是:Harry 在 16% 的暴跌中“刚买了一大笔 Nvidia”,称这是“本世纪最明显的买入机会”。 Ross 也从称重机视角认同这一判断:Nvidia“实际上因为 DeepSeek 更有价值了,而不是更没价值”。Jevons 悖论意味着,算力成本每十年下降约 1,000 倍,消费量却上升约 100,000 倍,因此支出增长 100 倍。训练是高毛利的“主机”利基市场;推理才是更大的市场,而 Groq 承接低毛利规模业务“可能是 Nvidia 股票有史以来发生过的最好事情”。
  • CCP 的风险在数据,而且情况很快会变得更糟。 “现在 CCP 可能会把武器上的保险栓拿掉……现在我们要数据了”;Harry 认为北京把 DeepSeek 当成另一个 TikTok 的概率是 100%。与此同时,出口管制只是做戏:“你完全可以登录、刷信用卡、租 GPU”——“这就像马奇诺防线,绕过去就行了。”
  • 接下来所有人都会复制 DeepSeek 的极稀疏混合专家架构(约 671B 参数、约 250 个 2B 参数专家,每次只激活少数几个),以及基于合成数据的再训练——Llama 3.3 70B 已经通过在更好数据上的微调击败了 3.1 405B。 DeepSeek 只允许中国手机号注册,说明“他们的推理算力用完了”:训练规模取决于 ML 研究员数量,推理规模取决于终端用户数量。
  • 给基础模型公司的建议是:“转向,接受现实——直接转向。” 模型是引擎,不是汽车;当幻觉率下降时,Perplexity“处在完美位置”(在今天的模型基础上构建应用,就像“还没有智能手机时试图创建 Uber”);而欧洲的处方是:今年年底建成 100 个 Station F,明年达到 1,000 个。

精读

1. Sputnik 2.0——但 600万美元是营销话术

  • Ross 毫不掩饰 DeepSeek 的意义:“是的,它就是 Sputnik 2.0。”但成本故事是包装——相比约 600万美元的 GPU 时间,他认为 DeepSeek 在“蒸馏或抓取 OpenAI 模型”上花了更多钱;GPU 时间大致相同,都是 4,000 张 GPU 跑 30 天,与最初的 Llama 70B 相当(Llama 第一代模型的 GPU 时间成本约 500万美元,“而且它以一种好的方式让世界为之震动”)。他的总结是:“他们真的很擅长营销。”
  • 机制很清楚:Scaling law 假设数据质量均匀,但更好的数据胜过更多 token。AlphaGo Zero 展示了这条路径——训练、生成更好的棋局、重新训练、继续升级。DeepSeek 的捷径是:“既然已经有一个非常好的模型摆在那里,就让它生成数据,然后你就‘嗖’地一下直接追到它所在的位置。这就是他们做的事。”
  • Ross 拒绝“China 只会复制”的框架——RL 的创新确实来自极简设计:不是由人类给输出打分,而是“这是一个盒子,把答案输出到这里,然后检查它……完全不需要人类介入,整个过程自动化”。至于 DeepSeek 在奖励建模上的创新,他保留了一个诚实的“不知道”:“这块我不太熟……你不如告诉我你看到了什么,我可以判断它是否合理。”
  • 他指出其中的讽刺:OpenAI 可能每个 API token 都不赚钱,却“无意中补贴了这个模型的训练”——每个 token 亏一点钱,DeepSeek 则拿走了训练数据。OpenAI 很可能仍然拥有这些数据,可以直接用来训练;没必要反过来蒸馏 DeepSeek,因为“他们其实仍然更强”。

2. 出口管制是一条马奇诺防线

  • 最大的漏洞是:没人需要走私芯片,因为“你完全可以登录、刷信用卡,从任何云服务商那里租 GPU”。“这就像马奇诺防线——绕过去就行了。还需要把它封得更严一点。”
  • Groq 会封锁中国 IP 地址——“我相信我们可能是唯一这么做的公司”——但 Ross 也承认这“多少有点徒劳”,因为任何人都可以在其他地方租一台服务器,再从那里登录。他对整个管制体系的结论是:“这是一堵巨大的瑞士奶酪墙”,IP 封锁可能本来就不是正确工具。

3. CCP 会把 DeepSeek 当成另一个 TikTok——100%

  • 数据问题“可能是最重要的”:即使是善意的公司也不会真正删除数据——“他们只是在你的数据旁边写上‘删除’……数据仍然在那里。你真的认为 CCP 没有你的所有数据吗?”而且暴露是集体性的:邻居的投诉或配偶的健康数据,都可能让你陷入风险。
  • Groq 在 2016 年决定不进入 China,出发点是商业而非地缘政治,并由此形成一条公式:“你必须给 China 的钱多于从 China 拿走的钱”——同时还要交出所有数据,并接受对答案的塑形。如今的信号很明显:低温度设置下的 DeepSeek 不会讨论 Tiananmen。Ross 描绘了更可怕的版本:“TikTok 要不要禁?绝对不要,理由如下——而且它还能给出一个有条理的理由。这就有点吓人了。”
  • 他的预测是:DeepSeek 原本像一只自主行动的对冲基金,但“现在 CCP 可能会把武器上的保险栓拿掉……他们会问,为什么要把这个模型开源?现在我们要数据了。”当被直接问到北京是否会把它视为另一个 TikTok 时,Harry 的回答是:“100%。”Harry 的反驳是:TikTok 明天可以被禁掉;“但这里是开源的”——没有关闭开关。
  • Groq 为什么打破自己的规则托管 R1:DeepSeek 登上 App Store 第一名后,人们无论如何都会把数据交进去——因此不如提供一个替代方案,并承诺“我们什么都不存”——“我们甚至没有硬盘……电源一断,一切都消失。”

4. 商品化已经赤裸裸——Sam,开源吧

  • “这件事已经把模型商品化的事实彻底暴露出来……如果之前还有任何疑问,现在疑问已经结束了。”Ross 用 Hamilton Helmer 的七大力量分析每一笔投资,也要求 Groq 的每个人都填写这份分析;他认为 OpenAI 真正拥有的力量是品牌——“这个领域没有第二家”,而 Stargate 是 Sam 试图从品牌跨向规模经济。
  • 他的建议是:“如果我处在那个位置,我会开始准备开源自己的模型作为回应——很明显你会输掉这一局,不如试着赢得所有用户和他们的喜爱。”担心自我蚕食?人们仍然愿意为 Dell 而不是 Super Micro 付费,因为信任仍有价值;品牌会在产品免费后存活。唯一的问题是时机:现在做看起来像是在回应,而不是有意为之……而且它确实是在回应。
  • 开放为什么会赢:当年所有人都认为开源更不安全、bug 更多,但 Linux 仍然赢了;“现在人们反而期待开源产品更安全、bug 更少、功能更多——专有软件怎么可能赢?”LLM 完全没有切换成本,因此云计算的类比“完全站不住脚”,尽管 Linux 存在切换成本。Meta 依靠网络效应,甚至可以把一切免费送出去——“越是走向开源,他们的优势就越大。我对此完全嫉妒。”
  • 他想象中的 OpenAI 内部状态是:基层员工在问“我的股权还值钱吗”,高层则在努力维持士气。值得保留的一句话是:“糟糕决策的第一驱动力是恐惧。”他们必须做出选择、坚定投入,并且勇敢执行。

5. 5000亿美元 Stargate 还不够——推理占比将升至 95%

  • Harry 问,DeepSeek 难道不是在嘲笑 5000亿美元的公告吗?Ross 的回答是:“实际上,我觉得这还不够花。”先例来自 Jeff Dean 在 2011–12 年左右给 Google 管理层做的两页演示:第一页是好消息,机器学习终于有效了;第二页是坏消息,我们付不起这个成本——仅仅为了语音识别,就要把 Google 全球数据中心规模扩大 2–3 倍,投入 200亿–400亿美元。
  • Ross 在 Google 的那个时代看到,推理投入是训练的 10–20 倍;Harry 认为 Jenson 说过,推理如今已经占 Nvidia 收入的一半;Ross 则认为未来可能达到 95%。“你不会为了成为心血管外科医生而训练,然后一生只有 5% 的时间真正做手术——情况恰恰相反。”测试时算力会进一步加速这一趋势:DeepSeek 的一次查询在给出答案前消耗了 18,000 个中间 token。
  • 5000亿美元是否真实?Gavin Baker 在 Twitter 上算过一笔账,Ross 独立计算后得出了“惊人相似的数字”;但业内人士说他们确实有这笔钱——“可你继续追问,就会发现,可能里面有些巧妙之处。”他的判断是:Stargate 承认模型已经商品化,基础设施才是护城河;但资本开支推进缓慢,“真正的胜负手在品牌。我会尽可能聘请最好的品牌公司。”3年后的 OpenAI 品牌会“强大得多”。

6. Jevons 悖论——DeepSeek 让 Nvidia 更有价值

  • Harry 透露自己的实时仓位:“我刚买了一大笔 Nvidia”,是在 16% 的暴跌中买入的,称这是“本世纪最明显的买入机会”。Ross 借用 Buffett/Munger 的说法回应:短期市场是人气投票机,长期是称重机;从称重结果看,Nvidia“实际上因为 DeepSeek 更有价值了,而不是更没价值”。抛售逻辑假设算力主要用于训练,而便宜模型意味着需要更少芯片;这两个前提都是错的。
  • Jevons 悖论是,蒸汽机效率提高后,煤炭购买量反而增加,因为“当运营成本下降,更多活动就会变得有利可图”。Ross 说他在 Sacha 之前发过这条观点:“正如 Sacha 喜欢说自己让 Google 跳舞,我让 Sacha 跳舞。”过去 5–6 个十年里,算力成本每十年下降约 1,000 倍,消费量却上升约 100,000 倍,因此支出每十年增长 100 倍。每次 token 价格下降,Groq 看到的开发者数量都会“飙升”。
  • 关于“你的利润就是我的机会”与利润是否构成防御,Ross 的判断是:“训练是一个高毛利的利基市场”——主机业务,每年规模仍有数千亿美元——而推理是更大的市场。Groq 承接“低毛利、高规模的推理,让 Nvidia 可以继续保持漂亮的利润率”,这“可能是 Nvidia 股票有史以来发生过的最好事情”。即便在 2024 年底融资时,他仍然需要解释为什么推理优于训练;这一直是 Groq 自 2016 年以来的核心论点。

7. 接下来会复制什么:稀疏 MoE、合成数据,以及 DeepSeek 算力耗尽

  • Ross 认为,R1 大约有 671B 参数,而 Llama 只有 70B;其结构大致是 250 个 2B 参数专家,每次查询只激活其中少数几个——“你的大脑也不是每个神经元都会放电”。更多参数可以从更少的数据中保留更多信息,稀疏结构则跳过不必要的计算。Ross 回忆称,GPT-4 据报道曾经大约有 16 个专家,后来缩减到 8 个;DeepSeek 反其道而行之,“聪明之处之一就是想清楚如何拥有这么多专家”。
  • 即将到来的复制浪潮已有先例:Meta 的 Llama 3.3 70B 击败了自家的 3.1 405B,而且不是从头重新训练,只是在少量高质量数据上做微调。现在,拥有数十万张 GPU 的公司都会围绕这一架构大量生成合成数据并训练:用户少的场景使用更大模型,用户多的场景使用更便宜的模型。
  • DeepSeek 限制新用户只能用中国手机号注册,只有一种解读:“他们的算力用完了”——具体说,是推理算力。底层规律是:“训练规模取决于你有多少 ML 研究员;推理规模取决于你有多少终端用户。”这也是为什么芯片初创公司“会做得很好”。

8. 兴奋剂、研发窃取,以及欧洲的 1,000 个 Station F

  • China 实行“RDT——research, development, theft(研究、开发、窃取)……这就是文化的一部分,而且不只是针对西方公司,彼此之间也一样”。他提到,Huawei 的交换机曾经启动时显示 Cisco 的标志,“而且还带着所有 bug”。西方是否应该反过来窃取?Ross 说:“这在直觉上让我感到恶心——我真的对这个想法感到排斥。”Harry 的反驳是:和一个服用兴奋剂的人比赛,就必须服用兴奋剂。Ross 让步称,也许政府必须介入——他愿意和 DeepSeek 那些“非常聪明的人”进行公平竞争,但“政府一直在用手指压着秤”。
  • Harry 提出,CCP 可能会像补贴 BYD、摧毁欧洲汽车市场那样,为免费访问提供补贴,以换取数据捕获。Ross 希望建立一种类似冷战威慑的自动反制机制:“如果你补贴这个产业,我们就自动补贴对应产业……所以不要这么做。”Ross 直言,Xi 只关心权力维持,因此“理性讨论游戏规则,说白了不现实”。
  • Ross 认为 China 自身也在焦虑:China 最大的优势是人口,但“如果一块 GPU 等同于劳动力中的一个贡献者……China 的优势会不会被削弱?”因此,他推动 Europe 的 500 million 人口加入竞争,并给 EU 开出具体处方:“今年年底前,你们应该有 100 个 Station F;明年年底前达到 1,000 个”——每个 Station F 聚集 3,000 名创业者,再由其他风险承担者围绕他们形成网络。
  • 他最担心的是 AI 自动化网络战。Google 刚宣布首个由 LLM 发现的 zero-day;民族国家如今可以自动化扫描漏洞,而攻击又可以否认来源——“到底是 China?Russia?North Korea?还是某个友好国家伪装成其中之一?”这与核武器时代的相互确保摧毁不同,“我只是在黑你——而这可能会失控升级”。甚至声誉攻击也一样:诋毁一个公众人物“在某些方面可能比开枪杀死他更糟”,但你却可以逃脱惩罚。

9. 基础模型要转向,应用要靠工艺

  • 对于那些为基础模型亏掉“数亿美元”而哀叹的 VC 朋友,Ross 的回答是:“有多少公司在不转向的情况下取得了巨大成功?很少。转向,接受现实——直接转向。”他以 Suno 创始人(可能是他)为例:“他从一开始就看到了——模型会商品化……模型是引擎。汽车是什么?”至于 Mistral 能否活下来,他只说:“每家公司都必须找到自己的方向……转向是可能的”,这是一个对冲式回答,而不是肯定判断。真正会输的是“只想沿着直线继续走的人”。
  • Perplexity “处在幻觉——更准确说是虚构——率下降那一刻的完美位置”:届时,医疗诊断和法律工作都会打开。在那之前,这就像“还没有智能手机时试图创建 Uber”;但人们已经愿意为 Perplexity 付费,因此它可以一边等待海啸,一边乘着当前的浪。关于套壳应用与模型,他说:“所有人都说这些套壳应用没有价值;所有人也都说这些基础模型没有价值——价值到底在哪里?这正是令人兴奋的部分,我们正在发现它。”他的答案是工艺:“细节不是细节,细节就是一切。”
  • 对于行业可能触及平台期的说法,Ross 认为自动驾驶的门槛高得多,因为机器对死亡事故的容忍度为零;诗歌和代码则不同。生成式 AI 时代会被快速推进,因为“我们就是智能手机”——我们知道这项技术会走向哪里,所以所有人都在提前配置资本。如果他是 Elon/xAI,他会更看好硬件下注,却不太会选择自建模型——“Elon 为什么要这么做?直接从地上捡一个不就行了。”