推理革命：Groq、Nvidia 与 AI 的未来

摘要

• 在 Irish Open 大会上，Groq 创始人兼 CEO、Google TPU 发明者——主持人介绍他时称其为 Nvidia 首席软件架构师，并说他“最近有点上新闻”——与对冲基金经理 John 坐下来交谈。 他的核心框架是：AI 不存在永久性瓶颈——“每当一个瓶颈变得足够严重，人们就会解决它”，所以零部件在成为问题时可以收取溢价，但问题不大时不行；而当它们变成更大的问题，人们就会开始解决它们。
• 对今天最紧俏交易的直接推论是：内存的定价权存在自我约束。 内存曾是“半导体供应链中最商品化的环节”，这里讨论的不是奢侈品，而是吉芬商品：就像大米，价格可以一直涨到消费者转而吃玉米为止。DeepSeek V4 发布就是算法效率的一个例子，据称将很可能是 KV cache 的部分压缩了90%：“它就是那根长得过高的罂粟；一旦长得太高，就会被砍掉。”
• 他不接受以机会成本为基础、用 Jevons 悖论为内存短缺辩护的说法。 解决内存问题的工程师意味着机会成本——“如果他们有足够的内存，就会去做别的事情。”他的处方非常直接：“开始建设更多内存晶圆厂。”
• 两人长期以来的分歧，正是与投资论点最相关的地方：John 认为博士水平以上的智能存在边际递减。 他认为开源模型大约落后闭源权重模型实验室6个月，因此只要边际递减的判断成立，开放权重模型最终就会追上闭源权重模型。Jonathan 的反驳是：“对智能的需求不可能被满足”——癌症尚未被攻克、人类仍会因衰老死亡、运行某些 AI 模型的算力仍然不足；再加上人与人之间的竞争，即使模型差异细微到人类无法察觉，也会“体现在我的回报里”。
• Agentic AI 会进一步巩固最聪明模型的护城河。 “AI 喜欢使用 AI”，即使人类分辨不出差异，AI 也会识别并调用更聪明的模型。一个支持性案例是：用 LLM 筛选简历的招聘人员更偏好由自己所用模型写出的简历——所以“用 Claude Opus 47 写一份，再用 ChatGPT 写一份”。
• 他对能力不会进入平台期的判断，为持续扩产提供了支撑。 如今模型会用自己的数据生成数据、筛选数据并重新训练，“以相当线性的速度持续改进”；AI 的直觉已经超过人类。他表示，Waymo 每天产生的数据量开始接近一个人一生的驾驶数据，但不知道是否已经达到这一规模。还有一个值得保留的定义：智能是一种静态能力，即作出预测或影响结果的能力；感知性则是“智能自我提升的速度”——它是“文明的属性”，也是社会中不断加速的反馈回路。

精读

1. 两场登月式豪赌：AI 技术栈大于任何单一瓶颈

• Jonathan 开场说，人类大约60年前把人送上了月球，而 AI“即便放到今天仍是前沿技术”——算法早在1970年代就已存在，只是终于拥有了足够的算力。投资者总盯着某一层，但要让 AI 真正运转起来，需要“芯片、封装、系统、网络、数据中心……电力，以及所有这些东西”。
• 在此之上，训练和推理是“两个完全不同的问题”——就像抵达月球和在月球上着陆的区别。John 开场时的框架是：跨架构的可移植性正在下降，移植“不再只是工程上的不便”，而是一个经济劣势。

2. 瓶颈一旦过大就会被解决：内存就是那根长得过高的罂粟

• 核心规律是：“每当一个瓶颈变得足够严重，人们就会解决它。”有限但尚可容忍的组件可以收取高价；一旦问题大到无法忽视，人们就会开始解决它。
• 内存是当前 AI 最大的瓶颈，过去却是“半导体供应链中最商品化的环节”。这里用的是吉芬商品而非凡勃伦商品的类比：就像大米，涨价后消费者反而会在大米上花更多钱，直到“有人说，别再吃大米了，改吃玉米”。
• John 提到 DeepSeek V4 发布，称其将很可能是 KV cache 的部分压缩了90%，并引出了围绕这一点的 Jevons 悖论论证。Jonathan 的回答着眼于机会成本：“如果他们有足够的内存，就会去做别的事情……它就是那根长得过高的罂粟，一旦长得太高，就会被砍掉。”他的解决方案是：“开始建设更多内存晶圆厂。”

3. 长期分歧：智能的回报是否会递减？

• John 的观点是，超过博士水平后，人类“实际上无法真正理解模型之间的差异”；而如果开源模型大约落后闭源权重模型实验室6个月，那么在智能回报递减的前提下，开放权重模型最终会追上闭源权重模型。
• Jonathan 的反驳是——“我可能会让你有点意外”：“对智能的需求不可能被满足。”只要癌症尚未被治愈、人类仍会因衰老死亡、运行某些 AI 模型的算力仍然不足，智能就不够用；竞争同样不会停止——“在座各位大概都已经可以退休了……但你们仍在投资”——因此，即使模型在人类看来无法区分，它们仍会在你的回报中拉开差距。
• Agentic AI 进一步强化了这一点：“AI 喜欢使用 AI”，即使人类无法分辨，AI 也会识别并调用更聪明的模型。简历研究的说法是，LLM 更偏好由自己生成的简历，而招聘人员现在也用 LLM 进行筛选——所以要“用 Claude Opus 47 写一份简历，再用 ChatGPT 写一份”。

4. 能力为何不会饱和：直觉与合成数据飞轮

• 借用 Kahneman 关于快思考与慢思考的框架，AI 属于直觉型系统，而且由于数据规模更大，“它在直觉方面实际上比我们更强”。他说，Waymo 每天产生的数据量开始接近一个人一生的驾驶数据，但不知道是否已经达到这一规模——你只要看到工字钢从货运卡车上掉下来“2到3次”，就会准确知道该怎么做。
• 训练如今已经形成自举循环：模型生成数据，因为“能够判断什么是好的”而筛掉数据，再用筛选后的数据重新训练，能力不断上移；其改进速度“相当线性”。因此，“没有理由相信它们不会变得更聪明”，即使人类感知不到差距。

5. 感知性是文明的属性，而不是模型的属性

• 他提出了一套自己的定义：智能是一种静态能力，即作出预测或影响结果的能力；“感知性是智能自我提升的速度”，存在于一个连续光谱上，而不是非黑即白。世界顶尖围棋手的能力最终趋于平台，是因为没有更强的棋手可以与之对弈。
• 语言让信息得以在文明中传递：“智能是有机体或个人的属性，感知性是文明的属性。”AI 正在参与社会中不断加速的反馈回路——“我预计我们的孩子会比我们曾经聪明得多。”