模型能力终将普及，AI 的终局是能力与成本之比｜对话 Google DeepMind 研究副总裁 Ed Chi

摘要

• Ed Chi 的判断是，模型能力可能逐步普及（commoditize），但并非所有能力都会如此；当能力普及后，竞争关键在 capability over cost。 Google 作为 full stack 公司，涵盖模型、application、hyperscaler、token factory、chip 和能源；他称 Google 有能力以最低 cost 提供 token，这“可能会成为未来最重要的护城河”。“所有经济问题最终都是 capability over cost，这是毋庸置疑的。”
• 模型能力差距变小后，value creation 可能往 application 和 token factory 两端走——这是他给创业者的方向判断。 application 端的护城河是用户 lock-in、stickiness 和体验；hyperscaler 端则涉及成本问题：能源用量、chip design、memory 与 computation 的关系、多少跑在 on-device 上。“这些都还是 open questions，非常 exciting。”
• 通用助理仍处极早期，他预测六个月到一年内，通用助理与 AI Mode Search 的 interface 关系会更清楚。 Instinct、Muse Spark 这类产品想从问答走向代办（订机票、买东西），但受制于权限与 reliability——人们担心把信用卡交给通用助理后，它到处乱买东西；confirmation 层面的新 data 还没真正看到。他的 “Grandma Test” 是：当奶奶指着机器人骂“你怎么这么笨”，通用助理的时代才真的到了。
• 开源模型追上闭源模型的原因之一，是他与合著者写的 Chain of Thought 论文；开源模型用 CoT 方法发掘并复制推理方式，而大厂正尝试把思维链藏起来，降低被复制的可能。 他认为这件事还不能说成定论：部分能力确因蒸馏而变得更 commoditize，但 multimodality 等能力目前还看不出会 commoditize。
• DeepMind 近期发表的小模型主要服务应用，大模型仍在开发；Google 放弃模型开发“完全不可能发生”。 用户期望 Google 拥有自己的技术，有一种技术 sovereignty 的意味；大小模型的资源分配“连大厂内部都是难题”。他提到湾区 “AGI-pilled” tech bro 对 ultra-size model 的热爱——他们相信 software took over the world、做好 coding 就能 take over the world；他个人不希望应用完全依赖 ultra-size model，因为运算所需能量太高。
• Memory 是尚未被想清楚的 bottleneck：Transformer 的 context buffer 目前大约可做到 100 万或 200 万 token，在他看来完全不够。 他的核心框架是：memory 不只是存储与提取，也是 ranking 问题（说 Paris 时，想起哪些记忆是排序，而非所有相关内容一齐涌出）；从认知角度看，memory 也是用来 program AGI machinery 的 program。面对主持人提到的 DRAM、NAND、HDD 可能短缺，他认为 memory 与 computation 可互相转换；有长远投资计划，就比较不会担心一时的 memory 短缺。
• 泡沫是局部性的而非整体性的：physical intelligence 可能有不切实际的预期，很多模型的 visual reasoning capability 也“非常糟糕”。 若你相信 agent 解决 software 就解决一切，他刚才讲的很多东西就不适用；若不信，“我们还有很多戏可以唱”。推理能力三四年间从小学数学（当年 accuracy 仅 33%）发展到解决 Navier–Stokes 方程；下一个更 exciting 的变现机会，他看好 consumer 崛起——consumer services 一直是 Google 的强项，也是他留在 Google 的原因。

精读

1. 推理能力三四年从小学数学走到 Navier–Stokes，但目前仍集中于特定领域

• Ed Chi 的 panel recap：过去三十年、特别是前二十年，关注点多在 recommendation 与 search；近十年靠神经网络的 next-token prediction 与 Chain of Thought 发掘机器的基本认知与推理能力。下一步的学术问题包括更复杂的 reasoning、memory，以及 RSI（recursive self-improvement）。
• 他反复用的时间轴：三四年前写 CoT paper 时在解决小学生数学题——“买了 5 个 apple，再买 6 个 apples”，accuracy 只有 33%；今年已经在解决 Navier–Stokes equation 这类困难的物理或数学问题。他指出推理能力目前仍集中在 specific domain：“我是高尔夫爱好者，它对杆、球、equipment 的推理能力有多少？这跟数学不一样”——做应用必须先搞清模型在不同领域的推理 level。

2. 通用助理：Grandma Test 与六到十二个月的 interface 之争

• 他对 Instinct、Muse Spark 这波热潮的定位：Google 的 AI Mode Search 从 search 发展成搜索或问答；这些产品则想从问答走向通用助理——订机票、订旅店、买东西。卡点在权限与 reliability：人们担心把信用卡交给通用助理后，它到处乱买东西；至于买对买错的 confirmation 问题，“事实上还没有真正看到新的 data”。他的预测是六个月到一年之间，通用助理与 AI Mode Search 的关系和 interface 会更清楚。
• 护城河与用户体验的容错边界有关：用户只要遇到一次很严重的错误，就可能对产品改观。这和雇真人私人助理时的容忍度问题类似。他的 Grandma Test 是：“当有一天你的奶奶指着机器人骂它‘你怎么这么笨’，你就知道通用助理的时代真的到了。”奶奶对通用助理的期望很高；产品与科学两方面都还在探索这个 boundary。

3. 生态两边都是空白：consumer hardware 与入口形态均无结论

• consumer 生态分成 hardware 与 software 两块。hardware 端的大问题是 on-device 与 not-on-device model 的 interaction——Apple 提过 hybrid intelligence，但 consumer hardware 未来怎么发展，在他看来仍是很大的空白。software 端如今讲的是 services，而不是 downloadable app；入口未定：经由 search、手机、智慧眼镜还是其他 device？进入通用助理时代后，不应该还要整天往机器人身上下载 app——这是十五年前就在担心的问题。
• 主持人问现象级产品会出自 Google、Meta、Apple 还是初创公司，他认为“从哪儿来可能反而没有那么重要”；重要的是怎么普及、什么才是正确的人机 interface。新创做出来也可能被大厂收购；投资人与开发者希望有一个 healthy ecosystem。他还提到智慧音箱做了四五年后“突然好像没人在做了”，但从私人通用助理的角度看，在冰箱上放个荧幕、连着 Internet，如今比七八年前容易多了——consumer hardware 依然相当 exciting。

4. DeepMind 的小模型节奏、AGI-pilled 与 capability over cost

• 回应人事变动与发布节奏的提问，他强调 Google 没有停下脚步，仍在发展模型；近几个月发表的多是小模型，因为通用助理、个人化等应用需要小模型。大模型也在开发中，“可以拭目以待”。大小模型的资源分配“连大厂里面都是一个难题”、见仁见智。他对湾区 “AGI-pilled” tech bro 的描述是：他们相信 software took over the world，做好 coding、做好 software 就能 take over the world，“所以才会造成对 ultra-size model 的热爱”。他个人不希望未来的应用完全依赖 ultra-size model，因为运算所需能量太高。
• Google 不可能放弃 model development：用户期望 Google 拥有自己的技术，而不是使用别人的或 open-weights model；这也许是一种技术 sovereignty。Google 的优势是 full stack——从模型开发到 application 与 services，往下到 hyperscaler、token factory、chip 开发及能源使用和控制。他说 Google 有能力以最低 cost 提供 token，这可能成为未来最重要的护城河；如果模型 capability 普及，重要的是 cost control，“所有经济问题最终都是 capability over cost”。
• 主持人追问 CapEx、现金流与 AI 应用收入的担忧时，他区分短期与长线视角：短期公司只会想着 quality、accuracy；以五年、十年为投资眼光的公司，还要思考未来该优化什么 metric，不只是 capability，也包括 capability over cost。Google 的做法是到有可能的地方投资、各处 double down；模型、application、chip 和整个 full stack 都在创新。

5. Memory 是没被想清楚的 bottleneck：它是 ranking，也是 program

• 主持人提到 DRAM、NAND、HDD 可能短缺。Ed 的框架是 memory 与 computation 可以互相转换：“有一个很长远的 investment plan，就比较不会担心一时的 memory 短缺，因为可以用 computation 来代替。”研究层面的问题包括计算方法需要多少 memory 和 bandwidth，以及神经网络设计是否应该降低 memory requirement。他举 Delta Attention Model 为例：它使用 memory 的方式不同于 full attention（O(N²)）与 sparse attention；此外还有个人化记忆、KV cache 等问题。
• 两个 bottleneck：一是 Transformer 的 context buffer 目前大约能做到 100 万或 200 万 token，在他看来完全不够；二是认知层面——大家仍把 memory 当作存储与提取的 retrieval 机制，但从人类认知角度看，“memory 也是一种 program……一个用来 program AGI machinery 的 program”。研究者还没有把 memory 这件事想清楚。
• 主持人提到人脑能主动遗忘、学习新东西并压缩旧信息，他接着指出，很多学过 computer science 的人会以为机器 memory 不需要忘记；但 memory 也是 ranking 问题：“比如说 Paris，你会想起去巴黎时有什么记忆，这事实上是一个 ranking 问题，而不是所有跟 Paris 有关的东西一下子全涌出来。”硬件领域也有人在探索 memory 与 computation 的新结合方式，未来几年可能会有新发展。

6. 价值往两端流：开源蒸馏的边界、局部泡沫与 consumer 崛起

• 若今天创业选什么方向？他观察到模型 capability 开始有一点 commoditize 的趋势，但并非完全如此；只要最好与最差模型之间的 gap 变小，value creation 就可能往 application 和 token factory 两边走。application 端拼用户 lock-in、stickiness 与体验；hyperscaler 端则涉及能源、chip design、memory 与 computation 的关系，以及未来有多少会在 on-device 上运行。
• 开源 vs 闭源的 gap：开源模型追上的原因之一，是用他与合著者的 CoT paper 方法发掘模型里的思维链，并复制推理方式；大厂现在有很多工作在想办法把推理链藏起来，以降低被复制的可能。他认为不能把这件事说成定论：有些能力会因蒸馏变得更 commoditize，但有些能力至今看不出会 commoditize，multimodality 也是他举的例子。
• 泡沫问题他拒绝一刀切：不觉得整个 market 都是泡沫，但不同地方可能有不同的泡沫；physical intelligence 领域可能存在不切实际的预期，很多模型的 visual reasoning capability 也“非常糟糕”。分歧取决于信念：若你认为用 agent 解决 software 就解决了所有问题，他刚才讲的很多东西就不适用；若不是，“那我们还有很多戏可以唱”。
• 他看好 consumer 这一块接下来的崛起，并指出 Anthropic、OpenAI 的 revenue 有很多由 enterprise subscription revenue 带动。consumer services 一直是 Google 的强项，这也是他留在 Google 的原因。
• 收尾的 AlphaGo 类比回应“孩子还该学数学吗”：十年前 AlphaGo 与棋王对决后，很多人说人类以后不下棋了，结果后来下棋的人反而更多。数学也一样；过去有人为了 exploration、探索知识边界，现在还会有 understanding、entertainment 或乐趣等动机，未来做数学研究的人可能更多出于内心的 curiosity。同理，大语言模型出现后，有人觉得 search engine 不再那么 relevant，但 Google 反而看到 search application 在增加。他不否认 AI 会改变现有结构，也认为它会带来新的可能性。