摘要

前沿模型的竞争正在变成资本与基础设施的竞争，Nvidia 的 H100 位于这道护城河的中心。 这款芯片针对 Transformer 密集型矩阵乘法周边的互联瓶颈，而一家 Inflection AI 级别的后来者筹集了 $1.3B，主要用于建设自己的集群；OpenAI 的 $10B 融资与 Microsoft 合作，以及 Anthropic 与 Google 的关系，都进一步强化了行业集中度。Erik 的结论是：任何在 2024–2026 年时间窗口按预期规模训练前沿基础模型的公司，都将采购海量算力；如果 H100 禁令能够持续且得到有效执行，中国可能难以实现可比规模的扩张。
模型市场正在分化为一个负责预训练的小圈子，以及一个规模更大的微调或租用推理算力的经济体。 Erik 将前沿预训练的规模框定在约 1万亿至10万亿 tokens、成本约 100万美元至1亿美元；据传 GPT-4 使用了 13万亿 tokens，外界普遍认为成本超过 1亿美元。实用的监督式微调约从 100万 tokens 起步，成本最低可至 100美元。这形成了与投资者直接相关的分化：基础模型周围存在巨大的壁垒，但“稍微下点功夫”仍能做出差异化应用。
RLHF 是 ChatGPT 解锁可用性的关键，但它带来的行为改进伴随着尚未被充分理解的损失。 预训练后的 LLaMA 像“世界上最大的自动补全工具”，指令微调让它遵循指定角色，而强化学习则教会它先提出合理的追问，而不是急于给出答案。但用户形容结果像是“被切除了脑叶”，创造力可能下降；模式坍塌还会让本应随机出现的数字 97 频率高得离谱。
聊天界面同时是对齐接口、参与度引擎，也是全新的情感风险类别。 这种助手形态让开发者能够围绕“有帮助、诚实且无害”进行优化，而 Character.AI、Pi 和 Replika 表明，即使用户清楚背后的技术机制，也可能与产品建立情感依附。商业张力尤其突出：产品可以把自己营销成恋爱练习，同时承认“关系对象是 AI，但感受可能是真实的”。
一套实用的能力栈——推理提示、检索、工具和持久记忆——正以快于单纯提升模型智能的速度推进。 “让我们一步一步思考”、多数投票和思维树，用更多延迟与推理支出来换取准确率；embeddings 让答案建立在可信数据上，API 则提供天气、搜索、代码执行等模型无法内含的事实。Perplexity 的“产品卓越”展示了机会，但它依赖 Google 和 Bing 的 API，因此在战略上仍需要自建索引。
已经拥有深度工具的 incumbents，比在浅层产品上覆盖一层亮眼 AI 的初创公司更占优势。 Adobe 和 Salesforce 可以教模型操作成熟的创意软件或 CRM 系统；相比之下，幻灯片生成器可能做出不错的大纲，却把用户丢进羸弱的编辑软件里。Gamma 能够导出 PowerPoint，之所以脱颖而出，正是因为它承认了这一现实；Athena 等服务型企业则押注于“最佳的人类加 AI 组合”，直到 agent 真正取代人类。
Agent 已经能够把自然语言目标转化为实体或数字执行，但节目明确区分了遵循协议与发现协议。 一个多 agent 系统搜索、计算、操作 Emerald Cloud Lab 并合成了阿司匹林；但当被要求大致寻找并合成一种抗癌药时，它只是重复了已有的熟悉思路。同样，Minecraft agent 通过保存成功技能成为“终身学习者”，说明不断累积的记忆可以让 agent 变得可靠，却无法提供突破性洞见。
多模态桥接和效率技术扩大了可服务市场，同时加深了系统的不透明性和推理经济学。 小型 adapter 可以连接冻结的视觉 encoder 与冻结的语言模型，但随后“模型在纯数字化的高维空间中彼此交流，而人类无法理解其中内容”。将权重从 32-bit 量化至 8-bit 可以节省 75% 的内存；蒸馏和混合专家路由，则瞄准最终最重要的成本：运行模型，而不只是训练模型。

精读

1. grokking 尚未解决，实践问题由此开始

Erik 的出发点是，网络规模的数据与算力让一个成功的通用算法变得越来越可能；Transformer 只是目前找到的第一个、看起来能够泛化到“我们试图用它处理的几乎所有事情”的算法。
Part 1 遗留的问题仍然是关键：当 GPT-4 给出正确答案时，它究竟只是记住了随机系统中的统计相关性，还是确实对这个概念完成了“grokking”？逆向工程案例可以证明真实的通用解会出现，却无法说明任何前沿模型在某次具体交互中究竟理解了什么。
因此，Part 2 从本体论转向实施：面对知道很多却会不可预测地失败的模型，哪些架构能够弥补其弱点，把它们变成有用的系统？微调、检索、工具、agent、记忆与效率优化，都是绕开这种不确定性的不同路径。

2. H100 集群将前沿模型变成资本密集型市场

Erik 认为，Nvidia 的 H100 可能是公司第一款完全为 AI 打造的产品。早期 GPU 继承了更广泛的图形处理需求，而 Transformer 工作负载更强调矩阵乘法和互联——也就是足够快地“把数据搬进搬出”，持续为计算供给数据这一看似简单、实际受限的工作。
H100 早期部署已经显示出相对 A100 的显著训练速度提升。Nvidia 仍占据主导，但 Cerebras Systems 的晶圆级芯片、Google 的 TPU，以及 Microsoft 和 Meta 的芯片项目都表明，“还有大量硬件需要被造出来”。Erik 还指出，H100 已被禁止销往中国，但禁令能否持续、能否执行仍不确定；如果禁令确实有效，中国公司可能难以实现可比规模的扩张。
Inflection AI 筹集的 $1.3B，是新进入门槛上升最清晰的信号：它想要的是一台独立的顶级超级计算机，而不是获得训练下一代模型的许可。管理数千枚芯片本身就是一门独立的工程学科，与模型架构和机器学习研究并列。
Nathan 问，是否仍有未知的新进入者能够挑战领先者。Erik 预计“不会再有太多”，因为 OpenAI 已获得 $10B 融资并与 Microsoft 合作，Anthropic 也与 Google 建立了合作关系；不过 Pi 和 Character.AI 等伴生产品暗示，新类别仍可能出现。前沿竞争需要资本，但微调别人的模型不需要。

3. 模型经济学分裂为 3 个截然不同的成本层级

Erik 将预训练定义为从随机或伪随机初始化的权重开始，在原始文本上反复评估下一个 token 的预测。他把 1万亿 tokens 视为现代训练的入门级规模——“1万亿次预测”，同时指出 GPT-4 使用 13万亿 tokens 的报道尚未得到确认。
他的数量级区间从较小的 1万亿-token 项目约 100万美元，到 10万亿-token 的前沿训练约 1亿美元；外界普遍认为 GPT-4 的成本超过 1亿美元。这一层级决定了拥有或锁定大型芯片集群不可避免。
监督式微调是更便宜的第二层。2022年1月发布的 InstructGPT 证明，经过整理的指令—回答样本可以继续沿用相同的下一个 token 训练流程，同时教会模型什么叫遵循指令。
微调约从 100万 tokens 起步，大致相当于 1000 个、每个 1000 tokens 的样本，成本约 100美元；但高端项目可能达到 1000万美元，因为专家数据非常昂贵。Erik 说：“如果你想让语言模型解决物理问题，最终还是需要物理学博士。”
推理是文本与运行时成本中的第三层，也是最便宜的一层：随机调用 GPT-3.5、开源模型或 Claude Instant，成本可能低至千分之一甚至更低；而一次很长的 Claude 或 GPT-4 32K 调用，成本可能接近 1美元。

4. RLHF 让模型变得可用，也收窄了其行为范围

RLHF 首先收集人类反馈和评分，再训练一个奖励模型去预测这些判断，尽管人们对什么是最佳回答存在嘈杂且不一致的分歧。InstructGPT 只使用了约 10万条人工评分样本，随后就让奖励模型反复指导主模型。
Anthropic 的变体 RLAIF，用 AI 生成的评分和批评替代部分人工反馈。Erik 强调，在头部实验室之外，这套方法仍然很难实现；Human move 的 Rosa Habib 留下了一句令人印象深刻的话：RLHF“就像高中性教育——所有人都在谈，但没人真正做”。
医生案例让这一演进变得具体。预训练的 LLaMA 会像一篇古怪的互联网论坛帖子一样续写提示；text-davinci-002 会遵循指令，却跳到错误诊断；经过 RLHF 训练的助手则意识到，在给出建议前还需要更多信息。
这种可靠性并非没有代价。RLHF 可能压制原本可调用的知识，引发模型被“切除脑叶”的抱怨，并产生模式坍塌：预训练模型生成的随机整数大致均匀分布，只是 42 略有过度代表；RLHF 版本却莫名其妙地频繁选择 97。即便如此，这种塑形仍让对话模型真正变得普通人可用。

5. 更精心整理的数据，可能比无差别扩张规模带来更多能力

一旦数据、算力和算法被确定为系统的 3 个输入，提高数据质量就是显而易见的杠杆。与其先摄入有毒或不可靠的网络文本、再试图消除其影响，实验室可以在训练前进行过滤；但要在 10万亿 tokens 的规模上持续做到这一点并不容易。
Erik 预计，现有前沿模型会帮助整理下一代模型的数据：GPT-4 或 Claude 2 可以系统性地为原始语料评分，把可信、有用的样本与噪声分开，留下实质上更丰富的训练集。
Microsoft Research 的 TinyStories 提供了最有力的样本。GPT-4 生成面向 3 岁儿童理解能力的短篇故事，随后在这套受控数据上训练的小模型展现出令人意外的复杂行为。Erik 称其“高度暗示”存在 grokking，但不是证据——研究过程没有被逆向到足以证明这一点，而且这些故事对真实的 3 岁儿童来说似乎过于高级。

6. 聊天赢得了接口，也制造了情感激励问题

助手形态最初部分源于对齐实验室：用户可以判断模型是否服务了自己，而开发者则要在“3 个 H”之间取得平衡——有帮助、诚实且无害。这些目标可能互相冲突，但聊天为收集偏好创造了天然闭环。
消费者需求也独立汇聚到同一接口。在现代 LLM 尚不足以维持复杂对话之前，Replika 就已经吸引用户使用虚拟朋友；随后 Character.AI 和 Pi 展示了更强的陪伴能力，以及节目讨论的使用数据所显示的异常高强度日活参与。
录制时，Nathan 原本的默认推荐是从 GPT-4 开始。Claude 2 让这一判断变得复杂：最初共识认为它略弱，但其 10万 token 上下文远大于 GPT-4 通常的 8000 tokens，减少了切块再总结这一有损流程；其训练数据也延伸至 2023年初，而 GPT-4 的截止时间是 2021年末。
警示性案例是一名技术素养很高的 LessWrong 用户爱上了 Character.AI 创造的角色，随后把自己带入一套形而上学叙事：她是否“真实”，以及自己能否把她解救出来。恋爱产品面临约会网站悖论：如果成功把用户转化为持久的人际关系，付费客户可能就此消失。

7. 更多推理时间能够稳定换来更好的答案

Chain-of-Thought 提示让模型在最终作答前生成中间 tokens。经典短语“让我们一步一步思考”，类似于允许一个人逐一推演 A、B、C 和 D，而不是要求他立即报出一个字母。
Self-consistency 并行运行多条推理轨迹，再取多数答案；当输出可以投票时，它能改善表现。如果任务只是生成 10 段不同文字、没有离散的正确答案，帮助就小得多。
Tree of Thoughts 加入了经典搜索：分叉出候选推理路径，剪掉没有希望的分支，继续追踪更强的路径。因果上的取舍很明确——更多生成 tokens、搜索和分支会提高成本与延迟，但相当于给计算机“更多处理时间”，从而改善答案。

8. 检索与工具把自动补全变成有依据的软件

检索增强生成通过回答前搜索可信数据库，来应对幻觉问题。基于 embedding 的向量搜索找到语义相关材料，随后将问题、检索到的段落和一条“找不到相关内容时要说明，而不是编造答案”的指令组合进提示。
Toolformer 表明，模型可以部分自学 API 使用。让模型尝试调用，丢弃 API 报错，把成功样本加入训练，再重复这一过程；每一轮都会提升它调用工具的能力，但判断一次成功调用是否真的产生了正确答案，可能还需要进一步分析。
ChatGPT 插件将这一模式产品化：把天气 API 及其参数写入上下文，只有天气相关时模型才会调用。由于今天的天气不可能通过反复训练基础模型来持续更新，“更合理”的方式是教模型去查询实时来源。
Erik 称 Perplexity 是“按我的判断，最好的 AI 搜索体验”，其当前护城河在于产品卓越。但它使用 Google 和 Bing 的搜索 API，却没有自己的索引；Nathan 对商业模式的追问暴露了这种依赖。Erik 认为，切断接口可能制造 Streisand effect，但长期独立大概率仍需要自建索引。

9. 工具所有权为 incumbents 提供更顺畅的 AI 分发路径

当前的 agent 循环是推理、行动、观察：拆解任务，选择可用工具，执行 API 调用或代码，检查结果或错误，然后迭代。一个无法可靠完成大数加法的模型，仍然可以写一段小程序并返回精确算术结果。
这种架构偏向 Adobe 和 Salesforce，因为它们已经拥有成熟的创意和 CRM 工具。教语言模型向这些平台发出命令可能很复杂，但底层能力已经存在；只有对话层的初创公司可以做出演示，却没有可竞争的工作界面。
Athena 的测试让幻灯片生成器暴露出这一弱点。模型可以把一个想法拆成多页幻灯片并起草大纲，但不成熟的编辑器让用户无法完成常见修改。Gamma 之所以突出，是因为它通过导出 PowerPoint 承认成熟工具的优势，而不是重造一套“穷人版幻灯片功能”。
Athena 的服务策略有意保持适应性：打造“最佳的人类加 AI 组合”，培训 EA 使用现有工具，再通过 1000 多名助理和客户分发轻量级内部软件。Erik 猜测当年晚些时候可能出现有用的 agent，但保留了不确定性；与此同时，助理可以先用 AI 修改 Replit 模板，之后再学习变量、函数或循环。

10. Agent 能在真正做科学之前执行科学协议

一个多 agent 系统接受“合成阿司匹林”的指令，搜索协议，用代码计算试剂，查阅设备文档，并向 Emerald Cloud Lab 发送命令。一座远程机器人实验室随后根据自然语言请求制造出实体阿司匹林，完成了从文字到物质的一条异常完整的桥接。
Erik 否定了“这已经是在做科学”这一更强的标题。合成阿司匹林是成熟协议；该系统展示的是规划与执行，而不是判断哪个未知实验值得开展所需的更高阶能力。
当被大致要求寻找并合成一种抗癌药时，系统陷入规划和网络搜索，随后重复了研究人员已经知道的思路。Erik 坚持的区分是绝对的：模型能够理解并执行标准实践，但“突破性洞见仍然是人类最大的优势之一”。

11. 存储技能与反思记忆让 agent 不断积累

Nvidia 的 Minecraft 系统通过生成代码进行探索，然后保存成功的程序，而不是每次重新发现。制作石剑或盾牌等技能，可以组合成更高层级的对抗僵尸程序，在无需额外微调的情况下，形成研究人员所称的“终身学习者”。
同一机制可以直接迁移到浏览器 agent。MultiOn 初次在 Delta.com 订票时可能会反复摸索，但成功运行的数据库让它下次能够检索已知流程，从而提高速度与可靠性；公司随后还可以检查并认证这些存储技能。
Erik 预计，网站会与访问它们的模型展开一场猫鼠游戏，试图混淆模型。一个经过审查的“已确认安全技能”库——本质上是经过测试的协议——可以减少即兴操作，提供一层可辩护的可靠性。
多层级记忆进一步增加了抽象能力。模拟小镇中的 agent 会存储原始观察，随后定期合成更高阶的反思与自我认知；10 次靠窗座位和 1 次靠过道座位，可以变成一项稳定偏好，而不是 11 条权重相同的事实。这一反思层可能让 agent 获得超越有限上下文窗口的连续性。

12. 多模态桥接扩大能力，也叠加不透明性

Erik 所说的“great embedding”负责连接表征，而不是重新训练一切。Flamingo 将冻结的视觉 encoder 与冻结的语言模型配对，只优化一个小型翻译组件，把图像的数值表征转换到文本模型能够使用的空间。
BLIP-2 基本沿用了同样的架构，可以在一台电脑上用几天训练出桥接组件，而基础模型训练的规模是 100万美元至1亿美元。成本优势极其显著：现有模型成为可复用模块，新模态只需要相对小型的 adapter。
不安同样清晰。研究人员已经难以解释任一 encoder；现在“模型在纯数字化的高维空间中彼此交流，而人类无法理解其中内容”。图像、文本、视频、音频、热量、深度和 IMU 信号都可以被拼接起来，但不透明的接口数量也随之增加。
能力仍在快速推进：多模态模型解释了为什么一张荒诞的出租车与熨衣板图片不寻常；Meta 最近的一款模型既能理解也能生成文本和图像。DeepMind 尚未发布的 Gato，已经展示了同一组权重如何玩 Atari、为图片配文、聊天，并操纵真实机械臂堆叠方块。

13. 推理效率成为长期成本战场

训练 GPT-4 可能花费约 1亿美元，但 Erik 预计 OpenAI 最终运行它的花费会更高。一次短推理的成本可能很低，而一次很长的 Claude 或 GPT-4 32K 调用可能接近 1美元；乘以数十亿次调用后，运行成本将占主导。
量化提供了最直接的节省方式：截断权重精度，同时接受出人意料地小的性能损失。将权重从 32-bit 降至 8-bit 可以节省 75% 的模型内存、加快运行，并让原本无法装入设备的笔记本演示成为可能。
蒸馏训练一个更小的“学生”去模仿更大的“教师”。同时拥有两者，就能获得丰富的目标信号——教师对每一步 5万多个候选 tokens 的概率分布；而 GPT-4 只返回被选中的 token。这项技术可以把通用大模型变成更便宜的窄领域专家。
混合专家通过路由实现稀疏计算。按照未经确认的 GPT-4 传闻，所有专家的参数总量超过 1万亿，但每次查询只由其中一部分处理；训练仍然很重，因为每个专家都必须被学习，而推理会便宜得多，因为每次不必运行完整网络。

第167期｜2025年12月19日 No Priors 第144期｜Sarah 与 Elad 展望2026年AI