OpenAI 如何服务每周8亿用户：模型专业化与微调
摘要
OpenAI 的分发策略刻意采取双线并行：ChatGPT 每周触达约8亿用户，而 API 通过第三方产品触达的人群可能更广。 Sherwin Wu 表示，这是创始人一贯要求将 AI 的收益尽可能分发到更多场景的结果，尽管客户反复担心 ChatGPT 会进入自己的市场。按当前增速，第一方产品本身已形成巨大势能，内部竞争焦虑相对有限：“全球每周有10%的人在使用它。”
模型之所以异常抗拒商品化，是因为用户和开发者都会形成对特定模型的依赖。 用户会在 GPT-5、GPT-4o 和 o3 之间形成偏好；开发者则不断调优提示词、工具和应用框架，最终事实上变成“围绕模型构建产品”。两者叠加，带来出人意料的高 API 留存率，也削弱了应用抽象掉底层供应商这一经典平台风险。
OpenAI 已从“一个模型统治一切”的预期，转向越来越相信市场会容纳一组专业化模型。 Cursor 展示了正在成形的技术栈：用 Max 模式下的 GPT-5 做规划，用 Composer 快速完成首轮处理，再用其他模型解决深层 bug 或代码补全。Sherwin 预计“还会涌现大量其他类型的模型”，但也提醒今天的判断可能再次改变；专业化并非偏离 AGI，而是说明通往 AGI 的路径比此前设想的更难预测。
强化学习微调能把企业专有数据从检索资产，转化为可能具备差异化的模型能力。 早期监督式微调主要带来“指令遵循 plus”和语气变化；RFT 则可能为客户的狭窄使用场景打造业界领先模型。OpenAI 正在试点为愿意分享高价值数据集的客户提供折扣推理，甚至免费训练——这本质上是围绕企业内部“巨大数据宝藏”的一次明确交换。
应用层的瓶颈已从巧妙设计提示词，转向上下文工程和受控编排。 更强的推理模型仍需要正确的工具、数据、检索时机和流程边界；Martin Casado 的归谬是，经典 RAG 用余弦相似度决定向“一台超级智能”输入什么。对企业而言，智能并不会消除工作流结构：许多岗位需要确定性的 SOP、获批准的回复目录，以及对 agent 可执行范围的强制限制。
OpenAI 将 agent 视为通过不同界面表达的智能，而不是一个独立产品类别。 ChatGPT、Codex、Sora 和 API 都是同一核心智能的“不同界面和不同部署方式”；Codex 之所以独立，是因为 CLI 比 ChatGPT 更适合编程。这也给了创业公司嵌入 Codex 或围绕 Codex 构建产品的空间，Casado 开玩笑称之为“token laundering”经济：把自然语言输入转化为按量计费的智能。
按用量计费的 API 定价之所以站得住脚，是因为它与消费量直接对应，支持成本加成的利润纪律，而且可能已经近似于按结果定价。 OpenAI 将用量定价视为一种可能的“单向棘轮”：客户一旦开始按更接近实际效用的方式付费，部署式定价就很难恢复。按结果收费在作物产量等领域仍很有吸引力但难以执行；Martin 认为，随着任务难度和价值上升，测试时算力也会增加，token 用量可能成为结果的可行代理指标。
开放权重看起来是在扩大市场，而非蚕食既有业务；高效推理仍是一道有意义的运营护城河。 Sherwin 表示，OpenAI “完全没有看到蚕食”，因为 gpt-oss 的客户和使用场景与主要托管模型不同。即使假设 GPT-5 的权重公开，也无法复现 OpenAI 的线上服务表现：其最大的2到3个模型获得高度集中的资源，推理和训练团队则协同优化。多模态能力同样依赖专业化技术栈——共享 API 基础设施之下，是彼此独立的文本、图像和视频推理系统。
精读
1. OpenAI 通过产品与平台双线分发智能
Sherwin 的工作视角横跨 Quora 信息流排序、为 Opendoor 的住房库存定价6年，以及在 OpenAI 开发者平台工作约3年。他主要负责 API，也参与政府部署，包括在 Los Alamos National Laboratory 的一台涉密超级计算机本地运行模型。
产品与平台之间看似存在的冲突，被上升到创始人层面。Sherwin 表示，Sam 和 Greg “从第一天起”就始终如一：OpenAI 既要把 ChatGPT 做成第一方应用，也要把 API 做成广泛的分发渠道，二者共同服务于将 AI 的收益分发到尽可能多场景的使命。
ChatGPT 的规模是第一方产品最清晰的证明：约8亿周活用户，也就是“全球10%的人”，且仍在持续增长。Sherwin 称其增长速度和运营扩张规模具有历史性；Martin 则强调，许多听众可能没有意识到这一周度触达规模有多么惊人。
API 的间接触达规模更难比较，在某些阶段“确实比 ChatGPT 更大”，但 Sherwin 也留有余地，因为 ChatGPT 增长太快，难以维持稳定比较。真正感受到张力的主要是 API 客户，他们会问：“你们会不会做我正在做的这个东西？”ChatGPT 本身并不太担心，因为增长势头依然强劲。
2. 模型身份让 API 更难被中间层替代
Martin 的反中间层替代理论是：不同于传统基础设施，模型过于“难驯”，很难被干净地隐藏在软件抽象之后。如果用户必须直接接触模型的行为，应用就无法像基于同质化云服务的软件那样，轻易让供应商隐身。
Sherwin 表示，行业最初预计模型会成为可以互换的基础设施。但用户对 GPT-5、GPT-4o 和 o3 的产品反馈改变了这一假设：他们感知到不同模型的行为差异，并形成了明确偏好。Martin 亲身感受到了这种变化——“你对我没那么好了”；Sherwin 则说自己喜欢 GPT-5 的个性，但使用 ChatGPT 主要是为了工作或获取信息。
技术依赖比情感偏好更深。创业公司会围绕某一个模型反复优化提示词、工具和应用框架；这些工作不断积累后，它们实际上是在“围绕模型构建产品”。切换模型不仅会威胁产品原有的模型特定行为，也会破坏用户熟悉度。因此，即使工具已经支持替换，API 留存率仍然“高得出人意料”。
Martin 自己使用 Cursor 的方式就是一个样本：GPT-5 是默认模型，Max 模式下的 GPT-5 负责规划，Composer 快速完成首轮处理以保持工作流不断，遇到困难 bug 时再切换到另一个模型。产品价值部分来自公开模型选择，而不是假装所有智能都等价。
3. “一个模型”论转向专业化
Sherwin 记得，仅仅2到3年前，连 OpenAI 都预计会出现“一个模型统治一切”。在这一前提下，微调几乎没有意义：一个通用模型最终会吞并所有定制能力，这也符合 AGI 将以最简单方式到来的直觉。
这一看法“已经彻底改变”。如今 OpenAI 同时运营 GPT-4、GPT-4o、GPT-5、面向 Codex 的模型和其他变体，因为不同工作负载需要不同的行为。Sherwin 越来越相信专业化模型拥有发展空间，并“很可能”会出现大量模型类型，同时明确承认行业判断未来还可能再次改变。
Martin 认为，这可能带来更健康的生态，而非赢家通吃式的整合。Sherwin 也同意，AI 市场扩大总体上有利于 OpenAI：其 evals 产品接受其他模型，定制能力支持差异化变体，gpt-oss 则进一步扩大参与者范围。他并不认为专业化不利于 AGI，只认为这是追寻 AGI 过程中又一次出乎意料的转向。
4. 强化学习微调把私有数据转化为能力
微调需求始于企业内部“巨大数据宝藏”，以及它们参与 AI 浪潮的愿望。通过向量数据库或 RAG 进行检索，是最简单的用法；技术能力更强的团队希望数据能够改变模型行为，而不仅仅是出现在上下文窗口里。
OpenAI 在2022至2023年推出的监督式微调服务，对其中许多诉求而言能力过于有限。Sherwin 将 SFT 描述为“指令遵循 plus”：它有助于改变语气、提升服从指令的可靠性，但通常只是渐进式变化，并不会大幅提升领域能力。
强化学习微调改变了这一命题。它更难调试，也需要投入更多资源，但能更深地利用领域数据，甚至有望在特定使用场景达到业界领先水平。销售话术不再是“让模型换一种说法”，而是“用你的数据打造全球最好的模型”。
OpenAI 曾设想基于 LoRA 的基础设施扩展到“数百万、数百万”个微调模型，包括支持持续更新的在线学习架构。实际情况是，大多数客户使用的是历史积累或专家产出的离线数据集。OpenAI 也在试点：当客户自愿分享高价值 RFT 数据时，为其提供折扣推理，甚至免费训练；选择权仍在客户手中。
5. 提示词工程已转向上下文工程
另一个已被放弃的2022年假设，是规模化会让提示词工程消失：指令遵循能力会强到用户只需说出意图，就能“与模型心灵相通”。模型自 GPT-3.5 以来进步巨大，但 Martin 的总结很直接：“这并不存在。”Sherwin 也承认，原先的判断显然是错的。
相关工作已转向上下文工程——选择工具、决定哪些数据可用，并在正确的时点检索正确的材料。关键问题不再是如何写出一句神奇指令，而是如何构建一个让推理模型能够可靠运行的环境。
Martin 对经典 RAG 的批评刻意带有荒诞色彩：在嵌入空间里用余弦相似度，挑选要输入“一台超级智能”的材料。Sherwin 指出，RAG 诞生于推理模型出现之前，当时系统只有一次薄弱的尝试机会；o3 改变了这一模式，它会在推理过程中持续调用工具、检索信息，并编写代码执行。
6. Agent 是通过界面表达的行为
Sherwin 对 agent 的实用定义是“会代表你采取行动的 AI”，并且能够跨越较长时间范围工作。OpenAI 并不把 agent 视为一种单独的模态；agent 行为是能力不断增强的智能在各条产品线上的表现方式。
因此，Sora、Codex、API 和 ChatGPT 都是智能的“不同界面和不同部署方式”。每个产品团队都会分别思考 agent 能力应当如何在自己的界面上呈现，而不是把这一概念交给一个集中式 agents 团队。
Codex 展示了这种界面选择。OpenAI 曾探索在 ChatGPT 内实现编程行为，但最终认为 CLI 更适合这项工作，于是将 Codex 做成独立产品。在平台侧，面向开发者的表现形式包括 Codex SDK；Sherwin 表示，围绕它创办一家创业公司会“很棒”。
Casado 对这一新兴经济的概括令人印象深刻：其中很大一部分是“token laundering”——把英语或其他自然语言转化为按量计费的智能，再将这种智能嵌入更大的程序。即使模型只是其中一个组件，其界面、成本结构和护城河也都不同于传统软件。
7. 按用量定价仍是效用最干净的代理指标
Sherwin 对 API 按用量定价的坦诚解释是，它只是“最接近实际使用方式”。与 ChatGPT 的订阅模式不同，API 必须为大量拥有高额度的客户计量用量；如今 OpenAI 已有完整团队负责维护这套能够在大规模下正确运行的计费基础设施。
OpenAI 采用成本加成的视角定价，明确保护合理利润率，而不是套用 Opendoor 式的资产定价复杂度。运营挑战很大，但 Sherwin 认为按用量定价“意外地保持了强韧”，可能会长期延续。
Sherwin 转述 Rockset 创始人的说法，将按用量定价称为“单向棘轮”：买方一旦体验过与效用更紧密挂钩的收费方式，就很难回到按部署计费。代价是，供应商必须可靠地运营计量、额度和计费基础设施。
Martin 反驳按结果收费的观点是，这要求供应商为非计算结果定价——移植代码可能还容易处理，但“提高作物产量”则需要垂直领域专业知识。随后他指出，测试时算力可能使使用量与价值高度相关：任务越难、潜在价值越高，所需的延长推理就越多。Sherwin 同意，这可能等同于“只是增加了更多价值”。
8. 开放权重扩大市场，暂无明显蚕食
Sherwin 表示，OpenAI 一直希望发布开放模型；现实约束在于，必须在前沿研发和稀缺算力之间安排优先级。他加入 OpenAI 后就一直与 Sam 讨论此事，因此 gpt-oss 是这一意图被推迟实现的结果，并非从反开源立场突然转向。
OpenAI 的战略逻辑是扩大生态：更多使用场景和行业会为其产品和平台业务带来水涨船高的机会。Sherwin 表示自己“完全没有看到蚕食”；到目前为止，开放权重用户、托管 API 客户及其工作负载都有明显差异。
Martin 进一步厘清术语：这些发布的是开放权重，不足以重建完整训练过程。他认为，对竞争的赋能可能有限，因为如果 API 输出能够被等效蒸馏，提供权重并不会从根本上改变这一动态。与此同时，Sherwin 表示，可靠地实现高速推理仍然是“极其、极其困难的问题”。
Sherwin 表示，大型实验室只会把影响力、收入和优化资源集中在2到3个模型上。即使 OpenAI 假设性地公开 GPT-5 权重，想要匹配其生产环境中的推理表现也极其困难；OpenAI 的推理团队异常强大，而且与训练团队之间存在反馈闭环，能够联合优化，这些都不是单靠权重可以复现的。
9. 多模态广度建立在相互独立的技术栈之上
更深层的文本模型垂直化正从 GPT-5 Codex 开始，尤其体现在其后训练能力和使用 Codex harness 的能力上。产品专属训练究竟要推进到何种程度，仍“更多是一个开放问题”；目前的工作还没有实现模型与应用之间最深层的融合。
图像模型通常更小，也更容易迭代，因此可以更快实现专业化。文本模型仍保留“非常庞大的预训练步骤”，完整的中训练或后训练依然计算密集，这限制了其像图像模型那样大规模分化。
Sherwin 同意，在同一家公司内部同时打造领先的语言系统和像素系统，是一种“反模式”，执行难度很高。OpenAI 的做法是设立高度集中的世界模拟团队，拥有独立路线图、产品化流程和推理栈；Sora 正是这种组织独立性的产物。
推理层之上，API 基础设施可以共享；推理层之下，文本、图像和视频模型采用不同的服务方式，由各自的专业团队进行优化。DALL-E 2 生成的白鸭最初吸引 Sherwin 加入 OpenAI；Dev Day 之后，Sora 2 在 API 上又成为“巨大成功”，其市场反响令他意外。
10. 确定性 Agent 更符合企业的实际运行方式
OpenAI 的 Agent Builder 曾受到批评，因为其中连接节点看起来确定性强、偏低代码，也不够“面向 AGI”。Sherwin 的实际回应是，模型目前仍无法完美执行所有被要求的4步流程，而客户现在就需要有用的自动化。尽管如此，Agent Builder 在10月6日前后发布后，仍贡献了 OpenAI 播放量最高的演示视频之一，并获得用户强烈关注。
客户调研显示，工作大致分为两类。编程和数据分析可以是非定向的：给 agent 一个高层目标，让它自行探索。更多企业工作则是流程化、以 SOP 为中心；Sherwin 以客户支持为例，Martin 则表示营销和销售也遵循同样模式。管理者往往希望政策被严格执行，不希望出现创造性偏离。
Martin 给出了监管行业中最鲜明的例子：一些组织不能让任何生成语言直接呈现给用户。它们会提供一棵获批准的对话树或回复目录，让模型在有效输出中进行选择——利用语言推理能力，同时确保“没有任何生成内容流出”。
他的 NPC 类比让这一约束更具体。游戏可以用类似 Python 函数的方式表达库存、物品交换、钥匙和战斗逻辑，因为英文描述并不可靠；随后将模型限制在经过验证的回复范围内。Sherwin 将其直接对应到 Agent Builder：确定性节点让智能拥有推理空间，同时把行动控制在监管、运营或游戏系统的边界之内。