20VC：横向与垂直智能体谁胜出，对话LangChain Chase

摘要

• Harrison Chase 最明确的判断是：垂直智能体的路由应放在运行框架，而不是网关；路由也不是商品。 运行框架掌握状态信息——提示词缓存、提示策略、任务上下文——因此更适合做垂直领域路由。网关的优势在于可移植性，也可能适用于通用编程或聊天。他估计，OpenRouter 的大部分使用量来自网关，而非路由；智能路由的实际应用比人们想象的少，而能全面变强的前沿模型也可能削弱路由的价值。
• 如果智能体的价值来自验证，胜出的将是领域专家；Chase「极度看多垂直智能体」。 能编写验证器、搭建评测的人才能获取价值；对创始人而言，实操上应从上下文和运行框架入手，等有了用户再做模型后训练。谈到 Harvey 和 Ramp「自建模型」，他说其中很多是在开源权重模型上做后训练，有时用的是中国模型；他认为这有价值——「如果你是从零训练模型，那你大概是在 NeoLab。」
• 记忆是智能体领域最大尚未解决的问题，LangChain 的亲身经历足以说明这一点。 难点不在数据库（有些公司把记忆存在「单个文件」里），而在于将观察提炼成上下文——这是一项元反思任务，LLM 仍然做得不够好。LangChain 曾推出、后来又砍掉一款商业记忆产品，因为它「试图做得太通用」；记忆必须因领域而异，但他预计「几年后，所有产品都会带有某种记忆能力」。
• LangChain 在编程工具上的支出约占工程师薪酬的30%；通过提高可见性、设定预算和掌控运行框架，支出下降的同时 token 用量却在上升。 有个配置错误的插件每轮智能体运行都抓取 DOM，一周就烧掉4万美元。Harry Stebbings 将这个比例视为 Anthropic 2万亿美元估值的根本决定因素；Chase 认同它是估值的基础，但目前智能体真正产生影响的只有软件工程，他预计智能体在其他领域的影响会大幅扩大。
• 他最大的认知转变是「推理市场规模巨大」——一年半前放弃做网关，是「100%错误的决定」。 他引用 Eric Vishria 更广泛的判断：「一切都能跑通，市场大得惊人」；也提到 Thomas Tunks 关于推理需求的看法。Chase 认为 Fireworks、AWS 和 Crusoe 都能做成，因为需求实在太大。企业对中国开源模型的担忧「基本没有根据」；他预计12个月内会出现能力相当的美国开源模型。
• 智能体时代的互联网可能由智能体彼此交互构成：服务商推出自己的垂直智能体，横向智能体再与之协作。 面对基础设施压力和广告、追加销售机会流失的问题，Chase 提出的应对方式是：垂直智能体可以更高效地调用底层系统；广告或推荐也可以直接出现在智能体的自然语言回复中。
• 谈到风投，他说：「为 Sequoia、Benchmark，以及其他一线VC机构接受估值折让，绝对值得。」 Benchmark 从2人发展到400人，像是「第三位联合创始人」；Sequoia 则是「一台机器」，其人才网络为公司输送了不少人才。他的投资筛选标准是人才、执行速度，以及率先入局带来的品牌；对于已证明执行速度的顶尖团队，「你就别看价格，直接投」——不过，史上增长最快的 GitHub 项目 AutoGPT 也说明，先发并不保证成功。按 Harry 给出的 IPO 估值，他选1.5万亿美元的 OpenAI，而不是2万亿美元的 Anthropic。

精读

1. 智能体难做，因为一个黑箱里还套着一个更大的黑箱

• LangChain 做的是开发者工具：一套开源框架，把模型与工具、数据和计算连接起来；另有用于可观测性和评测的 LangSmith。Chase 的核心解释是，模型是接收无限维自然语言输入的「非确定性黑箱」，而智能体并非只调用一次模型，而是与工具交互的一连串调用——「错误会这样层层传递」。两个相似输入可能导向截然不同的答案；让整个系统稳定可靠地运行，「是最难的部分」。过去3到4年智能体进步，原因有二：模型更强了，运行框架做得更好了；LangChain 做的是后者。
• 对于被模型进步搞得无从下手的创始人，他反问：「那还能怎么办？什么都不做？」关键是分清短期权宜之计和长期有效的部分——LangChain 早期用 JSON-DSL 调用工具，他们当时就知道这是权宜方案。几个月后，OpenAI 推出原生工具调用；Chase 说，他们认定这才是未来，于是从解析 JSON 转向原生调用。相比之下，「模型永远不会掌握你的专有数据」，所以围绕模型搭建的系统更经得起变化。他回忆 Cursor 曾把一条原则称为「抹掉产品」（erase the product）——也可能是他们说的「删掉产品」：模型变强后，就删掉自己构建的大块产品功能。

2. 中立运行框架的价值，在于上下文必须可移植

• 中立运行框架的核心理由是状态：智能体运行时，记忆和上下文会不断累积；如果这些上下文绑定在某个运行框架上，而运行框架又绑定某个模型，「你就有点被困住了」。更换模型兼具进攻和防守价值：进攻上能迅速采用任何厂商的新模型，防守上能避免被锁定或遭遇涨价。
• 按他的说法，「掌握自己的智能」意味着让智能体的3个部分——模型、运行框架、上下文——都保持开放且可控。模型实验室会把模型训练得擅长其分布内的任务，「通常就是编程」；一旦任务转向销售、研究或法律等分布外领域，企业就会希望掌控运行框架的行为。

3. 验证价值流向领域专家，垂直智能体因此占优

• 如果价值来自验证，「胜出的是领域专家……谁能编写验证器，谁就能捕获领域知识」。搭建评测很难，而这正是它重要的原因；因此他说：「我极度看多垂直智能体」，不同领域应该有各自的智能体体验。
• 他给垂直智能体创始人的建议是：先从上下文和运行框架入手，有了用户再做后训练，「投资回报率高得多」。如果自己做垂直应用，他会不会后训练自有模型？「一开始不会，绝对不会」；但如果5年后已经有大量用户和使用量，「那就确实有可能」。
• 对于 Mike Cannon-Brookes 所说企业「自建模型」恕我直言是胡扯，Chase 的回应是，其中很多其实是在开源权重模型上做后训练；他认为这完全是正当路径，可以放进4级阶梯：掌控上下文 → 调整运行框架 → 对开源权重模型做后训练 → 从零训练模型。Harvey 和 Ramp「已经把上下文和运行框架的价值榨得差不多了」，于是走到了后训练这一步。
• 现阶段后训练最适合用于运行框架中的简单子任务：分类、抽取、摘要、护栏和路由。至于驱动核心循环的模型应采用后训练模型还是前沿模型，「仍是个开放问题」——每次前沿模型发布，都可能让它更擅长驱动循环；不过 Harvey 最近公布了一项类似方向的进展。

4. 路由应放在运行框架里；网关方案默认面对的是编程或聊天

• Harry 问到技术差异时，Chase 解释，运行框架层的路由是在代码中完成，能感知更多状态——例如提示词缓存是否已预热，以及不同模型各自的提示策略；网关路由则是一次 API 调用，通常假设使用聊天补全接口。Factory 和 Cognition 都写过相关内容；Chase 认为路由「必须感知运行框架……我不认为能有一种路由，法律、金融、编程全都适用，且完全一样」。
• 他对网关现有玩家的判断是：「如果让我猜，OpenRouter 的大部分使用量来自它是个网关，而不是路由器」——用户自己指定模型，平台的价值在于一个 API、一个密钥。智能路由的实际应用比人们想象的少。
• Harry 问自己为什么会觉得运行框架路由显而易见，Chase 则替网关方案提出最有力的论据：可移植性（你无法修改 Claude Code 的运行框架，因此要路由到 DeepSeek，可能就得在网关层完成；这本身「也是支持开源运行框架的另一个理由」），以及编程、公司内部聊天等通用场景——「‘嗨，你好吗？’不需要 Opus」。他的判断是，未来2到3年，垂直智能体会在运行框架里做路由；横向聊天和编程则可能在网关做路由。
• 路由会不会商品化？「我不认为路由是商品。」但构建路由很难，其价值也不稳定，因为「新一代 Opus 或 OpenAI 模型一出来，什么都做得更好了，路由的价值就会下降」。

5. 评测：相信自己的评测，而不是别人的；还要盯着数据看

• 学术基准测试已经被刷满：「所有新模型发布时都针对那些评测做到了极致，所以你学不到太多东西。」内部的、针对特定领域的评测有用，也通常值得信任；但必须持续更新，因为模型会以评测未能捕捉的方式变强。
• 他坚持的做法是：「直接看数据……别太依赖单一数字。」只有当洞察能反哺上下文、运行框架或模型时，追踪数据才有价值：通过后训练改进模型，让智能体运行追踪记录来形成记忆；还有 LangSmith 的智能体 Engine，它会检查追踪记录并尝试更新运行框架代码。

6. 记忆是尚未解决的一层，LangChain 自己的失败就是例证

• 对于智能体的上下文层，Chase 预计会出现更像「围绕数据库构建的智能体」，而非单纯的数据库；ClickHouse 等现有数据库，已经很擅长以传统方式存储和查询数据。记忆的难点不在存储——有些公司把它存在「单个文件」里——而是把观察提炼成值得保留的上下文。这种元反思能力「仍是 LLM 很不擅长的事」。Chase 说，人类也觉得这很难：「我不知道我们是否真的理解大脑内部发生了什么。」
• 他坦承，LangChain 曾推出、后来又砍掉一款商业记忆产品。「我们砍掉它是因为没找到产品市场契合点……我觉得我们当时确实想做得太通用。」Instinct 或 Muse 所需的记忆，与企业运行框架、法律或金融场景都不一样；因此，学习型智能体「至少一开始可能必须按领域来做」。尽管如此，他预计几年内所有产品都会带有记忆。Harry 追问说这显而易见，Chase 则区分了影响和解决方案：「我不认为有人知道记忆的答案是什么。」
• 他所说的持续学习，是「系统在运行过程中不断变好」；这不会改变内循环——LLM 在循环中调用工具——而是增加一层外循环：获取追踪记录、总结经验、修正上下文／运行框架／权重、测量效果，再重复。他认为编程领域已逐渐做到这一点，摘要和路由可能已趋于饱和，但元学习仍然很难。12个月后，模型的反思能力会显著变强吗？「可能会。看起来它们什么都会变强。」他认为进展可能比以往快得多，也许是因为元学习对研究 RSI 的实验室很重要；但他说，不在实验室内部，很难形成有依据的判断。

7. 智能体对智能体的互联网：每款应用都将长出垂直智能体

• 消费端会同时出现横向和垂直智能体，横向智能体会调用垂直智能体。应用应该自建智能体，理由有二：它能学到通用智能体学不到的东西（「你在 Spotify 上与音乐互动的方式，和你在 Strava 上互动的方式很不一样」）；而且，用自然语言界面封装一堆 API，要胜过直接暴露原始 API。
• Harry 担心基础设施承压——他的演唱会门票智能体连续3天每5分钟查一次，查询量是人工的1000倍——Chase 的回答是，服务商会推出自己的智能体（他举例说，Resy 曾因 Instinct 频繁拉取数据而封禁用户账户）。智能体会加重系统负担；系统需要应对更密集的突发流量，并扩大整体承载能力，不过他对更底层的基础设施没有具体判断。服务商自己的垂直智能体，能够比第三方智能体更高效地调用底层系统。至于广告机会流失的问题，Chase 提出的办法是在智能体回复中植入广告：「我找到了这3样东西，你可能还想考虑另一款。」

8. 编程工具支出占薪酬30%，成本下降、token 用量上升；Anthropic 的估值也系于此

• LangChain 在编程工具上的支出「大约占工程师薪酬的30%」——这是粗略估算；过去2个月支出「有所下降」，但 token 用量反而上升。Chase 的三步做法是：先提高可见性（把编程智能体的使用情况接入 LangSmith），再设定基本预算上限，最后掌控运行框架。他们自建了云端编程智能体 OpenSui——「我现在写代码唯一用的方式」，通过 Slack 驱动，并加入提示词缓存和路由。
• 一个警示案例是：某个插件每轮智能体运行都会截取 DOM 并发回系统，仅这一项一周就烧掉「4万美元」——并非恶意或故意，只是配置失误。一些支出大户是他100%信任的资深工程师；另一些高峰则来自配置错误。
• 前沿模型的相对成本在下降——他举例说，Astra 的性价比已经高于一年前出现的产品；但智能体和多智能体系统消耗的 token 更多，编程成本也随之上升。他说，供应商正在让成本控制更容易：现在可以在运行过程中动态加入工具，而不破坏提示词缓存；过去这样做可能导致成本大幅增加。
• Harry 的论点是，这一支出占比是 Anthropic 企业价值的根本决定因素：如果是5%，2万亿美元 IPO 估值就太贵；如果是300%，估值就低得离谱。Chase 认同这支撑了估值，但组织设计让未来难以预测——也许1个人驱动100个智能体，成本是人类薪酬的3倍；也可能支出保持不变，因为那些更稀缺的工程师薪酬更高。迄今智能体真正产生影响的只有软件工程；他预计它们在其他领域的影响会远超今天。
• LangChain 的年度开发者调查显示，过去连续2年，准确性都是头号关切，「基本上是接下来两项——延迟和成本——加起来的两倍」。最近，大型企业对成本的关注上升；安全在大型企业中的优先级高于整体调查，但仍排在准确性和成本之后。

9. 开源模型的适用范围比热潮所说的窄；推理需求则被严重低估

• 企业对中国开源模型的担忧「基本没有根据」——如果模型部署在 Fireworks 或企业自己的环境里，数据会回传给中国实验室的说法「简直荒谬」；对模型价值观的顾虑则可以通过评测来处理，不过有些领域可能确实需要更细致地看待。12个月内会出现能力相当的美国开源模型吗？「绝对会。」他提到 NVIDIA 推动生态发展，以及 Reflection 最近的发布；在一些基准上，它仍略落后于部分中国模型。
• 从他的视角看，市场没看到的是：开源模型用量很大，但「应用任务比人们想的窄」，主要是路由、护栏、抽取、摘要；「我不认为它们真的在驱动智能体核心循环」。对于简单、高频的用例，他认为后训练模型的投资回报率很高。
• 创业以来，他认为被低估最多的两项需求是推理和编程智能体。他引用 Benchmark 的 Eric Vishria：「一切都能跑通，市场大得惊人」；也另行提到 Thomas Tunks 说过推理市场很大。把这一判断放到推理市场上，Chase 说：「Fireworks 能做成，AWS 能做成，Crusoe 能做成。需求实在太大了。」在快速问答中，他最大的认知转变也落在这里：LangChain 一年半前讨论过做网关，最后放弃了——「那100%是错误的决定。」

10. 他会投什么、为何先发重要，以及为什么值得为一线机构接受折价

• 设想自己是 Harry 新晋的合伙人，他会投推理、底层基础设施原语（Modal、Temporal、Supabase、Convex——「未来会有多得多的软件被写出来」），以及垂直智能体，但不会超配某个垂直领域。他呼应 Patrick Collison 的观点：机会藏在不性感、AI 渗透率低，却拥有深厚领域知识的地方，而这些知识可以沉淀进数据或运行框架逻辑。赢家都需要3项条件：顶尖人才（「Lynn 和 Fireworks……他们写出了 PyTorch」）、执行速度，以及抓住爆发性机会后形成的品牌。LangChain 发布后的2个月里出现了100个框架；Chase 说，品牌和执行力帮助它乘上早期病毒式传播的势头。对于技术团队强、且已证明执行迅速的突破型团队，「你就别看价格，直接投」。
• 先发优势「绝对比以往更重要」——「Anthropic 和 Claude Code……那是巨大优势」——但之后还得持续执行。AutoGPT 是「史上增长最快的 GitHub 项目」，说明先发并不保证成功。谈到 Jev 90亿美元一轮融资的看多理由，他提到公司与一个新模型类别绑定，以及一支有能力执行的优秀团队；不过，他说自己并不太了解这支团队，所以在这个估值下，人才出色只能算一个假设。
• 说到一线机构资金，Benchmark 从2个人到大约400人，像是「第三位联合创始人」；Sequoia（Sonja）则会「在所有事情上帮忙……他们就是一台机器」，包括通过人才网络推荐优秀候选人。Chase 认为，为 Sequoia、Benchmark，以及其他一线机构接受估值折让，绝对值得。
• Harry 批评融资时的姿态作秀；Chase 说自己不喜欢融资，也很看重在 B 轮前与 IVP 的 Tom 建立的关系，前后超过2年半。快速问答的其他内容：LangChain 的追踪数据库 SmithDB 是最难做的技术项目；Chase 说，公司有「500家不同的公司」处于「既是朋友又是对手」的关系。按 Harry 提出的 IPO 估值，他选 OpenAI 而非 Anthropic，因为 OpenAI 达成大型成果的「路径更多元」。他希望自己2022年创业时就知道今天的运行框架会是什么样；未来5年最让他期待的是 Suno 这样的创意 AI，而不只是企业效率提升。