先锋 趋势 方法 投研 作者
AI 正在吞噬搜索
返回节目精读

AI 正在吞噬搜索

摘要

  • 可投资的变化不止于 AI 搜索:Robert McCloy 认为,“AI 正在取代网页浏览”。 消费者越来越倾向于使用 ChatGPT、Claude、Perplexity 和各类 agents,而不是自己浏览网站;新的控制点因此是完整的“代理体验”,而不只是链接排序。真正持久的赢家,将是那些能让产品在这些界面内易于理解和使用、同时保有直接用户关系的公司。

  • AI 搜索目前仍主要建立在传统搜索基础设施之上,但由 LLM 驱动的重新排序层改变了什么内容能够获得曝光。 系统会生成一个或多个查询,使用 BM25、TF-IDF 或 PageRank 等机制检索,重新排序结果,读取选定页面并综合生成答案。因此,传统 SEO 仍然重要,但标题党式元数据可能被舍弃,取而代之的是那些能清楚解释自身相关性的页面。

  • ChatGPT 流量可能具有异常高的商业意图,因为用户是在解决问题时到达,而不只是做调研。 Robert 表示,Clerk 在完成定向内容工作后,ChatGPT 流量增长约 6x,转化增长约 9x;积极改善网站的公司通常能在 1-2个月内实现两位数的流量提升,但 Robert 也提醒,开发者工具尤其适合这一模式。在 B2B 领域,用户已经开始把 3家供应商的采购“比选”交给 ChatGPT 和 deep research。

  • 近期大多数优化属于正和的内容工程,而不是对抗式排名博弈。 Robert 表示,prompt injection“目前往往有效”,但预计随着系统从可能只有最终复杂度“1/100”的阶段逐渐成熟,黑帽技巧会受到惩罚。清晰的文字、结构化事实、FAQ、服务端渲染 HTML,以及明确说明产品服务对象,仍是更大的机会。

  • 几种流行的 GEO 技巧目前对可发现性的贡献很小。 llms.txt 默认不会被用于发现内容;embeddings 也不是理解当前平台如何消费页面的关键,而且大多数检索器不会执行 JavaScript。最简单粗暴的诊断方法是:“关掉 JavaScript,检查你的页面”;如果重要内容消失,AI 搜索大概率就无法使用它。

  • 出版商与平台之间的交易仍未解决,因为限制 AI 访问也可能切断分发。 Robert 理解 Cloudflare 试图补偿出版商的做法,但表示“这座桥两边还没有接上”;Dia、Comet 以及讨论中的 OpenAI 浏览器等 AI 浏览器,让全局排除模型变得更加困难。缺乏强大直接用户群的出版商,仍然依赖 Google,并且越来越依赖 ChatGPT 带来流量。

  • ChatGPT 拥有最强的持久消费者关系,但有价值的细分市场意味着,整体市场份额并不是完整的判断依据。 Perplexity 是 Robert 眼中第二大的 AI 原生搜索平台,用户黏性异常强;Claude 规模更小,但用户可能更有价值、也更投入;Meta AI 则是一个“沉默的巨兽”,据报拥有 7亿活跃用户。个人记忆和偏好最终可能催生“没有唯一的 ChatGPT”,让 persona 级监测成为必要基础设施,也成为测量难题。

精读

1. Scrunch 起步于对网站聊天机器人未来的否定

  • Alessio 透露,Decibel 投资了与本期节目一同公布的 Scrunch 融资轮。McCloy 和联合创始人 Chris 曾分别担任 Hearsay 的 CTO 和首席产品官,离开公司时已经认定,如果从一开始就不是 LLM 原生,创业项目会“已经落后”。

  • 他们的企业客户最初想要的是带品牌的 ChatGPT 小组件。Robert 的反应很直接:“没人想在你的网站上使用聊天机器人”;弹窗会让他“产生生理性的愤怒”。Swyx 质疑技术从业者是否具有代表性,并以 Intercom 为例,但 Robert 区分了 Fin 这类支持工具——它是在既有客户关系中使用的——与主动迎接陌生访客的聊天机器人小组件。

  • Robert 在普通消费者对 ChatGPT 的依赖中看到了更强的证据:相比“Google 的10条蓝色链接”、糟糕的网站设计,或每家公司各自的搜索框,他们更愿意留在熟悉且高效的环境里。“他们想用自己喜欢的工具。”

  • 客户真正需要的是发现,而不是一个小组件。当 Scrunch 向 CMO 展示 ChatGPT 如何呈现他们的内容、描述他们的品牌时,得到的反应是:“这真的很吓人。”Scrunch 因此围绕衡量消费者互联网体验多年来的第一次重大变化而成立。

2. 商业查询越来越多地调用实时搜索

  • Scrunch 会在客户受众实际使用的平台上模拟消费者提示词,包括 ChatGPT、AI Overviews、AI Mode、Gemini、Perplexity、Claude 和 Meta AI。Claude 的重要性不在于流量规模,而在于其用户可能具有不成比例的价值;Meta 的分发能力则让它成为一个“沉默的巨兽”。

  • 相比有搜索支持的答案,模型训练阶段获得的知识更难直接转化为行动,但 Robert 对品牌的安慰是:出于时效性和控制幻觉的需要,越来越多具有商业意义的查询会使用实时搜索。因此,Scrunch 强调开启搜索功能的 ChatGPT,以及同类检索产品。

  • 预训练阶段的曝光仍值得制定明确策略。GPTBot、CCBot 以及其他可识别的采集器会抓取商业网站,因此出版商应考虑信息的半衰期:把季节性电商促销放进长期模型知识可能适得其反;但让爬虫获取持久的产品信息,或许仍有价值。

3. AI 浏览器削弱了把 OpenAI 视为唯一守门人的理由

  • Robert 认同 Cloudflare 机器人付费墙计划背后的情绪:出版越来越难,可能确实需要某种补偿内容生产者的“宏大交易”。但技术市场仍不成熟——“这座桥两边还没有接上”——早期机制也没有成为互联网基础设施的核心组成部分。

  • 更棘手的问题是权力。出版商关心内容如何被使用,但仍需要 Google、以及越来越多来自 ChatGPT 的流量;除非它们已经拥有一批“认识你、喜欢你”的用户,否则激进限制可能抹掉获取新用户所需的分发能力。

  • Swyx 提出了相反的创作者策略:由于复制成本趋近于零,干脆全部免费,邀请模型“在我身上训练”,再通过引用建立权威。他提到,在所引用的时期,ChatGPT 给 Lenny 的 newsletter 带来的流量超过了 Twitter,尽管 Lenny 在 Twitter 上有 25万粉丝,却只有约 9000次浏览。

  • Dia、Comet 以及讨论中的 OpenAI 浏览器,让竞争扩展到中心化搜索框之外。一旦模型进入浏览器,或通过本地工具运行,屏蔽一个爬虫也无法阻止用户对可访问页面使用 LLM。Robert 的“中等辛辣观点”是:取代搜索并不是更有意思的故事;“AI 正在取代网页浏览”。

4. 重新排序奖励描述性页面,而非标题党

  • Robert 的技术模型始于 LLM 生成一个或多个查询,有时还会借助推理模型按顺序生成。BM25、TF-IDF、PageRank 或类似的传统索引搜索机制先检索候选结果;随后更智能的相关性步骤对结果重新排序,系统再读取选定页面、进行总结并生成答案。

  • 这一步中间环节解释了为什么排名靠前的页面仍可能消失。为刺激人的紧迫感或点击率而优化的元数据,可能几乎没有说明实际内容,因此 ChatGPT 会拒绝它,转而选择传统排名更低、但标题明确传递出“这个页面确实有与你的问题相关内容”的结果。

  • 在电商领域,Robert 的默认建议是“披露更多”。一个视觉化的 leggings 页面仍应说明谁会购买这件产品、用于什么场景;这些事实有助于模型匹配“给洛杉矶的朋友找一份徒步礼物”之类的提示词,再把买家送到结账页面——随着原生 agentic shopping 发展,这一流程会越来越常见。

  • 网站目前无法收到用户发出的 ChatGPT 原始提示词,Robert 预计隐私因素会让这种能力始终受限:用户会在对话中输入健康信息和亲密细节,这些信息不能泄露给被检索的网站。不过,公司仍可以从用户最终到达的页面推断需求,再围绕吸引 ChatGPT 引荐的问题发布更多内容。

5. 新的优化目标是 agent 的完整客户旅程

  • Robert 接受“GEO”这个说法,因为“你只能同时应对这么多场战役”,但在他看来,SEO、AEO 和 GEO 都只是入口的名称。助手越来越多地负责发现、理解、比较企业,甚至完成交易,而无需用户浏览企业网站。

  • 他更喜欢用“agent experience”来描述这一框架,类比于客户体验:企业应衡量 AI 系统如何与自身内容和基础设施交互,因为这些系统越来越多地在服务最终客户。仅有曝光并不够,如果最终答案错误描述了产品,或无法完成用户任务,曝光就没有价值。

  • 个性化让问题更复杂。ChatGPT 的记忆、明确偏好和指令会改变查询、偏好的来源和呈现方式;Robert 的高级工程师配置,会产生不同于消费者无痕会话的搜索结果。“也许最终会变成没有唯一的 ChatGPT”——这对习惯于面对单一排名的营销人员来说是一场噩梦。

  • 因此,Scrunch 按客户 persona 对监测提示词进行分组,而不是把每个答案都视为普遍适用。真正的问题变成:一名高级工程师、产品经理或其他理想客户,会如何经历完整互动;他们可能的目标和偏好需要被明确建模。

6. 问题解决型流量距离转化更近

  • 只要把 ChatGPT 活动归类为生成而不是搜索,研究就可能让 Google 看起来仍然安全。Robert 的反驳是,用户往往跳过“我应该如何思考这个问题”,直接要求模型解决问题——写提案、搭建财务模型或生成可运行代码。“你得到一个解决方案。你可以运行这个解决方案。问题解决了。”

  • 这种行为代表异常高的意图:用户已经在执行,而不是浏览各种可能的方法。一个突出的 B2B 场景是软件采购,员工会要求 ChatGPT 或 deep research 生成所需的 3家供应商比选和对比表,其中的勾选项反映买方标准,而不是供应商自己的营销话术。

  • Robert 对证据范围作了限定。公开使用研究通常依赖选择加入的点击流样本,这些样本可能无法代表 Stripe 的资深工程师等高价值用户。Scrunch 则通过观察、访谈和后续追问补充这些样本,询问那些表示通过 ChatGPT 找到产品的人,当时究竟在做什么。

7. 清晰的服务端渲染内容胜过 GEO 技巧

  • Robert 承认,在功能页面中嵌入 prompt injection“目前往往有效”,但他的判断是:“它会一直有效,直到不再有效。”当前 AI 搜索的连接层还没有 Google 25年以上的滥用防御经验;随着系统最终变得更复杂,黑帽技巧应会被排除并受到惩罚,尽管禁用措施目前还不常见。

  • 更大的机会仍然是正和的。许多公司并不是过度吹捧自己,而是根本没有说清楚自己做什么。更好的事实、示例、FAQ 和结构,会同时改善模型的比较、用户的决策和平台的答案。那些拥有精美视差首页、却从不解释产品的初创公司,是反复出现的失败案例。

  • llms.txt 适合把以文字为主的文档加载进上下文窗口,但目前并不是默认的内容发现机制;过大的 llms-full.txt 文件甚至可能超出常见上下文窗口。围绕 embedding 相似度做优化同样处于边缘位置,甚至可能适得其反。为人类组织的普通干净 HTML,仍然是更强的基础。

  • 大多数 AI 检索器不会执行 JavaScript。一个破坏服务端渲染的客户端小效果,就可能让整个 Next.js 页面无法使用,因此静态输出或服务端渲染通常不可或缺。当程序化 SEO 暴露出专有洞察时,它具有持久价值——Robert 最好的例子是基于客服工单总结的操作指南;但如果只是“为了让 LLM 读取而使用 LLM”不断改写公开文本,就没有这种价值。

8. Deep research 同时放大有用事实与过时矛盾

  • Robert 区分了 3种模式:普通搜索只检索并总结一次搜索;多重搜索如今越来越多地出现在普通 ChatGPT 4、AI Mode 和更新的 o3 集成中,会运行多次搜索;deep research 则由推理模型按顺序追问——“这些来源没有回答问题。让我再试试别的。”

  • 内容摄取的基本原理仍然相似。更大的信息摄入量可能带来更差的答案,因为额外页面会增加噪声;旧的价格页面尤其危险,互相冲突的数字会提高 ChatGPT 报出错误价格的概率。

  • Swyx 提议用相关链接引导下一次搜索;Robert 回答:“为什么不一开始就把内容放进去?”他承认搜索分支和上下文窗口存在限制,但更倾向于为特定 persona 准备能够完整回答查询的聚焦页面,而不是做成一场庞大的“选择你自己的冒险”。

9. 转化数据验证了判断,平台忠诚度决定优先级

  • Clerk 提供了最清晰的运营层面证据。其强大的开发者文档为公司提供了良好起点,但定向实验最终带来约 6x 的 ChatGPT 流量增长和 9x 的转化增长。“如何在我的应用中实现企业级 SSO?”这类查询,来自一个有即时问题、并且已经准备实施的用户。

  • Robert 谨慎界定了 Scrunch 的功劳:Clerk 了解自己的开发者并负责生产内容;Scrunch 提供监测、反馈和实验。下一步路线是让并行测试和交付“更多地进入轨道”,同时在更广泛的 agent experience 框架下研究 MCP 和 NLWeb 等机制。

  • 不同行业的结果会有差异,Robert 不会承诺 Clerk 的提升幅度能够普遍复制。不过,积极更新网站并发布内容的公司,通常能在 1-2个月内看到两位数的流量增长;处于观望状态的企业不应期待同样的结果。

  • 平台优先级“远远领先”的是 ChatGPT,其后是 AI Overviews、AI Mode 和 Meta AI 所带来的巨大分发触达。Perplexity 是第二大的 AI 原生搜索平台,用户黏性异常强;Claude 用户更少,但投入度高、价值也高。Gemini、DeepSeek 和 Grok 的表现更有高峰和低谷,而 ChatGPT 的关系更持久——尽管“并非无限持久”。