用 Neural PageRank 和 500万美元 H200 击败 Google 搜索——Exa.ai 的 Will Bryk
摘要
- Exa 不是要在现有搜索之上加一层答案,而是重建抓取、神经索引、检索和服务,打造垂直整合的“Google 2.0”。 Will Bryk 表示,Google 受限于延迟、成本和互联网规模,只能困在以关键词为核心的架构里,而 Exa 则是“全程神经网络化”。公司如今称自己是“搜索领域的 OpenAI”:底层做基础研究,上层提供 API 和面向终端用户的产品。
- 核心技术押注是“神经 PageRank”:基于链接周围的文本训练模型,隐藏目标文档,再预测被引用的内容。 这种方法把相关性和权威性结合起来——一篇被广泛引用的 Paul Graham 文章,可以通过人们描述它时使用的各种不同措辞更容易被检索出来。与传统 PageRank 不同,模型既学习文档的含义,也学习文档的重要性。
- Exa 的新列表产品把搜索从一次 400毫秒的查询,变成面向近乎完美召回率的可变算力任务。 比如搜索“在 San Francisco 做硬件的初创公司”,系统可以先预览结果、接受用户对边界的反馈,再运行几分钟、几小时甚至1天,找出全部325家符合条件的公司。swyx 将其类比为“搜索领域的 o1”:不同问题应当获得不同的算力预算。
- Exa 对抗 ChatGPT Search 和 Perplexity 的护城河,来自掌握检索本身,而不只是拥有一份网页缓存,再叠加 Bing 或 Google 的结果。 把大约1000亿个 URL 映射到存储文档,与构建一个能在这套语料库中检索正确页面的算法,完全是两回事。Bryk 对质量的警告同样直接:“如果进去的是垃圾,出来的也会是垃圾。”
- 更大的判断是,没有“超级知识”,“超级智能”依然会受制于瓶颈。 即使是 GPT-5 级系统,如果 Google 无法找出所有思考过搜索问题的 New York 博士,它也无法生成一份完整名单。Bryk 预计,更小、更高效的“智能模块”会调用专业搜索,而不是低效地把整个互联网记进参数里。正如 swyx 回忆 Bryk 所说,即使 AGI 也需要搜索。
- 近期最清晰的变现方向,是面向一级市场项目挖掘、销售、招聘、金融和研究的 B2B 列表构建。 据称,一名 VC 曾连续多天、每天使用 Exa 8小时;Exa 自己也用自有搜索引擎寻找客户和搜索研究人员。这会冲击信息套利型工作流,同时奖励公开且高质量的工作。
- 这场经济学赌注在于,模型成本下降的速度能否超过神经搜索的高算力强度。 Exa 买下了一套500万美元的 H200 集群,在 AWS 之外结合自有硬件,先对语料库做预处理,再只对可能的10、30或100个候选结果进行重排,而不是在查询时对数十亿个页面运行 LLM。Bryk 认为,短短几年内成本大约下降200倍,会让从头重建搜索重新变得理性,但封闭平台和数据获取仍是约束。
精读
1. GPT-3 让“Google 2.0”重新成为可能
Will 将 Exa 的创立追溯到2021年的鲜明反差:GPT-3 能理解含义微妙的段落,而 Google 可能会把“没有条纹的衬衫”回答成条纹衬衫。YC 的路演口号刻意大胆——“我们比 Google 更好”和“Google 2.0”——但创始团队也具备 AI 经验,并拿出了可运行的演示。
Metaphor 起初是围绕“完美搜索”展开的研究项目,并未承诺具体的下游应用。Will 将它的演进比作 OpenAI 发布 ChatGPT 研究预览版后逐渐转向产品化:Exa 先围绕类似“搜索领域的 AGI”开展基础工作,再将由此获得的能力商业化。
更名后的公司取名 Exa,代表10^18,而 Google 的名称对应10^100。这个挑衅式表达——“10的18次方大于10的100次方”——编码了“越小越好”的理念:一次真实查询需要完整的325家匹配公司,而不是戏剧性地显示“找到3000万条结果”。
2. 链接预测把网页引用变成神经 PageRank
Exa 最初的自监督目标,是提取超链接周围的文本,隐藏被链接的文档,再要求模型预测它。比如在“看看这家很酷的航空航天初创公司”之后反复出现 SpaceX,累计数十亿个样本后,系统就能学会在语义等价的查询下检索出 SpaceX。
Will 澄清,Exa 并不会记忆或生成 URL 字符串;更准确的名称应当是“文档预测”。其架构受 Transformer 启发但并不相同,最初的基础模型此后加入了合成数据和监督微调,以获得更强的可控性和稳健性。
同一个目标函数也构成了“神经 PageRank”。如果很多人引用一篇 Paul Graham 的融资文章,Exa 会学到它的权威性;由于这些引用可能用大约1000种方式描述文章,Exa 也会同时学到文章的含义。Will 称之为“强化版 PageRank”,而不只是域名权重或反向链接计数。
训练分布仍然决定结果:高质量来源带来更好的预测,低质量输入则会复制低质量检索。Exa 可以把数据分布塑造得更偏向有价值的材料,但这条结论同样适用于下游答案引擎:“如果进去的是垃圾,出来的也会是垃圾。”
3. Exa 掌握全栈,返回有限且精确的列表
做搜索意味着发现 URL、抓取页面、把文档处理成向量或更复杂的索引,再以高吞吐、低延迟提供服务。Will 表示,在 Google,每一层可能都要配备数百甚至数千人;Exa 通常每层只安排“1或2个人”。
他对现有巨头的批评同时针对架构和经济学:Google 必须覆盖整个互联网,在大约400毫秒内回答,同时压低每次查询的成本。这个庞大系统建立在1998年的关键词框架上,很难围绕 LLM 和 embedding 重构;Exa 没有这层历史包袱,因此发现了“大量容易摘取的果实”。
新产品承诺为复杂请求提供近乎完美的列表——例如 San Francisco 所有符合条件的硬件初创公司,或过去1年所有讨论 swyx 播客的博客文章。如果真实答案包含325家初创公司,Exa 的目标就是返回全部325家,而不是只给出熟悉的第一页结果。
Exa 同时保留两条分发路径:开发者可以嵌入应用的搜索基础设施,以及用户可以购买积分、立即运行搜索的直接界面。Will 再次引用 OpenAI 将 API 与 ChatGPT 配对的做法。
4. 完整性成为可变算力产品
Will 将搜索必须区别对待的两个问题分开。主观性需要阈值和反馈循环——先展示样例,让用户排除边界案例,实质上“即时创建一个分类器”;完整性则要求持续搜索,直到对约定边界实现穷尽式覆盖。
原则上,足够的算力可以解决召回问题:GPT-4 可以检查整个互联网,并判断每个页面是否讨论 swyx 的播客。Will 表示,这可能需要1年、耗资100万美元甚至更多,但这个思想实验说明了从低成本近似到穷尽式检索之间存在连续谱。
因此 Exa 暴露算力预算,并在允许启动更大任务前先预览结果,不过 Will 表示上下限仍在确定中。swyx 将其类比为“搜索领域的 o1”:更难的问题获得更多测试时计算,而不是每个查询都被固定在相同延迟上。
这种交互打破了人们长期形成的预期。搜索可能需要1分钟、10分钟,或整整1天;对于项目挖掘和研究而言,“写好搜索,去喝杯咖啡,回来就得到一份完美名单”可能是可以接受的交换。
5. 超级知识是超级智能缺失的工具层
主持人将完整检索与建立在信息套利上的业务联系起来:如果所有人都能通过 API 请求同样高质量的事实,拥有特权的名单构建就更难维持防御性。Will 将更深层的问题表述为“如果知识基本被解决了会发生什么”,并将其与仅仅解决智能区分开来。
他的经典例子是:让 GPT-5 级系统找出每一位思考过搜索问题的 New York City 博士。如果 Google 找不到这些人,那么无论模型的推理能力多强,它都被卡住了:“我们实际上会拥有正在使用 Google 的超级智能。”
Bryk 偏好的架构,是让“超级知识”与超级智能配对。一个更小、更经济的 LLM 充当智能模块,调用高效的搜索工具,而不是不断扩大规模,直到单个模型把互联网全部记住;GPT-4 级系统同样可以调用搜索,但推理经济学更偏向专业化。
6. 掌握检索,而不只是网页缓存,是竞争主张
Will 将 Exa 与“传统检索加上 LLM 撰写答案”的系统区分开来。ChatGPT Search 或 Perplexity 可能会抓取页面并维护自己的内容库,但拥有 URL 到文档的缓存,并不等于能够在底层语料库中搜索,而不依赖 Bing、Google 或其他检索 API。
他的规模例子让这种区别变得具体:在键值系统中存储大约1000亿个抓取的 URL 相对直接,但要从1000亿份文档中即时检索语义正确的子集,则完全不同。只有包括 Google、Bing 和 Yandex 在内的少数公司,从零构建过完整搜索引擎。
客户还需要页面本身,因此 Exa 会返回清洗、解析后的内容——Markdown 或文本块——对应10、100或1,000个 URL。这项能力最初是意外产生的:第一套系统为了调试保留每个页面的前1,024个 token,客户需求随后把这部分残留变成了主要产品。
Will 承认,与优秀甚至完美的抓取器相比,“一个好用的抓取器”很容易做,而 Exa 目前还没有完美的抓取器。Twitter、Reddit、Quora 和 Stack Overflow 正在越来越多地限制机器人;开放的长尾网站仍提供大量价值,而规模扩大后,与付费数据方建立合作也会更容易。
7. 列表在研究、销售、招聘和投资领域实现变现
创投机构可以搜索 AI-for-law、AI-for-construction 领域的所有公司,或某个目标公司的竞争集合。据称,一名投资人曾连续多天、每次使用 Exa 查询8小时;销售团队用同一套机制寻找潜在客户,Exa 也曾用这种方式找到自己的许多客户。
招聘遵循同样的模式:Exa 可以从博客或已索引的推文中找出写过搜索相关内容的人。Will 的现实含义是,候选人必须让自己能够被互联网发现;如果一个人不发布内容,或以其他方式让自己的工作可被发现,搜索引擎就缺少推断其专业能力的证据。
在教育领域,一名客户会先检索大约20篇相关研究论文,再将其交给 LLM 写作助手。主持人开玩笑说,这“简直就是在替他们写作业”,而 Will 坚持保留其中的区别:研究本身很难,高质量的来源材料是后续任何辅助工作的必要输入。
swyx 将更广泛的影响概括为:“搜索引擎优化什么,互联网就会呈现出什么样子。”Will 认为,Google 的关键词激励机制助长了关键词堆砌,而语义检索可能奖励真正有用的发布内容。
8. LLM 成为界面,但用户仍需要引导
一次“写关于公开学习的人”的现场搜索,暴露了 Exa 仍然存在的歧义:结果偏向公立学校,而不是 swyx 所说的那场运动。Google 同样处理不好,但 Will 的回答揭示了正确界面:一个了解用户的 LLM,把用户的简写转译成搜索引擎实际需要的详细段落。
人类懒得说明每一层细节,而“LLM 不懒”。Google 和 Bing 是为简短的人类关键词设计的,面对段落则完全失效;Exa 正在为精确、机器生成的查询构建搜索,而未来大多数界面都将由 LLM 居中协调。
Will 区分了客观筛选——页面是否满足请求——和主观排序——“最好”究竟意味着什么。一份符合条件的所有公司名单,可以依据标准进行核验;“最好的 NBA 球员”则理想上应转化为明确指标,例如场均投篮命中数、员工数量或网站流量。
swyx 的反驳是,完全自主的代理经常失败,因为用户希望看到过程并进行引导,就像编程副驾驶与五级自动驾驶之间的差别。Will 的回应是预览和迭代:先确认请求的含义,再启动长时间的批处理任务。讨论同时指出了两类失败:代理能力不足,以及缺少任何系统提示都无法完整捕捉的人类语境。
9. o1 式训练和推理成本下降扩大了押注
Will 认为 o1 是重要一步,因为可验证奖励让模型能够自我引导:生成大量编程或数学题,让评分器识别成功解法,再用这些成功样本训练模型。o1 将更聪明的自我训练基础模型,与可能持续几分钟或几小时的推理时思考结合起来;他相信这种训练范式会扩散,但市场仍会存在多种模型规模和供应商。
当 swyx 提议收集研究生真实的搜索轨迹作为推理数据时,Will 表示异议。即使对 Exa 的工程师而言,给小众生物学或技术结果做人类标注也很难;人类标注者往往退回关键词匹配,而 GPT-4 更擅长判断含义。搜索面对的是“关于数十亿件事的简单问题”,不同于 GPT-5 解决一道博士级难题。
Exa 已购买一套500万美元的 H200 集群,并用它升级了原有的 A100 产能,同时将自有算力与 AWS 混用。这些集群用于训练和研究;查询时的经济性则取决于先对语料库做预处理,再只对大约10、30或100个候选结果进行成本更高的重排。
swyx 将广告收入视为消费者搜索成本的上限,提出每1,000次浏览大约1美分的量级,同时明确表示这不是精确数字。Will 的反向论据是模型经济学的变化速度:如果一个核心工具能在几年内变得便宜大约200倍,那么不“从头重新思考搜索”,就会错过一大片新的设计空间。