以毫秒完成匹配：Criteo 的广告技术 AI 与商业未来——对话 Diarmuid Gill、Liva Ralaivola

摘要

• Criteo 的核心护城河在于新鲜的商业数据与毫秒级推理能力的结合，而不是某个秘密模型。 其网络每天从17,000家零售商摄取商品信息，有时一天数次；随后在数百万种商品之间匹配缓存的用户与商品表征，并进行数十亿次竞价。核心工程原则是：在给定的时间约束下，给出“最佳答案”。

• OpenAI 的合作将通用 LLM 的推理能力，与变化速度快到无法写入模型权重的库存事实结合起来。 LLM 可以像一个“非常能打的销售助理”，但可能错过限时价格、缺货或目录变更；Criteo 提供实时库存与价格，让推荐真正可执行。MCP 风格的协议还可能让 Criteo 现有工具跨不同对话界面复用，而无需逐一进行定制集成。

• Criteo 已将推荐技术栈改造成模块化的基础模型平台。 公司从约2^12至2^20维的手工构建稀疏向量和逻辑回归，转向约200–1,000个通过 DeepKNN 学习得到的特征；目前正在为商品、用户时间线及相关领域构建3–4个基础模型。共享嵌入让内部团队在客户获取、商品发现、社交、CTV 和 LLM 产品上都能获得“热启动”。

• 性能的关键，是把几乎所有工作都推到离线完成，同时在线保留用户最新一次行为。 模型提前训练、嵌入提前缓存，但更小或经过适配的模型必须在运行时更新表征，同时不能破坏向量之间的可比性。即使黑色星期五的负载接近正常水平的300%，这套架构也必须保持准确可靠——就像用“同一辆车、同一套机械”，连续一周以每小时300英里的速度行驶。

• 管理层将隐私视为个性化有效的商业前提，而不只是合规成本。 Criteo 表示，公司使用匿名 ID，而非个人可识别信息；同时提供 AdChoices 解释与退出选项，并将符合欧洲规范的方法推广到全球。“如果让人觉得毛骨悚然，就不会奏效”（“If it’s creepy, it won’t work”）：信任流失会降低用户参与度和广告主回报，最终削弱支撑付费墙外内容的广告资金。

• 生成式创意有望通过消除小型广告主面临的一大约束，扩大可触达的广告市场。 Criteo 与 Waymark 正在降低广告活动制作成本，而 Criteo 现有的动态创意系统可以在运行时编排预先生成的“乐高”素材。页面加载时完整生成每条广告仍然太慢；Diarmuid 和 Liva 预计，按受众群体变化以及由用户主动发起的个性化，将比为每个人生成一条独特广告创造更多价值。

• 更长期的图景不是广告消失，而是广告与智能体驱动的搜索融合。 用户可能要求助手评估100双鞋、展示6个广告选择，或准确展示5个旅行方案——曝光变成用户明确提出、且范围受控的请求。Nathan Labenz 将其称为“搜索与广告的坍缩”（“the collapse of search and advertising”）：匹配成本下降，但获取实时、可信的商业数据反而更有价值。

精读

1. 相关广告只有成为透明的价值交换，才能持续存在

• Nathan 开场时，用一段他认为是 Bernie Sanders 与 Claude 对话的内容，提出了一个带有警示意味的框架。Diarmuid 予以纠正：Criteo 表示，公司不收集个人信息，只使用随机匿名 ID，以及用户浏览、点击、喜欢、不喜欢或购买过哪些商品等信号。行业有义务解释收集了什么，以及为什么收集。

• Diarmuid 将广告称为“让互联网保持开放和免费的润滑剂”。相关性让广告变得有吸引力，而不是被大脑自动过滤的噪音；广告主的投入则为原本可能转入付费墙后的服务和内容提供资金。Criteo 的 AdChoices 图标让用户可以查看广告为何出现，并选择退出。

• Nathan 补充了经济层面的理由：价格可负担的商业推荐系统，可以帮助长尾商家和细分商品继续生存。Liva 强调，Criteo 作为中间方，往往“数据最少、任务最难”，需要利用稀疏线索，让消费者、商家和出版商都获得更好的结果。

2. 匿名浏览器 ID 如何在毫秒内变成有价格的竞价

• 用户访问零售商网站时，Cookie 可以在设备上存储一个随机 ID。之后的行为会将该 ID 与某件商品或更宽泛的受众群体关联起来：浏览手机可能意味着用户是科技爱好者，而同时关注 iPhone 和 Android，则可能指向不同画像，但不会暴露其身份。

• 当另一个网站提供广告位时，多家广告技术服务商会代表广告主参与竞价。Criteo 根据大约150个特征估算这次机会的价值，包括浏览过的商品、购买历史、网站场景、设备和受众归属等；随后预测点击、访问网站以及最终购买的概率。预期回报决定出价。

• Liva 将其中的智力核心归结为二元分类：“这个广告位，我们该不该竞价？”如果 Criteo 获胜，下一步决策是选择展示哪些商品。离线训练与大规模缓存，让推理、商品选择和竞价都能在页面加载窗口内完成。

• 这种复杂度也带来了权衡。深度学习模型可以提升相关性和收入预测能力，但“模型越复杂，就越难理解它到底算出了什么”。Criteo 正在研究可解释性，但 Liva 明确表示，要同时获得最大效用和透明解释，仍然很难。

3. OpenAI 负责推理，Criteo 负责提供真正可售的商品

• Nathan 询问，对话式系统是否会构建出本质上更丰富的用户画像。Liva 的回答有意保留了不确定性：合作尚处早期，隐私和数据交换仍未解决，Criteo 也还在判断哪些对话信号有用。可以确定的是，聊天创造了一个新的商业入口。

• Diarmuid 将世界知识与商业事实区分开来。LLM 的知识反映的是模型训练完成时的状态，但价格、促销和库存很快就会过时，尤其是在黑色星期五的限时价格变动或缺货期间。Criteo 每天从17,000家零售商摄取目录数据，有时一天数次。

• 计划中的混合架构，是向 LLM 提供当前商品工具，而不是要求模型权重记住一份不断变化的目录。消费者可以获得一个相当于“非常能打的销售助理”（“really kick-ass sales assistant”）：它了解完整商品组合，能够解释取舍、应对追问、永不厌倦，同时不会以错误价格推荐已经缺货的商品。

• Diarmuid 不同意 Nathan 关于聊天只是用更丰富的查询重复开放网络广告的判断。真正的跃迁在于商品发现：持续对话可以挖掘需求、比较替代选项。Liva 补充说，MCP 风格的协议可以让 Criteo 多年来积累的工具被新智能体调用，无需针对每个网站或界面分别适配。

4. 深度学习取代了无休止的特征工程

• Criteo 的旧系统会根据不同编码方式，将网站、商品和用户行为编码为稀疏向量，可能输入规模大约从2^12到2^20不等。这些表征支持快速稀疏矩阵计算和逻辑回归，本质上是一个线性模型或“单个神经元”；但特征必须由人来发明和维护。

• Criteo AI Lab 于2018年成立，目标是让这些表征从手工构建变成由数据学习得到。Liva 表示，公司自有的 DeepKNN 方法目前可以从数据中提取约200–1,000个特征，再由下游模型完成竞价和分类任务。

• 约束从未改变：准确性必须与毫秒级延迟、每天数十亿次决策以及生产级可靠性同时成立。

• Diarmuid 用黑色星期五作比：让同一辆车连续运行一周，以“每小时300英里”的速度行驶，然后在一年中的其余时间恢复正常运行。商业旺季可能将系统推向日常负载的300%，但系统的行为和可靠性不能因此下降。

5. 可复用嵌入将商业数据变成全公司的平台

• Criteo 正在开发3–4个基础模型，而不是一个庞大的单体模型，覆盖商品、用户时间线等领域。每个模型都旨在生成具有语义意义的嵌入，供内部团队复用为输入，避免每个新的预测任务都重新学习商业世界的结构。

• 这种几何关系可以直接服务于推荐：彼此接近的商品向量意味着相似商品；距离某件商品最近的用户构成潜在受众；而靠近某个用户表征的商品则成为推荐对象。这些表征不必能被人类直接解释，但必须保留足够信号，让相似性具有商业含义。

• 在访谈前一个月举行的一次黑客松上，各团队使用共享基础模型嵌入作为“热启动”或“温启动”。如今平台的难题已经转向运营：要像管理软件一样刷新和管理这些向量的版本，否则新模型可能让所有依赖它的系统同时失效。

• Diarmuid 将这种杠杆作用与产品扩张联系起来。Criteo 最初专注于漏斗下游的再营销，如今正进入客户获取、商品发现、开放网络、社交、联网电视和 LLM。能够“从性能角度一开始就已经走到一半”，会加快达到广告主级别 ROAS 的过程。

6. 预计算赢下竞价，实时场景提供优势

• Nathan 认为，这套架构类似 Stripe 的支付模型：提前计算丰富的用户和商品编码，运行时只需进行低成本的向量比较。Liva 基本同意，但强调一个关键例外——用户最新一次行为可能显著改变意图，必须在线更新嵌入。

• 这种更新需要使用大模型的更小版本或适配版本，既要足够快，能够服务实时请求，又要与大模型保持足够一致，让相似度计算仍然有效。Diarmuid 直白地描述了这一取舍：如果时间不受限，或许可以得到完美答案；但实时竞价需要的是“在给定时间约束下的最佳答案”。

• Criteo 还研究对话上下文已有2–3年。一名员工构建了一个 Slack 智能体，从内部消息中推荐故障排查答案；另一项实验则将对话压缩成摘要向量，测试其是否能改善下游模型。Liva 将两者都定义为降低风险的探索，而非已经确定的生产架构。

7. 信任约束着智能体和跨设备身份识别

• OpenAI 集成仍在确定范围。Diarmuid 表示，广告并不适合出现在每一段对话中，而 Criteo 应该只接收某个具体机会所需的“最少信息”。按照他的说法，两家公司都将用户同意和隐私置于核心位置，同时厘清适当的数据交换方式。

• Liva 的可信机器学习项目覆盖幻觉、隐私安全，以及推荐是否适合特定用户或场景。他预计外部压力会增强，甚至可能来自监管，并表示 Criteo 正在提前准备——“我们宁愿站在安全一边”。

• 跨设备识别遵循同一边界。共享 Wi-Fi 网络可能误将家庭成员识别为同一人，而在多个设备上使用经过身份验证的服务，则可以确定性地建立身份。概率匹配只用于宽泛、非定向的用途；用户选择退出后，不能通过另一台设备重新发现这个人来绕过退出。

• Diarmuid 的商业判断比合规清单更尖锐：“如果让人觉得毛骨悚然，就不会奏效”（“If it’s creepy, it won’t work”）。值得信任的广告让人觉得有用，并赢得点击；侵入性的广告则会损害用户体验，摧毁 Criteo 受托创造的广告主价值。

8. 欧洲是设计优势，而不是 AI 劣势

• Nathan 提出了一个常见的第一反应：“你不可能在欧洲做 AI。”Diarmuid 称之为“根本性错误”，并表示法国团队的质量“高到离谱”。Liva 则指出，法国在数学、计算机科学和工程方面的系统训练，恰恰是解决专业 AI 问题所需的基础。

• Diarmuid 将这种文化追溯至 Laplace、Lagrange、Fermat 和 Galois，同时提到当代公司 Mistral。核心观点并不是欧洲没有约束，而是抽象和形式化方面的严谨性，为创新提供了原材料。

• 在欧洲出生，让谨慎处理数据成为第一原则。Criteo 在美国、加拿大和欧洲开展业务，但表示不会在其他地区放松标准，而是将同一套符合欧洲规范的方法全球化执行。Diarmuid 认为，加州的 CCPA、CPRA 与欧洲规则正在越来越多地相互影响。

• Nathan 直接追问：是欧洲人获得了更好的保护，还是美国人获得了更好的广告？Diarmuid 没有选择其中一方，而是回到用户同意、透明度、退出选项，以及用户、广告主和出版商之间仍然完整的价值交换。如果广告主回报消失，他认为免费内容就必须寻找另一种变现模式。

9. 开放科学之所以有效，是因为数据、问题和文化仍然稀缺

• Nathan 注意到，在 Zuckerberg 开出“空白支票”的时代，AI Lab 对外公布的团队规模仍约为50人。Diarmuid 的留才逻辑落在文化上：优秀同事、棘手的生产问题和较长的员工任期，共同构成了一个即使外部竞争加剧，人们也愿意为之迁居并长期留下的环境。

• Liva 表示，研究科学家必须发表可复现的成果，并保持公开的行业存在感。Criteo 还资助博士生，让他们与研究人员一起参与真实项目、发表成果，有时再转为全职员工，从而保持公司与欧洲学术界的连接。

• 这些问题横跨理论与部署：研究人员可以追踪上游问题，而成果在1–2年后进入生产环境。Nathan 提出的护城河逻辑是，只要商业网络、专有数据流、运营系统以及大规模测试机会这些难以复制的资产仍在，开放就负担得起。

10. 生成式创意先扩大市场，之后才会进入实时生成

• Nathan 认为，创意素材缺失是阻碍小型广告主进入平台的主要因素之一。Diarmuid 认为，生成式 AI 正在让高质量制作民主化：Waymark 正在为 Criteo 的广告主提供支持，而面向自助服务的 Creadits Go 产品，则旨在让中小型和长尾广告主也能负担广告活动制作。

• Criteo 已经能够从模板和视觉素材中组装动态广告，这是 Liva 所说的“乐高”模式。生成式系统可以离线生成这些组件，而现有引擎则在竞价过程中进行编排。如今，为一张新图片等待5秒仍然不可接受；Liva 推测，完整的实时生成或由设备辅助的生成，可能在2或3年后出现。

• Nathan 测试了最极端的情形：是否可以让每个人都收到一个独特故事？Diarmuid 预计，大部分价值仍会产生在受众层面，因为品牌需要保留对视觉风格和整体观感的控制；他看不到足够证据证明，面向个人的变化能带来足够多的额外销售。Liva 提出的替代方案，是在用户自己的设备上完成保护隐私的个性化。

• 用户主动发起请求，会改变边界。向智能体询问法国南部的婚礼穿搭、虚拟试穿，或在家中预览商品，会让超个性化变得有用，而不是令人不适。Nathan 提出，广告语气与场景匹配可能具有价值；Diarmuid 对情境化植入更为谨慎，强调广告不能侵入内容本身。

11. 无论模型和媒介如何变化，人类控制始终不变

• 品牌规范、责任归属和消费者自主权，即使技术可能性不断扩大，也会让人类继续参与创意流程。Liva 表示，每个模型项目都应该追问：“人在哪里？”如果剥夺用户作出决定的权利，自动化在法律和实践上都可能无法成立。

• 同一原则也适用于创意之外的竞价、智能体、身份识别和商品推荐。真正困难的设计选择，不是是否保留人的参与，而是把人放在什么位置，让自动化形成杠杆，同时不让用户无法理解或覆盖一项会产生重要后果的决策。

• 这也解释了为什么对话系统即使接收更丰富的信息，仍然可能让人觉得可以接受：Nathan 观察到，人们似乎更能接受聊天或智能体场景中的个性化；Diarmuid 认同，只要“这是用户主动要求的”。

12. 广告可能变成用户明确要求的商品发现

• Nathan 最后的矛盾点在于经济层面：如果 AI 提升繁荣程度，人类时间的价值会上升，广告库存也可能更值钱；但智能体也可能替买家评估所有鞋款，从而压低搜索和匹配成本，减少商家竞价购买注意力的必要。

• Diarmuid 预计，智能体结合新鲜的商业数据，会带来更好的决策，而不是消灭商业发现。用户可以明确说：“我不在乎价格，我只想要最好的产品。”随后获得准确推荐、配套商品和当前库存，比传统广告少走很多弯路。

• Liva 设想，价值交换会变得明确：用户可以调节一个旋钮，让助手检查10双、12双或100双鞋，从中挑出6双作为广告展示，再由人来选择；也可以要求准确查看5个旅行方案，“不多不少”。中间方负责过滤海量供给，同时保留有意为之的曝光。

• Nathan 将这一情景称为“搜索与广告的坍缩”（“the collapse of search and advertising”）：如果广告足够有用，就可能胜过搜索。Diarmuid 对这种单一终局的说法持怀疑态度，Liva 也将未来5年的判断限定为推测；但双方共同勾勒出的假设终点是，广告可能退到智能体之后，再以消费者主动要求查看、边界明确的商品发现形式重新出现。