No Priors 第138期｜2025年最佳（截至目前）：Sarah Guo 与 Elad Gil

摘要

• 最强的创业信号来自对工作流的盲测验证，而不是模型的炫技。 Winston Weinberg 和 Gabe 用早期思维链提示测试 GPT-3，向 100 个 r/legaladvice 房东-租客问题提问；3名律师在完全不知道 AI 的情况下判断，其中 86 个回答可以不经修改直接发出。OpenAI 的总法律顾问甚至回复：“我完全不知道这些模型在法律方面这么强。”
• 当相邻基础设施移除了原有约束，AI 就能让“坟场”市场重新活跃起来。 Arvind Jain 认为，企业搜索失败是因为 SaaS 之前的数据无法访问；标准化、可互操作的 SaaS 系统和 API 让开箱即用的产品成为可能，而企业内部内容也恰好开始爆炸式增长。某个 Glean 客户拥有超过 10亿份文档——这相当于 Jain 回忆中 2004 年 Google 所面对的整个互联网规模。
• 当推理模型能够识别不确定性并把工作交给工具时，效率会得到实质性提升。 在视觉任务中，模型可以承认自己看不清某个东西，再裁剪或处理图像，从而获得“非常明显不同”的测试时扩展斜率。对于估值，一位研究人员给出的例子更简单：让模型写代码运行计算，“弄清楚实际答案是什么”。
• 数字劳动力的替代可能比实体自动化或政治适应来得更快。 Brendan Foody 预计，客服、招聘等岗位会迅速且痛苦地被替代；如果超智能带来的收益遵循幂律增长，社会可能出现“一场大型民粹运动”，同时面临艰难的财富分配问题。他预计实体自动化会更慢，潜在工作范围则可能从机器人数据生成，到餐饮和治疗。
• 超智能可能把共同脆弱性从威慑因素变成先发制人的触发器。 Dan Hendris 将先进 AI 战略与核报复相提并论，但他认为，自动化 AI 研究可能变得极度不稳定，以至于中国或美国可能对对方的数据中心发动网络攻击。他设想俄罗斯重新评估力量平衡，通过间谍活动监控相关项目，并威胁进行报复。
• 技术上的确信并不能消除模型的意外表现或脆弱性。 Isa Fulford 原本预计在浏览任务上训练模型会奏效，却发现第一个可用模型强得出人意料。Sarah Guo 将这种体验比作一条“铺满草莓的道路”，Fulford 表示认同。同一个模型可以做出异常聪明的事情，随后又犯下一个让人不禁问“你为什么要这么做？停下”的错误。
• 创业与医疗结果，为纪律化建设提供了不同维度的证据。 Flagship 的演讲者质疑把创业当成随机的“射门次数”，尤其是在医疗、气候、农业和粮食安全领域投入来之不易的资本时。在 Abridge，产品批评是“氧气”；一名医生说自己不会退休，以及一个家庭表示这款工具让母亲能够回家吃晚饭，这些反馈则体现了 Rao 所说的更深层目的。

精读

1. 工作流证据在市场察觉前揭示了能力

• Harvey 的起点，是 Winston Weinberg 惊讶于“没人谈论 GPT-3”。他和 Gabe 用早期思维链提示，测试 100 个 r/legaladvice 上的房东-租客问题；他们没有告诉 3名律师任何 AI 相关信息，只询问每个回答是否合乎伦理、能否不经修改直接使用。律师们对其中 86 个回答给出了肯定答案。
• Dr. Fay Lee 将空间智能描述为进化过程中的艰难转换：把收集到的光线转化为用于导航、操作和互动的内部3D世界。即便是人类，闭上眼睛重建周遭环境仍然困难；如果能让丰富的3D内容在指尖实现流畅创作和编辑，就会创造一个“完全不同的世界”。

2. 基础设施变化可以把坟场变成市场

• Arvind Jain 对企业搜索“坟场史”的诊断，核心在于基础设施：SaaS 出现之前，供应商无法可靠地在不同服务器和存储系统之间定位、连接数据。统一的软件版本、互操作性和 API，最终让统一的开箱即用搜索成为可能。
• Rubrik 暴露了这种需求：信息散落在 300 个 SaaS 系统中，员工抱怨什么都找不到，但 Jain 发现“根本没有可买的东西”。规模进一步放大了机会：一家大型 Glean 客户拥有超过 10亿份文档，Jain 将其比作 2004 年整个互联网的规模。

3. 工具让推理的扩展曲线变陡

• OpenAI 的研究人员描述了视觉模型如何识别自身的不确定性——“我确实看不清这个东西”——然后使用工具裁剪或处理图像。这会提高推理 token 的产出效率，并带来明显更陡峭的测试时扩展斜率。
• 一位研究人员用估值举例，揭示了分工所在：模型可以在上下文中反复拟合系数并自行验证，也可以写一个简单程序运行估值模型，直接确定实际答案。当模型“比较优势”之外的工作交给专门工具时，算力的使用效率就会提升。
• Fulford 原本预计针对浏览任务训练 Deep Research 会奏效，但实际效果之好仍然让她意外。Sarah Guo 将这种体验比作一条“铺满草莓的道路”，Fulford 表示认同。不过，模型表现仍然参差不齐：它们可能先做出“一些极其聪明的事情”，随后犯下一个无法解释的错误，让人问：“你为什么要这么做？停下。”

4. 数字加速带来劳动力与安全风险

• Foody 预计，客服、招聘等数字岗位的替代会“非常快”且充满痛苦，并引发重大的政治问题。接近超智能时，更棘手的问题将变成如何重新分配财富——如果收益按幂律集中，答案尤其困难。
• 主持人追问：“实体世界意味着什么？”这迫使讨论具体化：机器人数据工作、端盘子，以及人们希望与真人互动的治疗工作。Foody 认为，实体自动化会更慢，因为它缺少虚拟世界中自我强化的改进闭环。
• Hendris 首先用核武器作类比：国家可以通过共同脆弱性遏制彼此发动首次打击。随后他认为，一旦系统能够自动化大部分 AI 研究，快速自举至超智能或制造出“超级武器”可能变得极度不稳定，以至于中国或美国可能对对方的数据中心发动先发制人的网络攻击。他设想俄罗斯重新评估力量平衡，通过间谍活动监控相关项目，并威胁进行报复。

5. 纪律化建设通过结果赢得正当性

• Flagship 的演讲者回忆说，自己作为一名 24 岁移民于 1987 年创办公司。当时，获得风险资本信任的通常是 Merck 或 IBM 的前高级管理者，每轮融资规模约为 2300万美元。这段经历让他思考：创业为什么不能成为一种职业，而要一直停留在随机、即兴、情绪化、带有赌性（gamy）的状态。
• 当被追问“带有赌性”是什么意思时，他指向了一种文化：反复失败、偶尔成功，最后变成一块记分牌。当资本用于解决医疗、气候、农业和粮食安全领域“几乎不可能”的问题时，“不能把它看成……一次次射门”。
• Abridge 将正面反馈汇入一个名为“love stories”的频道，公司内部任何人都可以访问。Shiv Rao 称尖锐的产品批评是“氧气”；正面反馈则包括一名医生说自己不会退休，以及一位乡村医生的家人表示，Abridge 让她能够提前回家吃晚饭。Rao 将超高速增长带来的短暂“多巴胺刺激”，与使命感带来的“催产素刺激”相对比，并表示公司真正追求的是后者。