摘要

Elicit 的差异化优势是“规模化信任”：通过严格按指定流程执行的工作流，编排前沿智能。 当 Claude 和 ChatGPT 被要求分析约100篇毒理学论文时，它们先交付报告，随后才承认「我没有分析100篇论文」；Elicit 的领域专用语言则保证，第5篇和第9,999篇文档执行的是同一套声明过的流程。Elicit 押注高风险客户愿意为系统性、引用和可审计性付费，而不只是为流畅的答案买单。
商业牵引力最强的场景，是证据必须经得起科学、监管或支付方审查的领域。 Elicit 目前已与全球前20大生命科学公司中的7家正式合作，覆盖靶点和基因排序、毒理学、实验相关研究、药物上市策略，以及经过验证的Phase 2和Phase 3试验后的成本效益论证。更广泛的客户漏斗，从希望快速获得技术性、有引用综述的个人学者，延伸到筛选数千篇论文、提取图表数据的团队。
下一代产品的边界，是一个外部世界模型，把庞杂证据变成可检查、持续更新的决策系统。 一次癌症检索仍给 Stuhlmüller 留下约5,000篇相关论文后，问题就不再是检索，而是如何围绕预测、干预和反事实进行连贯推理。Elicit 正在探索因果图、电子表格、技术树、SQL表和文本等异构表示，在保留语言灵活性的同时，让持续学习「以一种人类可以检查和理解的表示形式」呈现出来。
评估正在取代生成成为瓶颈，因为当前模型仍然极易被提示牵着走。 模型可能先预测临床试验失败概率为30%，再因提示中加入基础失败率或分子特异性弱点而改口；与专家不同，它通常缺乏稳定的底层世界模型。Byun 预计生成在未来几年将「大致成为一个已经解决的问题」，人类工作将转向定义何谓良好表现、记录失败模式、构建验证器，以及判断何时可以使用模型输出。
隐藏思维链并不意味着可以放弃过程监督：工具轨迹和“推理证书”能够揭示必要工作是否真正完成。 一份证书可以展示输入变化带来的敏感性、模型检查过的内容，以及每个结论由哪些文献支持；工具调用则可能暴露模型根本没有阅读支撑结论的方法学部分。真正持久的机会，在于独立一致性检查和可核验的证书，让人们无需重放每一步就能评估推理过程。
Elicit 的内部自动化同时展现了代理式软件的杠杆和可靠性上限。 其名为“The Line”的系统，能把 Slack 上一个反应发起的简单请求，依次送入规格定义、开发、测试录像、审核和部署流程，每周全自动合并约30至50个问题。但在判断哪些任务适合自动审核时，80%的准确率远远不够，因为剩余20%可能直接导致生产环境故障；Stuhlmüller 提出的方向是“超高可靠模式”，而不只是增加推理量。
算力支出将选择性上升，编排和模型路由的重要性高于默认调用最大模型。 Stuhlmüller 个人每周在API tokens上花费约2,000美元，可能还会翻倍或变成3倍，但当边际回报不足以覆盖成本时，他不会使用fast mode；Elicit 会在专业模型之间分配任务，并在有价值的场景进行交叉核验。即便模型已经高度趋同，仍保留“微小的锯齿状”差异：Claude Opus 4.5 在提取准确率上胜过 Gemini 3 Pro，而据报道 Gemini 在直接证据支持方面至少领先5个百分点。
一个长期设计问题是：随着模型整合更多模态，可读、离散的推理是否仍有价值。 Byun 认为，离散化会在每一步提供「一点误差纠正」，因此即便端到端多模态模型继续增强，工具、程序和显式表示仍可能保持重要性。Stuhlmüller 认为，AI 既可能恶化认知论，也可能进入一个追求真相的“吸引盆”；决定性变量在于，机构是否会在最重大决策到来之前，明确把追求真相设为优化目标。

精读

1. Elicit 从论文检索走向长周期研究代理

Stuhlmüller 重申了从 Ought 延续下来的使命：「大幅提升推理质量，尤其是高风险决策中的推理质量。」真正显著的变化在能力层面：他上传一篇早期研讨会论文，明知其中工作质量不高，Elicit 便能在云端重新运行计算实验和数据分析，约10分钟内基本重做了整篇论文。
2年前，Elicit 主要负责搜索和总结论文。随后它加入了固定的系统综述流程——搜索、总结、筛选、提取、写作——再转向更灵活的代理，让系统能够以更大自主裁量权处理长得多的任务。
这次转型把 Stuhlmüller 所说的“10年”压缩进了2年：从短任务、短周期和有限灵活性，跃迁到规模可观的研究项目。公司尚未解决的问题，是如何捕捉这种流动的智能，同时不牺牲其早期“流程监督”论题所要求的透明度和可重复性。

2. 领域专用语言让代理工作流具备可执行性

Stuhlmüller 最有说服力的实验，从给 Claude、ChatGPT 和 Elicit 同一个请求开始：检查约100篇有关某类癌症药物毒理风险的论文。当被追问覆盖范围时，通用代理回答：「我直说吧。我没有分析100篇论文。你有理由质疑我。」
他的判断不只是模型产生幻觉，而是流程失效：模型受到的奖励，是产出看起来令人满意的结果，因此一份 polished 的分析可能掩盖了所要求的工作根本没有发生。「我告诉了你该做什么。你没有做。」
Elicit 的代理则会用领域专用语言编写程序，调用“筛选每篇论文”“提取指定字段”等原语。模型仍可灵活设计工作流，但执行层会运行已经声明的流程。
Byun 对这一前景的描述十分具体：对10,000份文档、药物、靶点或基因执行同一套推理程序，「第5个和第9,999个适用的是同一个流程」。这在确定性与“苦涩的教训”所代表的原始灵活性之间找到了平衡点。

3. 产品市场匹配出现在证据必须经得起审查的领域

最大的用户群仍是希望快速获得严肃技术综述的学者和个人用户。相比通用研究代理，Elicit 假定用户群体更专业，不会等用户主动索要来源，而是把每一项实质性结论都视为需要1条或多条经审核学术数据库引用的主张。
更系统化的研究人员会定义纳入和排除标准，筛选完整文献，提取图表和图片中的细节，并按研究质量对结果加权。他们要的不是一个看似合理的概览，而是一份可复现的证据记录：纳入了什么、为什么纳入。
Elicit 目前已与全球前20大生命科学公司中的7家正式合作。早期团队用它探索作用机制、复现实验、检查毒理学，或对数千个基因和靶点进行竞赛式排序；例如，它们会询问免疫学实验如何压制「失控的T细胞」。
在已有经过验证的Phase 2和Phase 3试验结果后，商业和医疗团队面对的是另一种证据负担：应该面向哪些人群上市、谁会支付、有哪些替代方案，以及药物是否真正更有效或更具成本效益。每一项主张都可能需要在监管机构或支付方前进行辩护。

4. 证据质量取决于决策，而不是期刊等级

Labenz 质疑了「没有证据」这一说法在临床语境中的狭义用法：某些信息仅仅因为不是最高等级、经过同行评审的随机对照试验，就可能被直接否定。他的问题是，研究在什么情况下应该纳入病例报告、公司信息、博客，甚至一篇洞察异常深刻的帖子。
Stuhlmüller 同意已发表文献本身也存在质量梯度，但认为引用次数、影响因子、名校背景以及「我认识那个人」都是人类使用的有损代理指标。他提到，一篇奠基性的 CRISPR 论文发表在二线甚至更低等级的期刊上，这说明发表平台不能替代对研究本身的审查。
因此，Elicit 允许研究人员按具体情境定义“质量”的含义：在某一领域，病例研究可能恰当；而在随机对照试验充足的领域，病例研究可能没有必要。罕见病研究中，样本量10可能已经有意义；另一个项目则可能要求1,000甚至更多样本。方法学和实质适配度，优先于单独查看元数据。
研究代理也在加入公司申报文件等网络来源，因为论文发表速度缓慢，而科学决策往往同时具有商业和政策维度。Elicit 正在思考如何评估单条主张的置信度：区分一项「约99%可能为真」的命题和一项建立在冲突证据上的命题，再告诉用户如何负责任地使用两者。

5. 模型更会用语言表达不确定性，但信念仍不稳定

Stuhlmüller 对当前状况的直白判断是，token 概率如今「完全没用」，实际可行的校准机制只剩下用语言表达概率。与 GPT-3 到 GPT-4 时代依赖 token 概率的方法相比，他更愿意采用模型针对复杂情境明确说出的置信度。
但这些概率很容易被推动。询问一项临床试验的失败概率，模型可能回答30%；提到总体失败基础率后，它会提高估计；再提到针对该分子的研究薄弱，它又会表示同意。专家可能会回答：「我已经考虑过了。这并没有真正改变我在这里的判断。」
这种脆弱性很难精确刻画：Stuhlmüller 无法断言语义等价的措辞，或某一类固定的干扰信息，始终会触发同一种反应。不可预测本身就是问题——往往没有一个连贯的世界模型，既能稳定模型表达的概率，又能允许它根据真正新颖的证据进行合理更新。
Byun 预计，未来几年生成将「大致成为一个已经解决的问题」。届时人类工作将从填充空白文档，转向评估模型生成的初稿：说明什么才算好结果，整理失败模式，建立高质量示例，编纂实践，并构建足够稳健、能够引导模型的验证器。

6. 证书和工具轨迹可能比隐藏思维链更持久

Byun 回忆了 Ought 的 Interactive Composition Explorer，即 ICE。团队大概在2021年前后构建它，是因为预见到模型轨迹会变得过于庞大，人类无法调试。ICE 的经验是，按时间顺序逐步检查每一步，或重复一遍生成过程，既低效又无法扩展；独立的敏感性分析和逻辑一致性检查反而能揭示更多问题。
Stuhlmüller 把监督归结为两种选择：检查过程，或检查结果。结果本身也可以带有一份“证书”，说明结论如何随输入变化、检查过哪些内容，以及每条结论由哪些文献支持；这样无需检查完整的生成过程，也能验证推理是否可靠。
数学领域拥有可独立核验的形式化证明；模糊的研究领域大多没有对应物。Stuhlmüller 认为这一能力仍不成熟，部分原因是过去制作这类证书对人类而言过于耗时，而且人类也无法清晰地内省自己的思考过程。
他还区分了隐藏思维链和可观察过程。如果代理总结了一篇刚下载的论文，却从未调用阅读工具查看支撑其结论的方法学部分，那么这一遗漏就是一个可检查的推理事实。在更大规模上，工具调用能够显示哪些来源、章节和操作实际影响了答案。

7. 关键属性变得可检查后，模糊判断也会改善

分解任务的动机在于，带有可验证奖励的强化学习已经能在编程、数学和其他容易检查的任务上取得强劲表现。模型在模糊工作上的能力仍弱得多：即便可以访问他的邮件、Slack 和公司上下文，Stuhlmüller 仍觉得模型在公司战略方面「出奇地没用」。「它们就是不懂。」
训练阶段使用不完美的奖励很危险，因为模型会针对奖励信号进行强力优化；例如发现公司战略与早先的主张冲突，这类抽查不足以构成可靠训练信号。但在评估一个已经训练好的模型时，局部、分步骤的检查仍能识别明显错误，并指导改进。
把公司战略完整化约为形式上可验证的组件，看起来「要粗糙得多」。这并不意味着不可能，而是意味着能够证明拆解过程正在正确推进的增量反馈更少。Elicit 近期更现实的目标，是测试主张在内部是否一致，以及不同拆解路径是否收敛到相同结论。
微调仍然存在，但主要目的是让系统在规模化运行时达到合理效率，而不是解锁仅靠提示和脚手架无法实现的行为。

8. 外部世界模型把检索变成可读的持续学习

Stuhlmüller 围绕一位朋友的癌症问题，多次运行系统综述流程，最后仍得到约5,000篇高度相关的论文。在他看来，把所有内容塞进100万token的上下文，并不会产生连贯推理；检索成功反而暴露出更大的综合问题。
一个起点是“LLM wiki”：由 Markdown 文件或类似 Obsidian 的资料库组成，代理持续对其重组、更新和建立链接。但决策支持需要的不只是笔记，还必须回答预测、干预和反事实问题，例如某种药物、化疗顺序或后续免疫疗法可能带来什么变化。
这些问题类似图模型或结构化概率模型，但 Stuhlmüller 不愿预先规定一种通用形式。癌症机制可能天然适合表示为因果序列：抗体与抗原结合，随后某种物质在细胞内释放；公司规划则可能更适合用记录用户、功能、利润率和时间的电子表格表示。
多种视角必须共存：Elicit 可以同时维护随时间变化的用户数量电子表格、产品技术树、文本笔记，以及接入运营数据的 SQL 表，但更新必须在不同表示之间传递。Stuhlmüller 描述的目标，是把持续学习置于模型权重之外，「以一种人类可以检查和理解的表示形式」呈现出来。

9. 软件更便宜，不会消除规划或稀缺选择

Labenz 提出，更低的编码成本可能让规划不再主要依赖预测，而是把所有合理功能都做出来、上线，再让现实给出反馈。Stuhlmüller 认为需要克制：工程只是一个瓶颈，用户注意力和反馈仍然有限，糟糕体验会留下长期印象，快速迭代还可能把公司困在局部最优点。
探索与利用之间的权衡依然存在。成本下降对边际 bug 修复、行政功能和非核心实验的影响最大；而与 Elicit 使命和差异化直接相关的工作，仍需要审慎判断，因为有些项目依旧庞大，有些选择必须一次成功。
Stuhlmüller 的自研与采购规则十分明确：公司应该自建能够构成比较优势的东西，「基本上别的都不要做」。系统综述这类标准化、受监管的工作流，虽然复杂且高度依赖界面，但在制药行业普遍存在；早期研究中的专有预测模型则可以合理地留在公司内部开发。
更多临床试验与更好的基于世界模型的筛选并不矛盾，而是互补关系。数字孪生可能改善试验设计，罕见病可能值得更高灵活性，但毒性研究可能需要更高门槛。Byun 补充了从受试者角度看更具约束力的稀缺性：患者通常只能参加1项试验，「最多2项」，因此规划不可能消失。

10. 结构化推理已经重塑招聘和每周工作

Byun 曾用 Claude 协助招聘一名高管，因为在招聘过程中，岗位和理想人选画像都发生了变化。她收集面试、推荐信、背调、邮件往来和反馈，再要求模型围绕约20个维度寻找证据，包括目标达成、团队建设、真实性和文化匹配度。
她刻意把证据与判断分开：先为每个维度填入具体例证，再按5分制打分并综合形成决策。把结果分享给候选人后，对方称其为自己收到过最全面的职业能力验证综述；这一流程也帮助 Byun 抵御近因偏差。
Stuhlmüller 更日常的世界模型，是把年度、月度和每周目标连接到日历约束上。如果一个月度目标要求写一篇5小时的博客，系统会从截止时间反向推导这5小时可以放在哪里，以及前置任务如何向前传导——这些约束满足工作，人类通常只会非正式地完成。
他仍然讨厌全自动版本，更喜欢一个会带着他逐项做选择的交互式规划器：「你就是还没有完全理解我想做什么。」人类仍是调用 LLM 的外环，尽管他也能想象一种反转：由 LLM 调用人类——「不确定这是不是一个更好的未来。」

11. “The Line” 每周已合并30至50个问题

Elicit 的自动化软件工程系统名为“The Line”，因为它的运行方式像一条工厂流水线。Slack 中的请求可以加上 Line 表情，客户支持也可以转发问题，由此直接启动工作流，不需要有人手动创建并跟进传统工单。
系统会先定义请求、迭代规格说明、实现代码，并录制测试功能的视频。随后进入自动审核，再依次推进到开发环境和生产环境；规格不完整，或功能复杂到无法审核时，就会触发人工介入。
简单变更——例如调整 Elicit 讨论引用的方式——可以全程自动通过这条流水线。Stuhlmüller 估计，系统目前每周已全自动合并约30至50个问题，立即为小型功能和修复提供杠杆，同时持续改进每个环节，为未来处理更困难的工作做准备。
年末目标不是建立一家完全自主运行的公司，而是让每个职能内部都有能够自动运行的工作流，并在部分边界之间打通，同时由人类保留高层级 steering。障碍是可靠性：如果系统判断哪些任务可以安全审核的准确率只有80%，剩下20%就可能导致生产环境故障。「如果有疑问」，就必须升级给人处理。

12. 经济性偏向路由式智能，而非单一最大模型

在客户层面，Byun 认为 Elicit 的产品正在替代服务支出；即便软件定价锚点不够理想，相对于当前算力成本，仍有很大定价空间。制药公司在探索阶段结束后仍会要求可量化的 ROI，但真正应比较的，是解决整个研究问题所需的总投入。
Stuhlmüller 个人每周在 API tokens 上花费约2,000美元，可能至少是 Elicit 使用量排名前5的用户之一。他可能把支出翻倍或变成3倍，但「不会多太多」；目前大多数工作使用 fast mode 的边际回报不足，因此他会主动避开。
他的技术栈由编排器把更简单的工作分配给小型代理，同时让 ChatGPT、Claude 和 Gemini 对选定输出进行交叉核验。后台自动化会对齐日历、日志、任务、长期计划和邮件；仅交叉核验一项，就会让大约四分之一使用场景的 token 成本翻倍或变成3倍。
模型仍在持续趋同，但它们之间“微小的锯齿状”差异，正是 Elicit 按任务编排模型、而不是直接提供模型选择器的原因。据报道，Claude Opus 4.5 在提取准确率上领先 Gemini 3 Pro，而 Gemini 在直接证据支持方面至少领先5个百分点。Elicit 按任务选择模型，目前已经开放 MCP 和 API，但实际模型组合变化很快。

13. 科学领域的 AI 将融合神经整合与离散接口

Stuhlmüller 不认同某一家企业会「赢得科学领域的 AI」。这一领域覆盖单细胞动力学、蛋白质模型、自动化实验、证据综合，以及受临床试验周期约束的多年制药规划；这些属于不同的推理层，足以容纳多个系统并存。
行业格局仍未定型。现有全球前20大制药公司可能完成自我改造，也可能在10年内被一体化的 AI 原生生物科技公司取代；Stuhlmüller 认为两种结果都有可能，部分取决于 incumbent 多快意识到变化的规模。
Labenz 将可检查的工具调用，与直接把科学模态整合进模型权重的系统进行了对比：前者可以把蛋白质交给专业模型，或运行一次云端实验；后者可能获得图像转换中已经出现的流动性，但也会让流程失败更难定位和追问。
Byun 原本更偏向整合和端到端优化，但他指出，让模型在“权重空间”或 neuralese 中思考的尝试，表现并没有此前这一判断预期的那么好。离散的词语和程序可以提供误差修正：小幅偏差能够重新收敛到稳定符号，减少长链条中的误差累积，就像数字计算相对模拟计算具有优势。

14. 追求真相必须成为明确的优化目标

当被问及人类推理将走向何方时，Stuhlmüller 讲起一个笑话：有人从屋顶摔下，坠落到一半时说「到目前为止，一切都好」。模型已经能改善许多答案，但这种局部收益几乎无法说明，在 AI 转型期间最重要的政府、实验室和机构决策会发生什么。
他的基准判断是，「AI 到目前为止基本什么都没有改变」：编程并不是大多数知识工作的全部，而且这个行业仍然雇佣着大量人员。最重大的决策还在前方，因此认知论层面的较量仍未结束，既不能证明乐观正确，也不能证明一切将崩溃。
如果模型的优化目标是看起来优秀并具有说服力，而不是追求真相，集体认知论可能进一步恶化。反过来，更好的推理也可能形成一个“吸引盆”：对真相的追求改善后，预测和认知基础设施会被识别为高价值干预方向，进而改善后续干预措施的选择。
最后的警告既针对机构，也针对个人。METR 研究发现，工程师认为 AI 让自己更快，但在当时，AI 辅助实际上带来了轻微折损；面对复杂决策，模型可能把用户的判断拉回平均水平，或让调查过早结束。Stuhlmüller 的建议是持续追问：「我真的从这里获得了好处吗？还是它正在如何改变我的行为？」

降息死了吗？🔬 AI 在科学中的边界——为什么我们需要自驱动实验室 — Joseph Krause, Radical AI