正在逼近 AI 事件视界?第2部,与 Abhi Mahajan、Helen Toner、Jeremie Harris、@8teAPi 对谈
摘要
短期内最清晰的 AI 生物学商业机会,不是发明更多分子,而是在临床瓶颈上挽救价值:Abhi Mahajan 表示,肿瘤学试验的失败率高达97%,但其中一些患者往往确实会产生响应。 Noetik 将病理学、16-plex 空间蛋白组学、覆盖19,000个基因的空间转录组学和外显子组测序结合起来,寻找潜在“非人类可读”的响应生物标志物。Mahajan 预计,未来几年人类模拟公司至少能改善几项试验,但对 AI 是否会迅速发现全新靶点仍远不如确定。
生物学不太可能重演软件的智能爆炸,因为其中最有价值的奖励缓慢、模糊且昂贵,而不是可以低成本验证。 毒性可能在几秒或几年后出现,可能随剂量和物种变化,也可能在不杀死动物的情况下造成认知或心脏损伤;一次干净的肝细胞检测或许能节省数月时间,却仍然回答不了决定性的体内问题。即使某个模型在困难的临床前基准上让“Alpha 3”提升一倍,也不能证明患者结局更好,因为“这个领域已经充斥着很多真正优秀的临床前资产”。
中国的生物科技优势更像操作系统优势,而不是已经得到证明的 AI 模型领先。 Mahajan 认为,这一优势从仿制药延伸到强大的 CRO 生态,再进入本土创新药研发,依靠更低的试验成本,以及设计人员与湿实验室工作人员之间更紧密的反馈;他尚未在中国生物 AI 中看到“DeepSeek thing”。Jeremie Harris 则认为芯片出口管制确实形成约束,引用了 DeepSeek 在 R1 之前的抱怨和 H200 积压需求,同时否认 Nvidia 销售会让中国放弃战略性的国产技术栈。
自动化 AI 研发是一台制造战略意外的机器,因为知情专家对短期会发生什么大体一致,却对最终是递归、锯齿式加速还是平台期存在分歧。 Helen Toner 的研讨会参与者对2026—2027年可能看到的情况高度一致,却无法就此后会发生什么达成共识;关键问题在于,AI 是否会替代人类的全部贡献,以及物理、组织和采用瓶颈会多快“咬住”这条循环。一个尚未充分讨论的情形是:能力超越人类但受到边界约束的平台期,足以重排经济,却不会变成不可理解的奇点。
前沿实验室竞赛正在跑在评估和治理之前,但“不可避免”并不会抹去有意义的设计选择。 讨论提到,Anthropic 和 OpenAI 明知难以评估意识或长时程自主性,仍在发布模型,同时区分了人类主导下的 AI 研发与让数百万个智能体启动、却“完全不知道发生了什么”。Toner 的政策主张也从发布日文件转向持续的内部风险测量、独立审计,以及在网络、生物和认知安全上的社会加固。
被忽视的 AI 交易是物理底座,而 Harris 认为,破坏它可能抹平模型层面的全部优势。 TSMC 是极其脆弱的集中点;与中国有关联的零部件和人员会让数据中心建设出现“单向门”;电网变压器则可能给对手带来远超窃取模型的杠杆。Harris 将安全建设、供应链审查、电网冗余和可信的进攻选项视为购买选择权,同时把失控概率刻意放在“10%到90%”这一宽泛区间,并认为2027年、2030年具有合理可能性,2035年则相对没那么像。
即使能力曲线平滑,采用也可能呈现断点,因为最后1%的改进就可能把玩具变成生产系统。 Harris 表示,播客剪辑在6个月前还无法完成,但在节目播出前3到4周已经实现端到端运行;Nathan Labenz 认为智能体也存在类似阈值,不过当前模型仍会在应该“直接阅读文档”时过度使用代码。正在形成的技术栈——深度个人上下文、每月将300,000个 token 压缩成10,000个 token、可能的持续学习,以及以“判断力迁移”为目标的模型——被讨论为保留更多个人经济杠杆的路径。
精读
1. 药物搜寻已经相当不错,只是评估仍然“相当粗糙”
Mahajan 的竞争情报流程,起点是药企越来越愿意收购资产,而不是把所有东西都放在内部开发。中国公司正在产出有意思的临床前候选药物,其中一些可能只需几百万美元就能买到;他的系统不依赖个人关系网或试验聚合器,而是抓取语义网络,对每种在研药物按照公司优先级和偏好的技术路径进行标注、排序,再把结果表交给治疗团队。
人工尽调仍不可或缺,因为“即便是5.2和5.3也并不完美”。Mahajan 的个人评估标准刻意务实:对于治疗团队已经认为有吸引力、希望推进的药物,下一代模型是否还会继续推荐?这套流程几个月前才搭建,表现仍然相当不错,但他没有观察到模型驱动的显著跃升。
上限可能来自目标本身:判断一款药物是否有吸引力“非常定性”,而且“非常依赖直觉”。它取决于买方经济性,也取决于是否有人认识卖方——这很重要,因为公司有时会把收钱这件事做得出奇困难。基准测试可以检验科学属性,却无法完整编码一笔交易是否真的能够执行。
2. 生物学的有价值奖励来得太晚、噪声太大,难以轻松递归
Mahajan 将自己关于生物学“没有可验证真值”的说法收窄为夸张表达,随后为更严格的版本辩护:对于临床价值最高的问题,廉价且可验证的真值非常少。蛋白质是否存在、测序结果如何,都可以核验;但生物学缺少数学和代码中让“可验证奖励强化学习”快速复利的那种大量、即时奖励。
他的类比是训练一个 RLVR 模型去写畅销书。销量在技术上可以作为奖励,但结果可能要18个月后才出现,而且几乎不可能在作者所在国家和无数其他变量之间准确归因。生物学同样是在漫长的迭代过程后偶尔交付结果,却不会告诉你究竟哪一个决策应该获得功劳。
毒理学最能说明问题。一种化合物可能像蛇毒一样在几秒内致命,也可能几个月或几年后才造成伤害;它可能不致死,却损害认知或心脏功能;毒性还可能取决于剂量或物种。“没有真正的方法”在不观察活体并检查读数的情况下,理解完整的毒性谱系。
Mahajan 认可 Axiom 尝试预测小分子在培养皿中对肝细胞的影响,这是一个足够干净的问题,可能节省数月临床前工作。但他的保留意见在于范围:解决细胞毒性,并不能回答“更重要得多的问题”——药物在动物身上的表现,更不用说患者身上。
3. 更好的临床前设计尚未证明患者会因此受益
Nathan Labenz 提到 Isomorphic Labs 的一个模型,据称能让“Alpha 3”在结合亲和力、口袋识别和结构预测上提升一倍。Mahajan 称该基准“难度极高”,结果也确实令人印象深刻,但他将基准进展与临床价值分开:这个领域已经有大量强大的临床前资产,瓶颈在于它们在患者身上的表现。
Labenz 指出,“改善每一个临床前设计环节必然改善人类结局”这一直觉性判断,已经被提出约10年,却没有明确证据表明它真的兑现。Mahajan 表示,他预计最终可能会兑现,但没有把这一预期转化为今天的进步一定能穿过临床管线的证明。
Labenz 将“Affinity Advantage”视为可能最强的看多论据:随着模型进步,优化进入研发管线的蛋白质的每一个环节,可能产生非线性甚至超线性收益。他说这不是自己认同的观点,但对此表示理解——承认机制自洽,不等于给予它高概率。
4. Noetik 押注于先模拟肿瘤,再简化生物学
Mahajan 最看好的感知突破,是利用真实肿瘤、肠道病灶、血浆读数等丰富现实数据,训练一个人类体内生物学生成模型,而不是主要依赖体外近似。其目标是构建一个“真正、名副其实的人类生物学模拟器”,应对肿瘤学试验97%失败的现实。
他反驳“数据中心里的科学家”这一说法,并不是认为想法稀缺:数万名博士生已经在产出不错的想法。约束在于,大多数想法无法被验证,因为实验太昂贵。若没有更便宜、更具预测力的评估层,继续增加假设生成,可能只会扩大现有失衡。
Noetik 的经济学逻辑,从那些最终失败、却包含响应者的试验开始。试验结束后的论文经常寻找响应者的生物学原型,得出复杂且异质的特征——也许是一组细胞因子,或者颗粒酶基因升高——但很少能转化为可执行的东西。Mahajan 的推断是,真正的响应生物标志物可能“非人类可读”,因此需要黑箱表示。
这会把失败数据变成资产:收集已完成试验的患者样本,进行深度分析并嵌入模型,然后观察响应者是否与非响应者占据不同区域。如果存在这种分离,Noetik 可能拥有一个没有人能够明确解释、却可以用于下一项试验分层的生物标志物。
5. 4种模态让每个肿瘤同时成为嵌入表示和模拟器
Noetik 从4个层面分析肿瘤:传统病理学;用于识别细胞类型的16-plex 空间蛋白组学;覆盖肿瘤表面19,000个基因、用于刻画功能状态的全空间转录组学;以及用于识别 KRAS 状态或基因敲除等改变的外显子组测序。一个自监督掩码模型必须在这套异质数据栈中重建缺失信息。
第一目标是形成稳健表示:当一个新肿瘤出现时,模型应当能把它放入“我见过的所有癌症构成的宇宙”中。随后可以将试验样本映射到这一空间,使响应者和非响应者群体分离,而不要求研究人员事先指定决定性生物标志物。
更激进的用途是生成式干预。研究人员可以在计算机中敲除某个转录本或基因,并预测整个肿瘤微环境中的表达变化,从被动分层走向反事实生物学——前提是这些反事实最终能够经受实验验证。
Mahajan 将此与“nudge drugs”联系起来:这类疗法并不主要攻击肿瘤或免疫系统,而是把微环境推向更容易响应另一种治疗的状态。模型可以模拟转录本敲除,再叠加 PD1 轴检查点阻断剂,预测肿瘤是否会变得发炎、变“热”,并更有可能“完全融化消失”。
6. 黑箱生物标志物可能在可解释之前就具备商业价值
当被问及 Noetik 是否能解释嵌入空间中患者群体为何会分离时,Mahajan 表示,内部的机制可解释性团队正在研究这个问题,可能会发现一些有意思的东西。但他的反向问题更偏经济学:“我们为什么在乎可解释性?”如果产品目标是临床预测,可解释性未必是监管真正卡住的要求。
他举了 ArteraAI 的例子:据 Mahajan 所述,这家公司在2025年8月或9月左右拥有一套前列腺病理系统,可以预测患者对雄激素剥夺疗法的响应。公司并不知道模型为何有效,但已经利用此前 Phase 3 试验中的数千名患者进行了回顾性验证,而且“FDA 对此没有意见”。
Labenz 反驳称,解释可以带来额外实验和生物学知识。Mahajan 承认这具有科学价值,但重新回到验证经济学:即便是一个有吸引力的阿尔茨海默病片段组学假设,测试成本也可能很高,而团队手中已经有很多文献支持更强的假设。
如今的生物学机制解释,往往意味着盯着语义分割图,判断某个模式究竟是真实信号,还是虚假相关。Mahajan 可以想象未来系统按照验证难度对假设排序,但就目前而言,这项工作“感觉就是应该花在别处”。
7. 测试时学习只有在优化目标真正重要时才有吸引力
Labenz 介绍了“Learning to Discover at Test Time”:模型经过调优,只产出一个异常出色的答案——例如更快的 CUDA kernel 或更好的数学界——大约消耗500美元算力,不在乎结果是否具备泛化能力。对单个癌症患者而言,一个诱人的类比是针对该患者自身样本进行高强度调优。
Mahajan 读过这篇论文,并提到其中的单细胞 RNA 去噪实验。结果超过了现有最佳水平,但配合实验的领域专家提出了决定性批评:科学家最终并不关心去噪分数,而关心其背后的生物学效用。一个已验证任务可以改善,但真正目标可能原封不动。
针对患者的调优“很可能有效”,属于必须尝试的想法。但对于响应与非响应预测,Mahajan 怀疑普通监督微调会更简单,因为终点是二元且稀疏的——而论文明确表示,这并不是它最擅长的场景。
他把生物 AI 分成3类:从复杂人类数据出发的模型;针对单个生物分子的模型,希望将成功率从可能的5%提升到20%;以及通过改革流程降低临床试验成本。他拒绝给出宏大而不对称的权重:每一类都是一笔押注,“每一类都觉得值得推动”。
8. 中国生物科技的飞轮结合了基础设施、劳动力和短反馈回路
在 Mahajan 看来,中国的临床优势包括更低的劳动力成本,以及一个让试验启动不再成为监管和财务噩梦的体系。缺点是其假设更接近“无罪推定”,而 FDA 则从相反立场出发;优点是可以以更低成本测试更多普通药物想法,而不必等待 AI 突破。
他给出的暂定历史链条,是从强大的仿制药制造能力进入成熟的 CRO 生态,再到本土人才意识到,这套基础设施可以支撑原创药物。关键资产在于,分子设计者与反复进行湿实验检测的工作人员距离足够近。
美国的反馈回路可能需要先搭建一套配置、筹集风险资本、购买实验室,然后反馈才会开始。Mahajan 提到 PopVax 创始人 Soham 将同一逻辑延伸到了印度,甚至可能是埃及:智力资本加上“大量人手”可以形成复利,但本地风险资本更厌恶风险,可能仍然缺少必要的一环。
Mahajan 尚未看到可与“DeepSeek thing”相提并论、真正极具原创性的中国生物 AI;许多公开可见的工作仍在放大美国或英国开发的方法。他强调了这一判断的限定条件:美国对中国实验室的可见性很差,因此没有观察到新颖性,并不证明新颖性不存在。
9. 生物学论文可能在评估产生数据的科学家,而不是分子本身
Labenz 问道,非专业人士应如何在“AI 发现了一种药物”的标题与领域专家关于大多数结果无法转化的警告之间校准判断。Mahajan 的答案是评估素养:生物 ML 论文经常解决一个看似有用的问题,却隐藏了只有专家才能识别的混杂因素。
他最尖锐的例子涉及小分子结合。模型可以判断哪些分子会结合某个靶点,但 Lee Bio 发现,结果可能被制造这些分子的化学家混淆:专家会反复研究特定靶点,制造出异常成功的分子,并留下模型可以利用的、视觉上相似的化学特征。
这些相似性往往是“人类式的、基于感觉的”,很难压缩成一个指标。因此,一篇 Nature 文章反映的可能是作者重叠,而不是可迁移的化学规律。Mahajan 估计,流行科学报道在庆祝 LLM 结果时,“往往”确实判断正确——“Opus 4.6,真的离谱”;但对于生物 ML 论文,报道者“有50%的概率”根本没抓住重点。
在一次更早的测试中,他让 o1-preview 在56篇 ML4SB 研讨会论文中寻找错误。模型抓住了样本量、测试分层等反复出现的问题,却漏掉更深层的领域失败;他几乎每写一篇文章,LLM 都会自信地提供一个被专家否定为“不是实际问题”的框架。生物学仍然是模型尚未掌握人类品味的领域。
10. 近期临床收益比快速发现靶点更容易相信
Mahajan 预计,包括 Noetik 在内的人类模拟公司,未来几年将“极大改善”至少几项临床试验的结果。这一预测与其说是对遥远趋势线的外推,不如说建立在论文已经展示的能力之上:模型能够对患者进行分层,尚未解决的是如何在真实临床环境中以经济方式部署。
他还预计 Phase 1 失败率会下降。一项5年前的 McKinsey 研究据称发现,AI 设计药物的失败率低5%—10%——“可能只是噪声,也可能是真的”;但 Mahajan 预计这一方向性趋势会延续,并没有把该估计当成定论。
他对全新靶点发现的信心则明显下降。看多观点会外推模型进展,预计模型将具备优秀的靶点发现能力;怀疑观点则认为,靶点发现太困难、太依赖迭代,除非出现有说服力的人类模拟器,否则模型只能轻微撼动它。Noetik 明确押注于这种模拟器能够闭环。
最后的认识论规则是大尺度上的谦逊:人或许能看清前方一个数量级,也许两个,但“没有人能看清前方三个数量级”。讨论将 Mahajan 的怀疑视为面向过去,而不是宿命论——许多已发表的主张仍然薄弱,但向前延伸的趋势线依然可能带来变革。
11. 自动化研发专家在关键时刻到来之前都同意彼此
Toner 在7月组织的研讨会,参与者来自前沿公司、政策圈、Redwood Research、Anthropic、Princeton 和 AI 2027 团队。第一次休息前,4位发言人争论得如此激烈——但也如此富有建设性——以至于其他人去喝咖啡后,他们仍然没有停下。
一名参与者反复要求其他人指出,在彼此截然不同的未来之间,第一个可观察的分歧会是什么。令人沮丧的发现是,大家对2026年和2027年可能看到的情况有相当程度共识:专家可以相似地预判前奏,却无法判断它是否会跨入递归循环,这让提前区分未来变得异常困难。
研讨会的第一个目标,是把递归式自我改进带出硅谷和专业 AI 政策圈。更难的目标,是找出直觉为何分歧、哪些瓶颈重要,以及哪些指标能够更新信念。最终无法形成共识,本身成为研究发现的一部分,而不只是一次研讨会失败。
Toner 最终留下了2个承重问题。AI 是否会替代人类贡献的一切,包括高层次的研究判断?如果会,其他瓶颈会多快限制这条循环?如果无法完全替代,那么即便由顶尖研究人员管理的智能体舰队,也必须经过有限的人类通道,限制这条“巨大的递归循环”。
12. 阿姆达尔定律可能把智能爆炸变成锯齿式加速
Toner 使用了一张阿姆达尔定律图示:当一个流程依赖多个输入时,加速其中一个环节会把瓶颈转移到别处。编码可能变得快得多,但 AI 研发的其他部分仍然缓慢,从而使整体 AI 研发吞吐量远没有被同等程度地改变。
怀疑者会援引“不断扩大的蛋糕”。计算机移除了打孔卡和汇编工作,高级语言扩大了研究人员可以尝试的范围,而人类继续占据外围,自动化则吸收内部任务。另一种观点认为,系统会先自动化部分人类工作,再自动化全部人类工作,直到某个非人类瓶颈最终形成约束。
Toner 区分了2种“纯软件奇点”。一种认为,仅靠软件改进就能维持巨大的递归循环,并彻底改变世界。另一种是锯齿式的:AI 在软件和 AI 研发上变得异常强大,却受制于能源、铜、工厂、机构和部署。
即便 AI 研发表现卓越,也不会自动迁移到所有领域。一种直觉认为,这样的系统只需大约一周数据收集,就能为任何任务训练模型;另一种则认为,生物设计和地缘政治战略需要关于生物体、国家和决策者的真实世界证据。Toner 认为,这座缺失的桥梁尚未得到充分研究。
13. 超人类平台期可以受到边界约束,却仍然重排一切
Labenz 指出,争论存在一个奇怪的配对:怀疑者经常预测低于人类的平台期,加速主义者则预测完全没有平台期。他偏好的中间情形,是一个轻松超越人类、但有限的能力上限——类似于人类只需比尼安德特人强到足以改变地球,而不必拥有无限或不可理解的能力差距。
Toner 表示,这接近她的默认预期,随后将 S 曲线拆成3个变量:前奏持续时间、起飞陡峭程度和上限高度。争论通常把短—陡—高与长—缓—低捆绑在一起,却忽略了短—陡—低或渐进—高等组合。
“超人类”究竟意味着什么,仍然取决于领域。解读睡眠信号来判断疾病,以及处理人类几乎无法感知的模态,都存在显而易见的提升空间。一个整合这些模态的基础推理器,就可能释放巨大能力,而不必变成全方位的神。
Toner 的限定条件是整合。睡眠、气味或健康预测上的高上限,可能需要传感器部署、数据收集、工作流重构以及整个经济体系的采用。因此,尚未充分讨论的组合是“高上限、被现实世界采用延迟”,而不是假设能力和部署会同步推进。
14. 算法可以延展旧基础设施,却无法废除它
一名参与者提出,软件和数学可以绕开物理约束:摄像头可以取代 lidar,手机可以近似专用睡眠系统,新算法可以提高通信带宽,正如 DSL 曾经从既有铜线中榨取更多能力。
Toner 同意这在部分场景中会奏效,但它无法让旧的关键基础设施控制系统变得现代化,也无法把一艘建于1960年代的船变成新硬件。网络安全、军事系统和其他长期存续资产,揭示了“锯齿会在哪里咬住”;她预计,即便在 AI 研发这一名义上的单一任务内部,锯齿也会呈现分形结构。
对于公有模型与私有模型之间的差距,Toner 坦率回答:“我不知道。”她的印象是,差距目前还没有大到无法忽视;Labenz 听说,内部研究人员经常使用本质相同的模型,只是通过更低的 batch size 以大约3倍速度运行,再辅以工具,而不是掌握某一代秘密智能。
关于“95%的 AI 试点失败”或 METR 发现工具拖慢部分开发者等证据,混合的全经济数据并不能直接外推到前沿研究人员。他们了解模型的边界,能够影响训练优先级,也能打造定制工具,因此处于“非常、非常有利的位置”,可以提取生产率。
15. 不可避免是实验室的环境意识形态,却不是完整辩护
讨论中,一名参与者描述了这样一种感觉:AI 进步不可避免,而自己希望参与创造由此产生的未来。这个递归论证可以追溯到 I. J. Good 的“超智能机器”,对计算机科学家尤其自然:一旦机器在制造机器方面超越人类,循环似乎就会自行运行。
另一名参与者认为不可避免性很有说服力,却并不完整。即便递归技术是一个吸引子,开发者仍然可以决定具体形态——是否保留可解释的思维链、拥抱潜空间推理,或在大量局部设计决策中作出选择。“AI 拒绝所有二元划分”;不可避免性并不能让人免于对这些选择负责。
讨论将干预边界放在人类监督上。一个由研究人员领导并理解的、拥有10,000,000个智能体的舰队,与启动一个“完全不知道发生了什么”的过程,存在实质差异。参与者不相信全面禁止 AI 研究工具能够奏效,但希望系统留在这条边界的可控一侧。
在隐私问题上,Toner 反对只针对技术的禁令,例如禁止人脸识别,却放任语音、步态、元数据、网络分析和数据经纪。她更支持贴近底层行为的规则——要求收集时通知并取得同意,或限制数据经纪商——同时明确表示,自己不会假装拥有一套完整的隐私法方案。
16. 治理必须跟随内部部署,而不是等到模型发布
Toner 认为加州 SB 53 和纽约 RAISE 法案是有用的起点,并认可 OpenAI、Anthropic,以及程度稍低一些的 Google 自愿发布了有意义的信息。她担心的是裁量权:社会仍然高度依赖公司自行决定披露什么,尽管新的州级法律开始执行后,这种平衡可能发生变化。
风险评估应从发布日事件转向持续脉搏。如果危险能力可能在自动化研发的内部部署系统中出现,那么评估就不能只绑定于最终面向公众的内容。持续指标还可能减少企业为了赶在治理围绕发布组织起来之前上市,而被激励加速产品发布的情况。
独立第三方审计是缺失的对应机制——让外部人员能够核实公司声称的流程确实发生。Toner 指出,这类条款不断进入提案,却又被“行业游说剥掉”,最终留下透明度,却没有足够的独立验证。
她的无悔议程是“加固世界”:强化网络防御、生物防御、以疾病为重点的生物监测,以及通过认证真实内容实现认知安全。自动化研发还可能扩大开放模型与封闭模型之间的差距,因此,近期关于开放模型总会紧随其后的假设,可能需要重新审视。
17. AI 工业基础可能比它支撑的模型更脆弱
Harris 认为,基础设施“至少占问题的50%”,却被模型层面的威胁分析遮蔽。美国正在使用全球采购的零部件和大量华裔人才建设 AI 基础;Labenz 补充称,约50%的顶尖 AI 研究人员是中国籍,而 ASML 依赖分布在不同司法辖区的约3,000家供应商。
TSMC 是核心脆弱点。Harris 将先进制程描述为“这个星球上的灵长类动物所执行的最脆弱的生产流程”,像一个拥有数百个精确调校旋钮的盒子,依赖专用设备和稀缺的人类专业知识。无论被夺取、摧毁还是主动关闭,入侵都可能让它对所有人失效。
可能的第二脆弱点是 SMIC—Huawei 体系。中国芯片效率可能较低,但 Huawei 强调将大量芯片联网,以获得具有竞争力的系统性能。逻辑、能源、内存和封装之间不断变化的约束,与名义上的芯片领先同样重要;Harris 预计西方能源限制会在年末前后形成约束,但强调时间仍不确定。
电网可能是更深层的漏洞。Harris 引用了中国变压器中存在木马组件的报道,并表示,对于台湾情景可能从试图关闭西方电力系统开始这一点,人们正在认真对待。这会绕开 Samsung 与 SMIC 的争论:“我们根本就没有经济。”
18. 出口管制带来的成本,不会被 Nvidia 供应抹平
Harris 否认向中国出售 Nvidia 芯片就能满足需求并降低 Huawei 投资的论点。北京已经将国产 AI 芯片确定为最高战略优先级之一,并投入了他形容为多个“阿波罗登月计划”规模的资金;短暂获得 H200,理性结果会是“为什么不能两者都要”,而不是技术投降。
在 R1 引发全球关注之前,DeepSeek 管理层曾公开表示,他们相信可以追求 AGI,但面临一个核心问题:“我们拿不到芯片,这些出口管制正在把我们逼死。”Harris 将这些发生在政治审查强化前的表述视为出口管制确实形成约束的证据。
大规模潜在 H200 订单显示出积压需求,而中国实验室仍然面临芯片组短缺和漫长等待。对 Harris 而言,这说明管制减缓了生态发展;允许更多销售会把收入导向 Nvidia,但拒绝销售则会让算力继续稀缺,即便北京决心资助 Huawei。
算力稀缺还把推理与创新连接起来。中国庞大的用户群向实验室提出海量推理请求,消耗了原本可以用于研发的容量。因此,拥有模型还不够:在推理时扩展之下,决定性问题是,有多少算力可以被导向进攻、防御、研究或“模型对模型战争”。
19. 竞赛实验室、脆弱威慑和采用阈值共同定义地平线
Labenz 表示,Anthropic 和 OpenAI 即使发现计划中的评估越来越困难,仍然在发布模型:高评估意识使 Anthropic 的流程复杂化,而 OpenAI 缺少足够长时程的任务来刻画 GPT-5.3-Codex 的自主性。Harris 的判断很直接:“我们正在竞相走向底部”,驱动力不仅来自中国,也来自西方内部的直接竞争。
如果国际竞争仍然不在国内监管范围内,国内监管就无法制造战术性暂停。Harris 认为,一个能够设计定制生物武器或执行灾难性恶意软件的模型,应该迫使各方放慢速度;但只要竞争对手落后6个月或12个月,就会形成倒计时。他怀疑条约能够提供近乎完美合规所需的检查、算力核算、算法可见性和信任。
他所设想的严峻替代方案,是可信的后果:防御性的“诺克斯堡”不可能建成,因此美国需要足以威慑基础设施攻击并支持降级的进攻选项。这些选项一开始不必动用,甚至不必基于 AI;它们的目的在于杠杆和选择权,而不是“让我们与中国开战”。
Harris 拒绝给出精确的 P(doom),将失控概率放在10%到90%之间。低于10%意味着遗漏了功课,高于90%则忽视了世界适应变化时的惊人程度。他认为2027年和2030年具有合理可能性,2035年则有些遥远,并敦促人们按照2027年可能发生来行动,同时保持“快乐战士”的心态。
他提出的低成本行动,都是“单向门”控制:不要把敏感场址规划暴露给会制造不可逆反情报风险的人员;审查那些承诺用稀缺中国零部件快速建设的供应商;增加电网冗余;利用 AI 寻找旧有承重软件中的漏洞。与集群资本开支相比,这些干预成本很低,即便时间线拉长,也能保留选择权。
Harris 自己的研究工作流同时展示了杠杆和危险:约30%—40%的时间用于阅读论文,其余时间用于询问模型推演影响。Gemini 曾帮助他得到一个令人满意、却是幻觉的技术解释,随后被 Claude 推翻;他的更新是要对兔子洞进行双重核查。对话之所以强大,是因为它让他能够“旋转形状”,而不是因为模型天然可靠。
Labenz 正在构建深度个人上下文:整合通信记录,将每月约300,000个 token 压缩成10,000个 token 的幕僚长摘要,同时保留引文和指向真实依据的链接。但 Opus——无论是4.1、4.5还是4.6——仍然会在需要判断时过度使用脚本和 regex,而不是“直接阅读文档”。
Harris 从生产中得到的教训是断点效应:播客剪辑在6个月前还无法完成,但在节目播出前3到4周已经端到端运行,因为“提升1%就能跨过门槛”。在收尾讨论中,一名参与者提到,早先的预期是初级软件能力会在2025年底前出现,随后约3年在组织内扩散,并在2027年底前触达资深 AI 研究人员;最新更新则是,市场拉动可能让采用速度更快。
最后的讨论从通用辅助转向个性化。一名参与者表示,整理个人数据的目的,是为未来的个性化模型提供强数据集;目标不只是风格迁移,而是“判断力迁移”。持续学习或测试时学习是否会让个人模型在1到2个月后偏离基线,仍然只是推测,但被视为保留个人经济杠杆的一种潜在方式。