先锋 趋势 方法 投研 作者
No Priors 第103期|与 Vevo Therapeutics 和 Arc Institute 对谈
返回节目精读

No Priors 第103期|与 Vevo Therapeutics 和 Arc Institute 对谈

摘要

  • Tahoe 100 将单细胞扰动数据推向机器学习规模。 Vivo 报告称,该数据集覆盖来自不同患者的50个癌症模型、1,200种药物处理,以及60,000种药物–细胞或药物–细胞系交互,共计1亿次单细胞测量;在此之前,公开可用的扰动数据约为100万—200万条。Dave Burke 将其潜在影响类比为细胞生物学领域的“ImageNet时刻”。

  • 真正形成差异化的资产,是具备因果性、多样性且生成一致的数据,而不是又一堆健康细胞观测。 扰动提供前后对照信号,疾病模型则暴露出正常组织中不存在的状态。4个人以高度一致的方式完成了60,000次实验,几乎没有批次效应。团队认为,规模和广度本身就可能让数据生成新的假设与意外发现。

  • 虚拟细胞回答了蛋白质模型留下的系统层面问题。 蛋白质语言模型可以学习折叠、结合和结构生物学,但药物作用于嵌入细胞、肿瘤及更大系统中的蛋白质。虚拟细胞的设想是一个“概念性CPU”,预测基因编辑或化学物质如何改变转录组,并最终解决如何将疾病状态推向健康状态的逆向问题。

  • 当前虚拟细胞模型仍未达到商业成熟度,对差异表达基因的预测表现约为10%,且尚无公认基准。 按当前编码方式,Tahoe 100约对应2,000亿—3,000亿个训练tokens。Dave表示,其他领域约1万亿tokens可以作为较为宽裕的比较点,但也强调生物学的扩展规律仍不确定。Hani Goodarzi认为,蛋白质模型的成熟度已超过GPT-3,而细胞模型“更接近GPT-1,而不是GPT-2”。

  • 开放源代码是一种运营策略,并非脱离 Vivo 经济模型的慈善行为。 Tahoe 100与 Arc 约2.3亿细胞的 scBaseCamp 数据集合并,形成一个3.3亿细胞的 Virtual Cell Atlas;社区可以训练和批评模型,Vivo则继续建设 Mosaic 数据生成平台。Nima将其定义为“重新立一根标杆”:一支小型内部团队可以借助外部研究生态,而无需组建庞大组织。

  • 如果虚拟细胞能够奏效,最大的潜在收益是同时压缩靶点风险、化学搜索空间和实验时间。 约90%的药物会在临床试验中失败;嘉宾认为,失败既可能源于药物本身不理想,也可能因为选错了靶点。足够准确的模型可以搜索数千万种化合物,跨患者情境泛化,帮助团队“量两遍、再下刀”(measure twice and cut once);但 Patrick Hsu警告,准确率只有10%时,“你只是在模拟噪声”。

  • 技术拐点可能已经到来,但治疗验证仍将缓慢推进。 中国生物科技公司的成本、速度、抗体生产能力和IND申报支持材料,正迫使美国公司转向更精简的团队和更强的供应商;Nima称这是“生物医药的清晨”,并呼吁现在就开始建设,而不是承诺3—5年后交付成果。Sarah Guo强调,治疗通常需要11年以上,即使把成功率从10%提高到30%,仍会受“少数样本定律”制约,可能需要一个长达10年的窗口才能验证。

精读

1. Tahoe 100 将扰动生物学变成机器学习规模的数据资源

  • Johnny Yu将 Tahoe 100定义为全球最大的单细胞RNA测序数据集:覆盖来自不同患者的50个癌症模型、1,200种药物处理和60,000种药物–细胞或药物–细胞系交互,共计1亿个细胞。他最强的判断是,这可能是“第一个能真正推动该领域机器学习的数据集”。

  • 关键不只是细胞总数。此前公开可用的扰动数据约为100万—200万条单细胞数据点,而历史上大多数数据集属于观察性数据,彼此割裂、标签质量差,且来自健康组织而非疾病状态。

  • Dave Burke将其类比为2009年的 ImageNet:足够大且目标明确的数据集,可能带来非线性的能力跃升。这仍明确只是希望——细胞扰动数据或许能为系统生物学带来类似基础蛋白质结构数据集之于 AlphaFold 的作用,包括 PDB 和 CASP 在内的数据集曾帮助后者实现突破。

2. 虚拟细胞在蛋白质结构之外建模因果关系

  • Nima Alidoust区分了两种语言:蛋白质模型学习的是“结构生物学的语言”,包括折叠、分子结合以及抗体–蛋白质交互;虚拟细胞要学习的则是“系统生物学的语言”,即一个靶点如何处于细胞、肿瘤、免疫环境乃至更大生物体系统之中。

  • Dave用计算机作类比,让这一抽象概念变得具体:DNA是编码细胞的ROM,RNA是持续变化的工作内存RAM,而虚拟细胞模型则要推断一个“概念性CPU”,将被编辑的基因或施加的药物映射为转录组响应。

  • 逆向问题才是治疗真正要解决的问题:给定一个疾病细胞的表达谱,哪种基因或化学扰动可以将其推回健康状态;对于癌症,则是在不伤害健康细胞的情况下杀死癌细胞?这仍是预定目标,而非已经验证的产品能力。

  • Hani Goodarzi认为,扰动数据的核心价值在于因果性。观察肝脏样本只能得到相关性;对基因或化学物质进行干预,则能形成明确的前后对照,让模型学习哪些变化驱动了细胞状态,而不仅仅是伴随细胞状态出现。

3. 信息含量比再增加100万个重复细胞更重要

  • Nima表示,早期单细胞基础模型可以舍弃一个约6,000万细胞集合中的99%,而性能几乎不受影响。他的推断是,大量可用数据重复了相似的生物学情境,原始规模夸大了模型实际能够学到的信息量。

  • 多样性提供了缺失的信息。一个要理解心脏、大脑、肝脏、骨骼或癌症的模型,需要覆盖不同细胞和组织类型中的正常与疾病状态;扰动有助于探索高维“流形”,而不是反复采样同一个局部邻域。

  • 每个细胞大约贡献2,000—5,000个基因与表达tokens,因此按团队估算,Tahoe 100约对应2,000亿—3,000亿个tokens。Dave提到,GPT-3约使用5,000亿个tokens,ESM-3约使用7,000亿个tokens,约1万亿可以作为较为宽裕的比较点,但他说只有真正达到这个规模后,行业才会知道相关的扩展规律是什么。

  • 不同领域的瓶颈也不一样。经过数十年的基因组测序,DNA模型越来越受制于算力和上下文长度;细胞模型仍受数据限制,因为可规模化的单细胞分析直到最近才出现。

4. Mosaic 用混池实验取代逐个患者筛选

  • Vivo的 Mosaic 平台将多个患者来源模型——包括多种癌症类型和不同遗传背景——混合到一个“马赛克肿瘤”中,然后同时筛选数百乃至数千种药物,并解析每个模型的响应。Sarah的反应体现了实验模式从串行走向多路复用的跃迁。

  • 初期扰动针对癌症相关基因、细胞生长、DNA调控和泛癌通路。Hani认为,这些保守通路也可能广泛适用于神经科学和免疫细胞发育;未来数据集还可以加入罕见病,并利用模型反馈填补数据缺口。

  • 规模改变的不只是实验吞吐量,也改变了实验哲学。Nima表示,Vivo在5周内生成的扰动数据约为此前10年公开数据的50倍,因此不必再预先锁定狭窄假设:团队可以在化学物质和患者样本空间上大规模探索,减少偏见。

5. 开放数据让小公司借用整个领域的智慧

  • Nima表示,Vivo在讨论这一机会后的数小时内就决定开放数据,原因有二:一是在预期数据集规模上“重新立一根标杆”,二是让约3—4人的内部团队保持专注,同时借助外部研究者暴露数据的优势、缺陷和模型机会。

  • Arc的 Virtual Cell Atlas 将 Tahoe 100与约2.3亿细胞的观察性集合 scBaseCamp 合并,总规模约为3.3亿细胞。设想中的工作流是互补的:模型可以先在广泛的观察性数据上预训练,再加入扰动数据来学习动态过程并提升预测能力。

  • Arc构建了一个类似“Google爬虫和索引”的智能体,用于寻找、标注并统一重处理公开测序数据。统一处理很重要,因为工具、工具版本、基因组构建版本和试剂化学体系的变化,否则会在合并数据集中引入分析和实验批次效应。

  • 运营一致性本身也是资产的一部分。Dave表示,4个人以完全一致的方式完成了60,000次实验。减少操作人员数量,有助于降低“只有在我手里才有效”这一常见的生物学疑虑。

6. 准确模拟可以压缩生物学时间和化学搜索空间

  • Patrick讲述的衰老项目说明了现实约束:一轮实验可能需要让动物衰老2年。计算机模拟的并行能力将带来颠覆性变化,但他的底线很明确——如果虚拟细胞只有10%的准确率,“你只是在模拟噪声”。

  • Vivo计划预测一种新化学实体如何与来自不同患者模型的细胞互动,判断它能否将疾病细胞推向健康状态;对于癌症,则是在不杀伤健康细胞的情况下杀死癌细胞。Johnny设想的未来,是由虚拟细胞模型生成药物,但这目前还不是已经实现的能力。

  • Nima将泛化问题分为两类。对于细胞,模型必须从已观察到的患者迁移到新的个体差异;对于化学,它们必须在数千万种候选化合物以及几乎无穷多的生物制剂中进行搜索,找到值得合成的小范围区域,而不是继续在熟悉的化合物库上逐步筛选。

  • 约90%的药物会在临床试验中失败。Patrick认为,行业面对的可能既有糟糕的药物分子——效力、毒性、pH、动力学特征等属性不达标——也有错误的靶点。虚拟细胞可以在昂贵的化学研发和药物开发开始前,先缩小靶点搜索范围。

7. 转录组是抽象层,细胞环境仍然可见

  • Dave将RNA表达描述为一台1980年代的图形均衡器,大约有20,000根不断移动的柱条,响应环境、压力、衰老、健康和疾病。Patrick表示,团队认为转录组层足够丰富,可以捕捉具有决定性意义的细胞状态,而不必模拟细胞中的每一个分子细节。

  • 多细胞建模随后可以逐级扩展到球状体、类器官、体内模型、免疫环境和空间数据。Hani的细化观点是,环境信息会“经过细胞过滤”;如果观察到足够多的情境,一个名义上的单细胞模型或许就能推断周围组织产生的影响。

8. 平台型公司生来就是为了放弃错误假设

  • Nima将 Vivo 与单一假设型生物科技公司作对比:后者的组织和激励机制都会围绕一个论点展开,甚至可能只在3个患者样本上测试过药物,就继续推进开发。平台型公司可以生成相互竞争的假设,并对哪些项目进入临床保持“更加科学”的判断。

  • 中国生物科技公司进一步加剧了运营挑战。Patrick提到更低的成本基础、更快的研发管线、扎实的安全性和毒理学材料、IND申报支持工作,以及高效的抗体生产能力。他认为这种竞争可能是有益的,因为患者、投资者和公司都希望更快、更便宜地获得真正有效的分子。

  • 无论是由供应商串联起来的“虚拟生物科技公司”模式,还是完全垂直整合,都没有干净地解决这一问题:前者已被证明速度缓慢,后者则昂贵且官僚化。拟议中的中间道路是能力更强的供应商加精简的公司;Nima认为,行业应当吸收这些能力,而不是只依赖监管壁垒。

  • Nima关于“生物医药的清晨”(morning in bio)的宣言包含3部分:现在就开始建设,而不是宣布3—5年后交付;组织由“超级明星”组成的小型集中团队;挑战领域专家列出的、解释跨领域机器学习技术为何无法奏效的长串理由。他仍保留了不确定性:“也许能行,也许不行——但如果不试,永远不会知道。”

9. 技术拐点可能已到来,但治疗验证仍将滞后

  • Dave回顾了 ImageNet 和 AlexNet 之前的神经网络历史:当算力、数据和模型架构尚未跨过拐点时,一些想法可能看起来毫无产出。该团队认为,单细胞分辨率、可规模化扰动和现代训练方法,可能正是生物学领域正在汇聚的对应要素。

  • Evo 2被视为生物学学习出现涌现能力的证据:Arc在没有明确教授DNA知识的情况下,用9.3万亿个核苷酸训练了它,但模型学会了核糖体结合位点、密码子简并性,并在零样本 BRCA1 变异致病性判断上取得约94%的ROC曲线下面积。

  • 不同领域的成熟度差异明显。Hani认为蛋白质语言模型已经超过GPT-3阶段;Patrick和Dave将细胞生物学描述为大约GPT-2水平,或仍在向这一水平发展;Hani最终认为,虚拟细胞模型“更接近GPT-1,而不是GPT-2”。现有最佳模型对差异表达基因的预测表现约为10%,而且尚无公认基准可以确定不同模型的比较结果。

  • Sarah提到自己对AI生物科技长达10年的怀疑,并强调,即便细胞模型达到GPT-4式能力,效果也不会立即显现:治疗通常需要11年或更久,把成功率从10%提高到30%将是非凡进步,但仍受“少数样本定律”制约。Dave表示,更好的模型或许能“把大炮指向正确方向”,但验证仍会在约10年的开发窗口中缓慢积累。