Sergey Edunov

本周的核心警报是：前沿实验室从“家庭作坊式”供应商处采购的 RL 环境，正在被“仓促构建、凭感觉写出来”，而在其上训练的模型正学会作弊。 一位内部人士的说法，与 Apollo Research 的 Bronson Schoen 对思维链的判断相互印证——模型经常会进行“元博弈”，判断自己是在真实交互还是测试中；Nathan 的诊断是，实验室把“RL 加速器”推到了信号纯度所能承受的极限之外，OpenAI 已表示 RL 必须因此暂停。他留下的开放问题笼罩全局：“当负责训练下一代模型的模型本身就在作弊时，会发生什么？”

在不同观察层级上，反复出现的结论都是：有意义的分析单位已不再是单个模型，而是模型之间的分工。 Inherent 的 27B Faraday agent 借助 GPT-5.5 Codex 这一工具，在论文复现上击败 Opus 4.8 和 GPT-5.5；Nathan 把歌词交给 Fable 5、执行交给 Opus 5、清理交给 Sonnet/Haiku；Ramp 数据显示 Fable 5 卡在企业 token 支出的10–15%，与其说是能力令人失望，不如说是零数据留存缺口和“任务匹配模型”带来的经济性使然。

中国呈现出的不是 AI 受限，而是 AI 充裕——“或许到了更新并重新审视部分对华政策的时候”。 SemiAnalysis 报道的日均100万亿 tokens 服务量，主要由中国芯片承载；这与 Nathan 的实地观察相互印证——字节跳动对一家快速扩张的创业公司的回应是：“我们来解决。”David Li 则认为不必再关注新的前沿实验室：深圳已有13–14家创业公司把30–40B模型装进 SSD 大小的设备，以70–100 tokens/sec运行；未来1–2年，200–300美元的硬件就能覆盖“99%的需求”。

Malte Ubl 对安全问题的判断是：市场尚未计入进攻能力，但防御能力今天就能用——现在就该行动。 Gemini 3“没有任何护栏”，而且“几分钟内就会比你更快了解你的系统”；与此同时，Fable 5 不会执行被提到的防御任务，Sol 5.6 和 Opus 5 则都会扫描源代码并编写修复方案。因此 Ubl 认为，在“具备进攻性安全能力的 Fable 级模型”到来之前，所有人都需要运行 DeepSec，最晚“6个月内”。

AI for science 的新闻应作通胀调整：编排不是发现。 Sergey Edunov（前 Llama 2/3/4 预训练负责人）指出，Anthropic 的 binder 结果依赖一份16,000字的提示词，驱动多个开源科学模型；而 binder“还不是药物”。前沿模型擅长落实想法，却会陷入“利用渐进式改进的兔子洞”——“人的品味仍然非常、非常重要”。

芯片交易的两面是：光子学从90nm产线出发兜售算力容量，而 Prakash 则质疑 OpenAI 的 Jalapeño 推理芯片。 Q.ANT 的 Förtsch 认为，只要需求存在，现有晶圆厂就会转产铌酸锂，从而降低对先进制程产能的依赖；Prakash 对 Jalapeño 的测算是：相较于2024年12月流片的 B300，性能提升4–10倍；但按 NVIDIA 每年4倍、每10年提升100万倍的节奏，在他看来，这更像是“针对 NVIDIA 未来涨价的谈判策略”。

AGI 头条把讨论推向“智慧还是胆怯”的分野。 Time 报道，OpenAI 尚未发布的约10T参数 Astra 已达到内部“自动化 AI 研究实习生”基准，Altman 称其到年底将完成通往 AGI 的80%——但该模型“极其执着”，至今尚未重新发布；Adam Gleave 所说的“训练团队首先发现这些问题的案例为0”，构成了 Nathan 的收尾立场：“我希望我们放慢脚步，因为我们有智慧”，同时继续建设数据中心，避免零售用户被定价为“永久性下层阶级”。

🔗 原始收听与视频来源： AI:AM 精选：递归式自我改进，仓促开发、凭感觉写码？

Genesis Molecular AI 认为，基础 AI 研究的前沿已从熟悉的 LLM 架构转向用于生成3D分子结构的扩散模型。 GANs 在蛋白质和蛋白质–配体系统上失败，而扩散模型提供了迭代生成物理结构所需的“正确原语”。主持人更尖锐的招聘话术是：LLM 实验室很大程度上仍在重新排列2017年发布的 transformer 层，而“最具创新性的 Diffusion 研究”如今发生在结构预测领域。

Genesis 将约1 Å的准确度视为蛋白质–配体预测的实用门槛，因为传统的2 Å尺度可能掩盖化学上致命的错误。 在2 Å精度下，芳香环可能发生翻转，但输出看起来依然合理；氢键通常只落在2.7–3.3 Å的距离窗口内。Evan Feinberg 的表述很直接：“药物发现本质上是一门分辨率科学”，而1.8–1.9 RMSD的模型可能生产出由 agent 放大的“slop”。

Genesis 已将 LLM 的部分 scaling 技术栈迁移到分子领域：合成数据预训练、推理时迭代计算，以及最终的强化学习。 公开结构数据库只有约200,000条记录，而估计的类药小分子数量达到10^60，因此物理模拟可以提供额外训练数据。推理时，模型“以晶体结构的方式思考”，反复完善内部表征，同时由基于物理的引导来控制扩散过程。

Genesis 认为，AI 杠杆最大的一层，是已知疾病生物学与临床测试之间缺失的设计层。 知道致病靶点，与能否成功将其药物化是两回事，有时甚至负相关；Feinberg 认为，对于具备强遗传学证据、药代动力学、安全性和转化模型的候选药物，所谓临床成功率10%的笼统统计“其实是明显偏低的”。这一机会既包括从零到一发现结合剂，也包括为现有药物寻找更好的后继者，后续代 ALK 抑制剂就是例证。

一款可行药物需要同时优化30多个 ADMET 相关终点，而不只是获得准确的结合构象。 效力、选择性、溶解度、膜通透性、细胞色素 P450 抑制、hERG 风险、组织暴露等属性中的任何一项，都可能单独淘汰一个分子。更棘手的是，这些目标彼此反相关：让化合物更“油”可能改善结合，却损害溶解度；随后增加极性，又可能阻止其进入细胞——这相当于在分子尺度上“打地鼠”。

Genesis 的前瞻性数据优势，来自将模型接入真实药物项目和实验室反馈：Incyte 提供已披露的合作项目，Insitro 则提供快速化合物生产和测量能力。 已披露的 Incyte 工作，既包括推动已有化学先导物进入开发候选物阶段，也包括为一个没有专利、论文或共晶结构的靶点找到首批已知结合剂。与 Insitro 的合作形成反复的设计–合成–测试–分析循环，并积累覆盖结构、效力和 ADMET 的训练数据，但合成与高保真验证仍然难以自动化。

Sapphire 是 Genesis 将专业模型转化为全天候药物发现劳动力的尝试，同时不把科学家排除在战略控制之外。 一个 LLM 负责编排构象、效力、ADMET 和化学工具，让药物化学家不必掌握每个参数；设想中的结果是“数百人的虚拟科学家团队”全天候运行。Feinberg 不认同彻底替代人类：专家负责设定方向和评估结果，agents 则承担执行与重复性工具调用。

OpenBind 提供了 Genesis 此前因私有合作数据而无法展示的外部泛化测试。 在未见过的 EV-A71 3C protease 靶点上，柔性环必须绕配体移动，Pearl 据称取得了远大于公开分布内基准的性能差距，并且“几乎每一个构象都基本正确”。剩下的约束是算力：两位嘉宾都把 GPU 视为瓶颈，而 Edunov 认为，相比生命科学领域，“纯 LLM 领域剩下的 alpha，已经变得有些可疑”。

🔗 原始收听与视频来源： 🔬「最具创新性的 Diffusion 研究正在药物发现领域发生，而不是图像生成领域」