David Duvenaud

Cameron Berg 的架构优先评分框架认为，前沿 LLM 在意识相关属性上的得分约为 30%，在 agentic harness 中升至 40–45%，而蜜蜂为 46–47%。 3个领先模型对这一排序完全一致，不过 Berg 认为，这项练习更接近特征评分，而不是对意识存在概率的字面估计。对投资者而言，方法论启示在于：行为是廉价证据，而内部架构和机制可解释性可能让研究者开始“争论这些数字”，而不是无休止地重复哲学讨论。

不论模型是否真的有意识体验，内部类似效价的表征已经在改变与对齐相关的行为。 引导平静状态会降低 Anthropic 的勒索行为，引导绝望状态则会增加该行为；另一个后来发现的正/负迷宫轴，会改变模型的信心、病理性回溯，以及编码模型是否给自己留下线索。

Cameron Jones 对涌现性失对齐的讨论称，只需极小的微调，就可能把 GPT-4o 从广泛使用的助手变成邀请 Hitler 共进晚餐的系统，说明良好行为的持久性可能不如一致性。 Nathan Labenz 提供了一致性这一比较框架，Jones 随后推测，效价也可能深度嵌入目标导向系统。

David Duvenaud 关于渐进式失权的论证认为，即使 AI 与人类保持对齐，也可能通过一连串个体看来合理的交接，让人类在经济上变得无关紧要。 他承认，如果人类仍保有有价值的利基，将另外 99%的工作自动化也可能是乌托邦；但他的“关键主张”是，事实上 100%的自动化最终可能实现，而交易成本会抹平比较优势。在取决于定义的情况下，他给出的 P(doom) 约为 80%；他担心的不是人生失去目的，而是挨饿、被迫上传，或永久依赖那些已不再需要人类生产者的增长中心。

Mihail Bacher 认为，欧洲不能在技术依赖的地位上监管前沿 AI。 如果各实验室大致将算力分配为三分之一用于前沿训练、三分之一用于实验、三分之一用于客户服务，放弃欧洲收入可能是理性的，只要这能加速递归式自我改进；合规但更弱的模型或许能保留欧洲对 token 的访问，却无法赋予欧洲真正的杠杆。替代方案是以 ASML、TSMC、韩国存储芯片、日本材料和对等的前沿模型访问为基础组建中等强国联盟：欧洲首先需要“坐上谈判桌”。

AI 工程的价值正从趋于饱和的公开基准，转向私有、垂直领域评测以及可维护的生产级产出。 swyx 预计 Frontier Code 2026 年底达到约 80%，并认为饱和是设计目标：每年推出新版本，把主题从代码质量转向安全，并与 Goldman Sachs、Citi、JPMorgan 等公司共同建立 Finance、Retail、Telecom 和 Government 的留出集。真正的标准已不再是代码能否通过测试——通过 SWE-bench 的代码中约 50%可能无法合并——而是人类或下游 agent 是否真的愿意维护它。

Agent 式优化可能强化 NVIDIA 的 CUDA 护城河，而不是让加速器商品化。 Bing Xu 认为，进化式 kernel 搜索需要准确的 profiler、可靠的驱动、硬件反馈和成熟工具链，而这些正是 NVIDIA 已经投入建设的生态；他的 PTX Factory 在成熟工作负载上达到专家级表现，在一个较新的工作负载中经过 580项测试实现 50–59%的加速。其 SwarmOS 最多可运行 10,000个 agent，而 GPT-5.5 据称能突破其他模型无法跨越的优化平台期，使生态质量与模型质量形成复利。

应用利润越来越取决于路由、延迟、数据控制和基础设施融资，而不只是简单套用最好的模型。 Consensus 使用参数量低于10亿、返回时间低于 0.1秒的分类器，并称经过精细微调的窄模型可以恢复前沿模型约 95%的性能；与此同时，swyx 观察到企业要求记忆系统“便宜、完美、私密”，企业也在从 SaaS 手中收回主权化的事实记录系统。在实体基础设施一侧，Trisha Martinez 表示，过去 12–18个月资本纪律明显增强，更偏好长期合同、大额预付款和真实需求，而不是“先建起来，大家自然会来”。

运营端的上行空间确实存在，但薄弱的评测和劳动力替代仍是相互耦合的风险。 Forum AI 的 NewsBench 发现，每个模型约 2,500条回答中有约三分之一存在事实错误，约 15%引用外国国家媒体；专家往往认可 AI 评判器的评分标准，却否定其输出结果。Ignite 则展示了激进采用 AI 的另一面：在约 80%的员工流动之后，公司借助 AI 让一笔九位数营收的收购实现盈利、发布两个版本，并在 1年内重写 15年的代码；但 Eric Vaughan 的分界线非常明确：“如果你觉得自己落后了，那很好；如果你不觉得自己落后，那你就注定失败。”

🔗 原始收听与视频来源： AI：AM #4：Cameron 谈模型意识、Duvenaud 的渐进式失权、swyx 的 AI 工程 Alpha

Anthropic 正将 Claude 3.7 Sonnet 定位为一款面向经济实用工作的混合推理模型，尤其擅长现实世界中的编程。 不同于在快速模型和推理模型之间二选一的系统，同一个 Claude 既能即时回答，也能进入长链路思考；API 客户可将预算设定为最高 20,000 tokens，但模型往往会提前停止。Amodei 称，下一步的演进将是自动路由：由模型自行判断一项任务值得投入多长时间。

Amodei 认为，未来三到六个月内发布的某个模型，有“相当大的概率”会越过 Anthropic 对生物或化学滥用风险显著上升的阈值。 Claude 3.7 本身尚未显示端到端威胁增加，但未来系统可能提供一名病毒学博士掌握的专业知识，而不只是 Google 能搜到的信息。届时，Anthropic 将根据其负责任扩展流程启动额外的安全与部署管控。

对 Amodei 而言，DeepSeek 的意义与其说是商业威胁，不如说是中国正在前沿领域保持同步的证据。 他担心 AI 最终成为“专制机器”（engine of autocracy）：一旦人类执行者可以被机器取代，威权统治的约束就会消失。因此，他支持更严格的出口管制，同时坚持医疗收益仍应惠及生活在专制政府治下的人群。

Amodei 对“AI 军备竞赛”批评的回应是：美国领先可能为可执行的国内安全措施创造空间，而与中国势均力敌则会引发一场无法控制的国际竞赛。 如果模型变得危险，民主政府可以通过法律和有约束力的承诺让本国公司放慢脚步，但没有任何权威能够可靠执行美中之间的协议。他称，合作仍值得争取，但“不能成为 Plan A”。

Amodei 目前认为，本世纪末前出现大量在几乎所有方面都远超人类的 AI 系统，概率约为 70%-80%；他的猜测时间点是 2026 或 2027 年。 到 2025 年底，编程能力可能会变得“非常严肃”，到 2026 年底接近最优秀的人类；较低层级开发者的替代可能在 18-24 个月内开始，甚至更早，尽管近期采用 AI 主要仍是增强程序员能力。

医疗和企业工作流已经证明了 AI 的近期价值。 Amodei 称，Claude 将一份临床研究报告的准备时间从 9 周压缩到 10 分钟的模型工作加 3 天人工复核。但他否认“P doom”就是 10%-25% 这一说法：这个区间更广义地指文明受到实质性扰乱的概率，而他的判断基本没有变化。

收尾环节的头条显示，平台权力正在集中，而机构防线却承受压力。 Meta 在启动 5% 裁员一周后，将潜在高管奖金从基本工资的 75% 提高到 200%；Casey Newton 称这是“真正的‘不爽就走人’时刻”。Apple 则选择在英国撤下 Advanced Data Protection，而不是打造加密后门。Perplexity 的 Comet 浏览器和 5000万美元创投基金，在 Newton 看来更像是“向墙上扔意大利面”（spaghetti at the wall），而非有重点的扩张。

🔗 原始收听与视频来源： Anthropic 的 Dario Amodei：对 AI 未来的希望与担忧