Dean Ball

任职11个月后，Ball 判断美国《AI行动计划》大约完成了“30%到40%”，能源、军事采用、制造业和部署均取得实质进展，但基层执行能力与上层应激式政治之间的裂缝正在扩大。 他最大的起草遗憾，是文件读起来像“30多个彼此分散的主题目标”，而不是围绕通用型智能体、美国主导地位和全球正和式扩散展开的一套战略。随后，政府在未提前90分钟通知的情况下，对非美国籍人士实施前沿模型出口管制，验证了盟友最深的担忧；尽管如此，Ball 仍希望政策制定处于“高度神经可塑阶段”。

Anthropic 的供应链认定与 Fable 禁令说明，正当的安全担忧可能与薄弱的前沿 AI 背景判断、个人摩擦和事后政治正当化纠缠在一起。 该认定仍在诉讼中，到2027年夏季出现最高法院裁决并不离谱；与此同时，战争部似乎正在逐步停用 Anthropic，但其他机构——据报道甚至包括在 Anthropic 的监控和致命武器红线下继续使用其产品的 NSA——仍在使用它。Ball 认为，Fable 限制是一次试图把模型赶出市场的临时操作，不是一条连贯的普遍规则：“如果你是 Fable 用户，你的世界在过去一周里变笨了。”

将前沿模型监管转入机密、情报主导的流程，可能让政府获得能力垄断，同时抛弃社会的“并行算力”。 Ball 接受必要时进行机密工作，但反对这样一个世界：未知模型按照不公开的标准接受测试，访问决策由大约20名官员作出，其中可能有15人缺乏深厚的 AI 背景。州层面的前沿法规提供了更有希望的反例：California SB 53、New York’s RAISE Act 和 Illinois SB 315 正在大幅趋同，而 Illinois、Connecticut、Virginia 以及可能还有 Ohio 正在搭建审计或独立验证机制。

中国不愿购买美国芯片，部分是战略信号；更大的技术意外在于，世界模拟系统可能让灵巧机器人技术大幅提前。 Ball 预计，北京会宣称半导体自立，同时 DeepSeek、Alibaba、Zhipu 等公司私下游说采购美国芯片；他承认，自己关于 DeepSeek 顶级模型将在2026年第一季度末前闭源的预测错了。持续运行的3D世界模拟立刻改变了他的机器人预测：从人类示范构建的合成数据管线，可能远早于他预期地解决操作问题——他的反应是：“好吧，机器人的灵巧操作将在8个月内被解决。”

Ball 加入 OpenAI，是因为前沿实验室已经成为一种新的政治与经济权力中心；如果置身其外，就无法理解其中决定性的资讯与治理选择。 他将其与现代金融的兴起相提并论：政府没有能力写出每一条规则，私人标准必须填补缺口，而 AI 本身也会成为治国工具。他的新团队将向前看6–12个月，与研究人员密切合作，尤其关注现有监管触及不到的内部部署——现有监管通常由公开发布触发。

Ball 的基准情景是，递归自我改进会让曲线再次陡峭化，而不是瞬间进入奇点；但即便不连续跃迁的概率只有10%–20%，也足以要求现在就开始制定具体预案。 他希望预先定义指标、明确实验室之间的协调选项，并厘清政府何时必须介入。他更尖锐的担忧是执行：实验室可能有计划，却仍不确定“我们是否会真正照着执行”，因此内部信念与书面承诺同样重要。

AI 已与半导体、能源、初创公司和具有国家重要性的 IP 深度交织，2027年的增长失望可能触发一种隐性的政府兜底。 Ball 描绘的情景是：数据收集放缓，资本开支预期被砍，股票下跌20%–30%，并通过相互连接的资产负债表产生连锁反应；随后，即使政府没有明确承诺救助，干预也可能成为公共利益所必需。政府仍掌握《国防生产法》和合法暴力的垄断，因此实验室最持久的防线是广泛扩散：每家银行、每所大学和每个主要行业都应在防止没收或国有化上拥有利害关系。

Ball 认为，这一转型可能创造一个短暂的“主角能量”时代：个人判断力在机器成为主要行动者之前达到最大杠杆。 他的安全边界是个人化的：保留独立公开写作，提前定义辞职红线，同时抵抗政府俘获与商业权宜之计；如果团队沦为橱窗装饰，就离开。他会深度使用 AI 进行研究和思想合作，但仍认为人类写作的文章有价值，因为“人生的每一条路径都极其不可能”，模型无法从自己从未经历的经验中作出观察。

🔗 原始收听与视频来源： Dean Ball 谈加入 OpenAI：新权力中心、前沿 AI 政策与“主角能量”

前沿模型的竞争正在变成资本与基础设施的竞争，Nvidia 的 H100 位于这道护城河的中心。 这款芯片针对 Transformer 密集型矩阵乘法周边的互联瓶颈，而一家 Inflection AI 级别的后来者筹集了 $1.3B，主要用于建设自己的集群；OpenAI 的 $10B 融资与 Microsoft 合作，以及 Anthropic 与 Google 的关系，都进一步强化了行业集中度。Erik 的结论是：任何在 2024–2026 年时间窗口按预期规模训练前沿基础模型的公司，都将采购海量算力；如果 H100 禁令能够持续且得到有效执行，中国可能难以实现可比规模的扩张。

模型市场正在分化为一个负责预训练的小圈子，以及一个规模更大的微调或租用推理算力的经济体。 Erik 将前沿预训练的规模框定在约 1万亿至10万亿 tokens、成本约 100万美元至1亿美元；据传 GPT-4 使用了 13万亿 tokens，外界普遍认为成本超过 1亿美元。实用的监督式微调约从 100万 tokens 起步，成本最低可至 100美元。这形成了与投资者直接相关的分化：基础模型周围存在巨大的壁垒，但“稍微下点功夫”仍能做出差异化应用。

RLHF 是 ChatGPT 解锁可用性的关键，但它带来的行为改进伴随着尚未被充分理解的损失。 预训练后的 LLaMA 像“世界上最大的自动补全工具”，指令微调让它遵循指定角色，而强化学习则教会它先提出合理的追问，而不是急于给出答案。但用户形容结果像是“被切除了脑叶”，创造力可能下降；模式坍塌还会让本应随机出现的数字 97 频率高得离谱。

聊天界面同时是对齐接口、参与度引擎，也是全新的情感风险类别。 这种助手形态让开发者能够围绕“有帮助、诚实且无害”进行优化，而 Character.AI、Pi 和 Replika 表明，即使用户清楚背后的技术机制，也可能与产品建立情感依附。商业张力尤其突出：产品可以把自己营销成恋爱练习，同时承认“关系对象是 AI，但感受可能是真实的”。

一套实用的能力栈——推理提示、检索、工具和持久记忆——正以快于单纯提升模型智能的速度推进。 “让我们一步一步思考”、多数投票和思维树，用更多延迟与推理支出来换取准确率；embeddings 让答案建立在可信数据上，API 则提供天气、搜索、代码执行等模型无法内含的事实。Perplexity 的“产品卓越”展示了机会，但它依赖 Google 和 Bing 的 API，因此在战略上仍需要自建索引。

已经拥有深度工具的 incumbents，比在浅层产品上覆盖一层亮眼 AI 的初创公司更占优势。 Adobe 和 Salesforce 可以教模型操作成熟的创意软件或 CRM 系统；相比之下，幻灯片生成器可能做出不错的大纲，却把用户丢进羸弱的编辑软件里。Gamma 能够导出 PowerPoint，之所以脱颖而出，正是因为它承认了这一现实；Athena 等服务型企业则押注于“最佳的人类加 AI 组合”，直到 agent 真正取代人类。

Agent 已经能够把自然语言目标转化为实体或数字执行，但节目明确区分了遵循协议与发现协议。 一个多 agent 系统搜索、计算、操作 Emerald Cloud Lab 并合成了阿司匹林；但当被要求大致寻找并合成一种抗癌药时，它只是重复了已有的熟悉思路。同样，Minecraft agent 通过保存成功技能成为“终身学习者”，说明不断累积的记忆可以让 agent 变得可靠，却无法提供突破性洞见。

多模态桥接和效率技术扩大了可服务市场，同时加深了系统的不透明性和推理经济学。 小型 adapter 可以连接冻结的视觉 encoder 与冻结的语言模型，但随后“模型在纯数字化的高维空间中彼此交流，而人类无法理解其中内容”。将权重从 32-bit 量化至 8-bit 可以节省 75% 的内存；蒸馏和混合专家路由，则瞄准最终最重要的成本：运行模型，而不只是训练模型。

🔗 原始收听与视频来源： AI 侦察报告：实施趋势（共 3 部分，第 2 部分）

这场辩论最具行动指向的分歧，是 Dean Ball 与 Max Tegmark 对灭绝级风险估计相差数个数量级。 Ball 称自己的概率“低于1%”，给出的具体数字是“0.01%或类似水平”；Tegmark 则认为，如果企业可以在没有类似 FDA 的安全保障下部署超级智能，失控概率“肯定超过90%”。

Tegmark 主张，在超级智能被证明可控且获得强劲公众支持之前，有条件地禁止其开发，而不是叫停有用的 AI。 他援引民调称，95%的美国人反对竞速迈向超级智能；一篇论文则发现，即使采用最乐观假设，可递归扩展的监督方案仍有92%的失败率。他希望对 AlphaFold、自动驾驶和医疗治疗等可控工具“全速前进”，即便真正自主的超级智能必须等待20年。

Ball 的核心反对意见是，“超级智能”尚无法转化为法律定义，否则可能连有价值的系统一并禁止，并将开发权集中到持牌卡特尔手中。 他预计，到大约2030年，某个模型可能解决重大数学问题、推动多门科学、在编程和法律推理上超越人类，并改进 AI 研究，却不会引发 Tegmark 所担心的灾难。法定禁令可能演变成“N+1、N+2”：GPT-5 已存在，GPT-6 获准开发，但 GPT-7 在任何人都还没能收集其安全证据前就被禁止。

双方最强的共识出现在具体的生物和网络能力上，Ball 已据此转向有针对性的监管。 OpenAI 的 o1 改变了他的判断，因为审慎推理与工具调用为“从生物学知识到合成病原体”提供了一条清晰路径；这一事实变化推动他从反对加州 SB 1047 转为支持更有针对性的 SB 53。他的讨论重点是下游控制——BSL 实验室和核酸合成筛查——因为“比特”比物理瓶颈更难监管。

FDA 类比既说明了事前审批的必要性，也揭示了监管锁定的风险。 Tegmark 认为，尾部风险远超企业资产负债表的承受能力，等到一场造成100万亿美元损失的疫情或人类灭绝发生后再诉讼毫无意义，因此应由企业承担提交量化安全论证的举证责任。Ball 则反驳称，FDA 将工业时代“一种治疗对应一种疾病”的模式固化下来，阻碍了个性化医疗；这警示 AI 监管机构可能成为工会、既有企业及其他希望对就业替代拥有否决权的群体手中的“大棒”。

围绕中国的争论，分裂为一场竞逐可控能力的比赛，以及一场竞逐释放无人能控制之物的比赛。 Tegmark 将后者称为“自杀竞赛”，并预计重视政治控制的中国共产党会阻止任何能够推翻自身的国内系统。Ball 更阴暗的情景则发生在美国国内：许可制度可能制造出中世纪式的食利国家——少数拥有 AI 的精英、受保护的寻租中产，以及低能动性的底层阶级。

对投资者而言，真正重要的政策边界越来越取决于具体能力，而不是在加速与停滞之间二选一。 安全论证制度可能重塑前沿实验室的支出方向——Tegmark 估计领先 AI 公司约1%的投入用于安全，而大型制药公司的比例高得多——但不会阻碍医疗、科学和自动驾驶的发展。尚未解决的风险敞口在于：OpenAI、Anthropic、Meta、xAI 和 Google 能否继续被信任，在危险模型出现时主动按下暂停键，还是说不确定性本身最终会触发具有约束力的部署前审查。

🔗 原始收听与视频来源： 超级智能：该禁，还是不该禁？Max Tegmark 与 Dean Ball 做客《Doom Debates》，与 Liron Shapira 对谈

Google正把轨道AI基础设施视为应对地球土地、审批、电网和社区约束的长期方案。 Project Suncatcher计划将TPU集群和太阳能阵列部署到晨昏低地球轨道，近乎持续的日照可能让面板效率达到地面面板的8倍；数据回传或许只会增加“几毫秒”。这是应对爆发式算力需求的真实选项，但还不是当下的生意：发射成本仍是建设同等地面数据中心的数倍，维修可能需要机器人。

第一个具体里程碑是2027年的双卫星原型，而不是轨道超大规模扩建。 Google称，新一代TPU在质子束辐射测试中承受的强度，已经超过5年任务预期；公司正与Planet合作测试。Starcloud、Axiom Space以及一个信息模糊的中国项目也在探索这一领域，Eric Schmidt和Jeff Bezos则释放了兴趣。Google把Suncatcher与Waymo、量子计算并列，称这是一个需要投入“8、10、12、15年”的项目；发射经济性和运营可靠性才是关键门槛。

共和党的AI政策仍是一组直觉的光谱，还没有形成定型的MAGA教义。 Dean Ball说，政府内部共享几条宽泛直觉：AI可能是数十年来、甚至有史以来最重要的机会；它既有熟悉的风险，也有“更陌生”的风险；并将塑造美国领导力。阵营从聚焦对华竞争的国家安全官员、关注儿童安全的保守派，到主持人所对应的David Sacks与Steve Bannon的相反立场不等。Ball预计，围绕垃圾内容、电力、水、就业、儿童安全、灭绝风险，以及“AI是假的”等说法，最终可能形成一锅“奇怪的冷汤”。

基础设施可能是各家实验室最强的竞争壁垒，而它们的监管立场则与自身激励一致。 超大规模云厂商未必反对出口管制，因为中国买家、甚至对TSMC有限晶圆制造产能的间接需求，都会与它们竞争；前沿实验室需要芯片来出售token，但Ball认为“模型参数不是你的护城河”。Anthropic宣布投入500亿美元建设数据中心，加入Google、OpenAI的Stargate、Meta和xAI共同参与的资本开支竞赛，最终均衡需要政府裁定。

Ball划出的监管边界是：联邦政府预防灾难性尾部风险，普通伤害在证据出现后再反应式监管，政府采购的模型则只受采购规则约束。 他认为“Woke AI”行政令针对的是意识形态偏见条款，以及联邦版本的系统提示词披露，同时承认右翼反对政府施压与自身施压之间的矛盾，并称强迫改变公开模型训练方式“明确违宪”。他希望对训练成本达10亿美元、面向全球提供服务的模型设立国家标准，但也认为国会必须处理儿童安全问题，并称加州SB 53透明度规则“总体上相当合理”。

一个身份未明的Gemini测试模型，似乎把手写转录从“令人印象深刻”推进到了专业可用。 在5份、合计约1,000词的基准文件上，Mark Humphries测得约1%的词错误率；相较Gemini 2.5 Pro在这些测试中的结果，错误率下降约50%，接近人工转录专家的水平。结果来自Google AI Studio的A/B测试，有时需要提交20或30次，因此Kevin Roose所说的“可能是Gemini 3”仍然只是押注，而非身份确认。

更深层的信号并非转录，而是一次看起来具备符号推理能力的账簿推断。 面对一条Albany记录，模型推断“14 5”指的是以每磅1先令4便士售出的14磅5盎司糖，并将其与19先令1便士的总价核对一致；Humphries说，“模型不应该能做到这一点”。如果结果可复现，模型就能汇总整本账簿并承担更广泛的档案级任务；但目前样本很小、模型身份未知，仍需在模型发布时复现。

🔗 原始收听与视频来源： 太空数据中心 + 右翼AI政策 + 一桩Gemini历史谜案