Palmer Luckey:自主武器早已存在,以及 Anduril为何不造人形机器人|EP #295
摘要
Anduril赢得野火 XPRIZE,证明其自主化工作流同样适用于民用紧急事件,而响应速度会改变工程方案。 这笔220万美元奖金中包括 Lockheed 提供的100万美元,项目涵盖火情探测、分类、误报过滤、灭火剂选择和投送。不同于炸弹的是,“10分钟响应和1小时响应之间的差别,需要完全不同的工具”,因为火势会在系统行进途中持续扩大。
Luckey认为,与其担心AI灭绝人类,更大的风险是恶意人士利用“能力中等的AI”制造伤害。 他的基准情景极具通缩色彩:AI应把农业和纺织业已经实现的规模经济带到社会其他领域。衡量丰裕程度的标准是:购买2周所需的热量,成本已经低于联邦最低工资的1小时收入。
前线自主化在作战层面不可避免,因为集中式智能会带来通信链路和指挥中心的脆弱性。 链路可能被干扰、拦截或切断,对手也可以直接攻击控制中心;水下平台甚至可能完全无法接入网络。Luckey认为,概念上的分水岭几十年前、甚至几千年前就已跨过:Aegis、SeaWiz、SeaRAM、越战时期追踪无线电发射源的导弹、地雷,甚至按重量选择目标的陷阱,都能在无需实时人工确认的情况下执行预设意图。
今天的通用基础模型,很大程度上是 Anduril 武器系统所需的错误技术。 Luckey称这类模型具有非确定性,难以验证:文本输入、文本输出的模型既不会对原始雷达数据分类,也无法处理被动声呐。Anduril自2017年起就在开发这一专业化类别,公司名称中的“AI”首字母“完全不是巧合”。
通用防务机器人恰恰会在专业化溢价最高的领域失分。 在工厂、医院和餐厅等场景,一台差5%的人形机器人仍可能凭借通用性胜出;但稳定领先对手5%的作战能力,足以支撑巨额投入。因此,防务更像赛车运动,而不是大众汽车市场:“异形、极度专业化的机器人系统”仍会持续跑赢通用平台。
Anduril会使用人形机器人,但不会自己制造,因为 Luckey相信已经有其他团队能把这件事做好。 人形机器人可以在不让人员暴露于风险中的情况下,操作价值数百万美元乃至数亿美元的传统雷达,但 Anduril亲自制造它们的边际影响有限。基于同样的逻辑,Anduril也不涉足小型撞击式四旋翼无人机和发射服务,而是专注于太空产品、卫星和传感器。
Anduril的商业模式瞄准的是一个防务采购市场:几年前,5家公司拿下了主要防务采购项目约80%的份额。 公司先用自有资金开发产品,再出售可运行的系统,把成功的项目负责人转化为重复购买者。创始时的经济学叙事相当大胆:通过替换成本高达应有水平10倍的系统,每年为纳税人节省“数千亿美元”,同时赚取“数百亿美元”。
AI可能早在触及创始人最不光鲜的职责之前,就已经自动化了技术性工作。 Luckey预计,AI还会先推动其他业务流程加速约10年,之后才会触及法律责任、融资、产品架构、人事决策和冲突解决。他对想成为单人创始人的人的警告是:“当创始人一直感觉像是AI抢走了你的工作;只不过那份工作其实是被其他人拿走的。”
Luckey从VR得到的核心教训是人体工学,而不只是算力。 他的 Santa Cruz 原型机把电池和计算单元放在头后部,并称 CV1 的人体工学接近完美。他称赞 Meta 新款 View 眼镜把计算和电池移到头部之外,采用柔性的“可变形织物”,售价仅为 Apple 产品的三分之一,像素密度略高,重量则降至1/8。
精读
1. 自主化让野火响应变成与损害复合式扩大赛跑
Anduril赢得220万美元的野火 XPRIZE,其中100万美元由 Lockheed 提供;Luckey形容 Lockheed 既是合作伙伴,也是竞争对手。这个项目源自 Anduril在2017年启动、2019年完成的自主消防坦克。在 Luckey看来,这项技术早在10多年前就已具备实现条件,只是这个问题已经“在政治上无法继续忽视”。
这套经过演示的系统,从火情探测和分类开始,随后过滤香烟、篝火、道路信号弹等误报,再根据火势、地形和所需速度选择合适的灭火剂,最后“触达目标并将其扑灭”——流程几乎与 Anduril的军用项目完全一致。
关键差别在时间尺度:无论投送需要1分钟还是1天,目标都还是同一个目标;但蔓延中的火灾可能在1小时后就需要完全不同的载具。Luckey将其概括为:“10分钟响应和1小时响应之间的差别,需要完全不同的工具。”
2. AI风险来自人类意图,战场自主化早已存在
当被问及AI毁灭人类的概率时,Luckey拒绝接受这个前提:“我就是不担心AI会毁灭我们。”他表示自己“真的、真的担心”恶人掌握能力中等的系统,并批评近期转向末日论的人,因为他们此前并没有花多少时间研究更广泛的存在性风险。
他的乐观情景是:资源开采、加工和转化成本在全经济范围内大幅坍缩。农业和纺织业展示了终点:“购买2周所需的热量,成本低于联邦最低工资的1小时收入。”他预计,AI会把这种规模效率扩展到整个社会。
Dave Blundin提出的问题是,智能应该放在哪里:总部拥有更多算力,前线系统则拥有更快的响应速度。Luckey认为,与生存能力相比,延迟是次要问题——成千上万的资产不能依赖敌人可以干扰、拦截或切断的链路,对手也可以直接攻击控制中心。他用《星球大战》中的 Naboo 战役作比:摧毁 Trade Federation 的中央AI后,“所有战斗机器人都失去了动力”。
Luckey也不接受自主武器是一个全新的类别。Aegis、SeaWiz、SeaRAM,以及越战时期能够识别无线电发射源的导弹,都能在人类划定任务区域后、无需进一步确认便自行行动;更早的陷阱甚至可以利用重量,有选择地捕获骑乘中的指挥官。“自主武器已经存在了非常、非常久。”
3. 在防务领域,可验证的专业模型比通用基础模型更重要
提问者不是 Blundin,而是 Diamandis:Anduril会使用中国的开源基础模型,还是自己开发模型?Luckey的回答是,今天的基础模型“很大程度上是非确定性的”,无法针对相关任务完成充分验证。大型语言模型或许能用于防务,但“它们不会为我的导弹提供制导,也不会对雷达数据分类”。
Anduril需要的,是能够摄取原始雷达和被动声呐数据的系统,而不是处理文本提示的模型。Luckey称,公司自2017年起就在开发这一专业化类别,并有意将公司命名为 Anduril Industries,使其首字母缩写为 AI:“这完全不是巧合。”
即将推出的1000万美元 XPRIZE则指向另一个方向:理解动物的思维方式,并用野生智能物种自己的语言,把沟通效果提升“10倍”。Luckey认为,非人类认知最终可能反过来启发AI,尤其是在能效、时间效率以及理解问题的替代方式上。
4. 防务将奖励异形机器,而不是一种通用机器人
Alexander Wissner-Gross问,自主系统是否可能最终收敛为一种通用杀戮机器人。Luckey认为,制造业、酒店业和医疗领域存在这种收敛的可能:一台煎汉堡肉饼的能力差5%的人形机器人,只要还能作为护士或装配技师使用,仍可能凭借同一平台的通用性胜出。
防务会反转这笔交易,因为稳定领先对手5%,就可能值得投入巨额资金。Anduril制造的机器人潜艇可以下潜至6,000米并在海床停留数月,也制造能够开到山丘、停在那里等待的水面系统,以及各种专业化飞机。一台既能抵达海底、又能抵达月球的机器,“如果不必潜水,抵达月球会快得多”。
Diamandis原本预计 Luckey会制造人形机器人,Luckey的直接回应是:“你错了。”正因为他相信人形机器人前景强大,他才预计由其他团队提供这些平台,而 Anduril负责让它们操作传统雷达及其他由人类设计的设备。结论是,防务更接近赛车运动,而不是面向大众的汽车平台。
5. Anduril靠自筹资金造产品取胜,创始人仍需承担责任
Salim Ismail将防务部门描述为长期高度集中的机构,拥有强大的“组织免疫系统”。Luckey称,最初最难解决的问题是融资:投资者相信 Anduril能造出产品,却不相信政府能大规模采购。几年前,主要防务采购项目约80%流向5家公司。
Anduril的突破在于“与其说是承包商,不如说是产品公司”:公司用自己的钱先造出产品,再拿去销售。按时交付让政府人员能从选择 Anduril中获益,形成简单的重复购买循环:“我知道怎样让自己的工作更轻松,我刚刚把合同交给 Anduril。”
Luckey从 John Carmack那里借鉴了风险判断逻辑:即便直接冲击AGI只有1%的成功概率,风险加权后的结果仍可能要求你去尝试。Luckey把同样的逻辑用于防务,相比再创办一家游戏、汽车或火箭公司,他更愿意用一个小概率去解决一个规模巨大的问题。
他还认为,一些已经退休的亿万富翁除了资本之外,还有一种未被充分利用的资源:号召力。由于人们相信他们有能力领导团队,他们可以围绕棘手问题聚拢人才和资本;在 Luckey看来,让这种能力闲置是不可接受的。
Luckey早期的训练来自 ModRetro:这是一个他在14岁或15岁时创建的在线硬件改装社区,后来发展到数千名活跃参与者。这个社区教会他如何推广、设计组织架构,如何让2个彼此憎恨的天才继续贡献而不“互相掐死”,以及公开与他人共同推进项目的价值。
在VR领域,Luckey得到的产品教训是人体工学:他的 Santa Cruz 原型机把电池和计算单元放在头后部,而他称 CV1 的人体工学接近完美。他称赞 Meta 新款 View 眼镜把计算和电池移到头部之外,使用柔性的“可变形织物”,售价仅为 Apple 产品的三分之一,像素密度略高,重量则降至1/8。
AI不会消除创始人的负担。创始人仍需承担法律责任、融资、架构、人事,以及决定何时推翻错误决策;与此同时,技术工人可能会像艺术家面对相机那样看待代码生成。Luckey划出的分界线是:“如果你想和技术一起工作,就去给别人打工;如果你想没完没了地处理一堆破事,就去创业。”