输入一句话,3秒生成可玩的3D世界——Shlomi Fuchter & Jack Parker-Holder
摘要
- Genie 3 的跃迁在于:它能以720p实时生成由文字提示驱动的世界,并保持数分钟的可交互性。 大致演进路径是:Genie 1 约需10秒,Genie 2 约需20秒且动作之间存在停顿,Genie 3 则约3秒后响应,随后维持低延迟操控。Tim Scarfe 的概括是:“互动起来,魔法才会发生。”
- 技术护城河在于:无需传统游戏引擎或显式3D表示,也能生成持续存在、可导航的环境。 Genie 3 逐帧进行因果生成,用户重返某个地点时会回看历史;操作员离开数分钟后,黑板上写下的物体仍然存在。Shlomi Fruchter 强调:“一致性是涌现的,没有任何显式表示。”
- DeepMind 明确提出的首要用途是为具身智能体训练提供可扩展模拟,而不是娱乐。 与物理准确却 sterile 的实验室不同,Genie 3 能建模天气、动物和人类,还能注入鹿群穿过滑雪坡等罕见事件。Jack Parker Holder 认为,今天所谓的“sim-to-real”大多其实是“sim-to-lab”;真正部署到现实世界,必须让其他智能体填充这些世界。
- 可提示事件能覆盖长尾,但还没有解决开放式问题。 Scarfe 追问:稳健训练所需、理论上无限的黑天鹅事件由谁生成?“可能会一直是乌龟套乌龟。” Parker Holder 的回答是,基于语言的外层循环可以引导出有趣的课程,但团队也表示,现在判断 Genie 3 最终会如何用于AI研究还为时过早。
- 互动娱乐是一个巨大的上行选项,但研究人员并未认同“下一个YouTube”或“体验机器”的判断。 Genie 3 可能成为新的创作底座,但目前只能接受文字而非图像,只有1个可控智能体,而且高度依赖熟练提示词。Parker Holder 只愿意说,它是“另一种形式、另一种平台或另一类模型”,意外的创造力可能在其上涌现。
- 更可能的路径是专用模型的组合,而不是由一个系统包办所有事情。 Genie 3 提供隐式的物理和社会动力学;SIMA 可以在其中行动,类似 Gemini 的模型则可以贡献显式推理。实时生成限制了可用算力,因此编码、数学或魔方类任务最终可能需要可变计算量,或单独的“思考”模型。
- 尽管 Scarfe 称其可能成为“下一个万亿美元生意”,商业化准备度仍远落后于演示效果。 Genie 3 仍是研究原型,正在逐步进行安全测试,近期不会向用户开放,训练数据未披露,只模糊表示运行在 DeepMind 的 TPU 网络上。Shlomi 表示,它目前无法生成一场具体的古代战役,因为没有接受这类数据训练;对于可靠性和罕见事件覆盖,也没有人给出完整答案。
精读
1. 学习型世界摆脱手写模拟器的规则
Scarfe 开场对比了1996年的 Quake:物理、交互和规则都靠显式编程。即便 DeepMind 的 XLand 能让智能体接触250亿个任务,依然是手工制作、受领域限制、带有“卡通感”且“毛糙”;生成式世界模型则直接从记录的经验中学习动力学。
Genie 1 使用3万小时2D平台游戏视频训练。它的时空分词器、自回归动力学模型和潜在动作模型,在没有动作标签的情况下发现了8种一致的控制方式——实际上是从逐帧变化中学会“跳跃”和“向左移动”,还意外复现了2.5D视差等深度线索。
Fruchter 的 GameNGen 研究追问:仅靠扩散模型,能否端到端复现 Doom?输入只有像素和用户操作,没有地图、门的位置或游戏代码。它在单个 TPU 上以每秒25帧运行,保留了生命值、射击和导航机制,但关键限制是:它只能模拟 Doom,除此之外什么都不会。
Genie 2 将分布扩展到3D世界,并把分辨率从 Parker Holder 回忆的约90p提升到360p。它加入了光照、水、烟雾、重力和物体持久性,但仍需要图像提示,持续时间约20秒,也不是真正的实时系统——用户每次操作之间都要等待数秒。
2. Genie 3 跨过实时门槛
Fruchter 将世界模型定义为:既能预测环境如何演化,也能预测智能体的动作如何改变环境。Genie 3 将这一标准推进到720p、更长时间跨度、更强一致性和低延迟控制,让人或智能体能够创建此前未被指定的轨迹,同时持续完成生成。
Scarfe 的实际基准是:Genie 1 约需10秒,Genie 2 约需20秒,而 Genie 3 可以持续“数分钟”。在伦敦演示中,一个提示词大约需要3秒初始化;此后,Scarfe 说:“你进去就行了,一切都能直接运转。”
文字取代了此前的图像提示,扩大了可生成环境的范围,但也失去了把照片直接变成世界的能力。文字还可以在游玩过程中触发世界事件:另一名滑雪者可能穿着 Genie 3 T恤出现,或一群鹿突然冲下山坡。
3. 没有显式3D地图,一致性仍会涌现
Genie 3 必须对每一帧进行因果生成,并将其与此前展示过的一切协调起来。它没有类似 NeRF 或 Gaussian splatting 的显式3D表示;可重返的房间、光照和布局,来自模型规模与学习到的动力学。Fruchter 的表述很直接:“一致性是涌现的。”
Parker Holder 用大语言模型作类比,解释随机生成如何与持久性共存:模型在引入新事物时拥有自由,但已经放入上下文的事实应当保持不变。在 Genie 世界里,未被看见的区域可能变化;“一旦看过一次,从那以后就应该保持一致。”
一项黑板记忆测试支撑了这一主张:生成场景中有一个苹果、一个杯子,以及“Genie 3 memory test”几个字;操作员离开、望向外部后,数分钟再返回,这些细节仍然存在。在无人机场景中,模型还会对操作员注视的区域增加细节,形成以智能体为中心的视角,而不是像 Veo 那样处处保持均匀的电影化构图。
4. 机器人让世界生成变成数据引擎
Fruchter 的前提是,物理实验正在限制AI进展:药物或治疗方案的迭代可能需要数月,而训练机器人在现实中组装物体既慢又贵。如果环境能够按需生成并被安全探索,智能体的经验就不再只能随着物理硬件和现实数据的积累而扩张。
Parker Holder 将 Genie 3 与那些在公寓里演示的机器人作对比,称后者“几乎和播客录制一样经过安排”。传统模拟器可以复现物理,却往往缺少天气、动物和可信的人类行为;Genie 更广泛的世界知识,可能让策略暴露于离开实验室后真正会面对的随机性。
Scarfe 提议采用课程学习:从简单的滑雪坡开始,再沿着难度梯度加入行人、车辆或其他复杂因素。研究人员认可这一方向,但对实现机制保持保留——Fruchter 表示,相关能力仍在被发现,需要外部测试者参与,之后才能确定世界模型究竟如何支持AI研究。
安全也是这套数据逻辑的一部分。罕见或危险的交互可以在不把未准备好的机器人部署到人群中的情况下生成,同时让智能体练习那些 sterile 模拟器无法提供的条件。Parker Holder 的关键前提是:“现实世界从根本上由人和其他智能体构成。” Scarfe 还强调,像 Genie 3 这样的系统在训练、数据整理或评估中,仍至少需要一些人工反馈。
5. 因果交互把门槛抬到视频之上
Fruchter 解释说,世界模型的质量异常难以衡量。视觉逼真度具有主观性,而世界不只是视觉;评估取决于上下文和预期用途,尤其要看智能体能否在生成环境中学习并完成有意义的任务。
视频模型可以在整体修改片段的同时渲染洒出的水,让过去和未来一起变化,直到序列看起来合理。Genie 3 做不到这一点:用户可能在任何一帧之后介入或改变视角,而“过去一旦发生,就无法再改变”。这种因果约束让交互式物理一致性明显更难。
Scarfe 将沉浸感描述为始终停留在观察者“预测视界”之外。Genie 可以把细节分配给智能体关注的区域,但 Fruchter 否认这意味着能够完整模拟现实:完全模拟分子大概不可能,而具身存在还包括感受、物理交互和其他感官。“我们离那种完整模拟还非常遥远。”
Parker Holder 对现实鸿沟提出了最尖锐的判断:今天的“sim-to-real”实际上是“sim-to-lab”,因为它转移到的是物理真实但受到约束、除此之外几乎一无所有的环境。在他看来,包含人类和通用智能体的照片级真实世界,是解决真正开放式现实部署问题的“唯一方式”。
6. 开放式探索仍在提示词之外
Scarfe 的反驳是,Genie 3 只是给用户提示词要求的内容,并不会独立地产生创造力。湖泊场景可能美得惊人,却没有任何意外出现的鸟;把每个不太可能发生的事件逐一列出,只是把问题继续向外推——“乌龟一直套到最底层”——而团队认为,这个领域还没有迎来自己的“Move 37时刻”。
Parker Holder 将提示词对齐视为优势,因为有天赋的人类可以构建异常丰富的世界。他更深层的押注,是把他认为“正在走向碰撞”的两条研究路线结合起来:POET 式开放式搜索与基础世界模型。POET 的8维环境编码缺乏丰富度和趣味性;基于语言的基础模型则可以调用人类知识,同时提出并引导两者。
Fruchter 给出一个“不断演化的答案”:短提示词充当种子,之后人或模型可以通过数个创作步骤不断添加细节。玻璃水果 ASMR 展示了新颖性如何源自提示词;Picbreeder 和社交提示词分享则说明,累积的人类偏好如何把生成系统推向意外的产物。
Scarfe 将其外推为“下一个YouTube”、通往虚拟现实的门户,以及比普通生活更好的体验机器。Parker Holder 拒绝作出这一预测,只表示 Genie 3 提供了“另一种形式、另一种平台或另一类模型”,选择和重混可能在其上产生意外,而“人类很可能会用它做出很酷的东西”。
7. 专用模型相遇,智能开始复合
Genie 3 目前通过1个可控智能体呈现多智能体世界。人群会主动让路,汽车也会合理行驶,是因为其他行动者以隐式形式存在于模型权重中;世界事件提示词可以引导它们,但它们还不是独立可控的智能体。
这种隐式的社会行为可能帮助具身智能体学习心智理论等能力。Parker Holder 举的例子是无斑马线过马路:智能体观察司机是否减速,推断对方意图,再决定何时行动——这种经验如果通过未经训练的机器人在现实中反复试错来获取,将是不安全的。
Fruchter 不愿把每种能力都归结为同一种智能:人类无法输出照片级像素模拟,文字生成视频的发展速度又超出他的预期,而自动驾驶进展则更慢。他更认可组合优势的方向,例如让分别训练的 SIMA 和 Genie 模型交互,或让类似 Gemini 的推理模型运行在视觉模拟器之上。
Scarfe 描述了一种可能的正向循环:智能体最终可能帮助改进 Genie;但 Parker Holder 标出了当前边界——从探索中的智能体反向学习,“还不是我们在这项工作中真正考虑过的事情”。目前的分工是“模拟未来”与“思考和理解当下”。Genie 的物理知识也隐式存在于权重中;Holder 表示,另一个智能体可能从中学习,但 Genie 也许无法直接描述这些知识。
8. 演示惊艳,产品尚未准备好
Genie 3 仍是研究原型,用户不应期待近期能够访问。出于安全影响,DeepMind 计划通过测试逐步开放;初期引入外部评估者,是为了发现内部团队尚未预料到的能力和应用。
可靠性仍受训练覆盖范围限制。Scarfe 转述 Shlomi 的说法称,模型目前无法生成一场具体的古代战役,因为没有接受这类数据训练;DeepMind 预计更好的模型会减少故障。提示词增强可以制造部分边缘案例,但 Scarfe 不接受“这已经是模型最差的表现”这种安慰式说法,认为它无法回答黑天鹅事件是否覆盖完整。
DeepMind 既没有披露数据集,也没有披露详细算力需求,团队对 Genie 3 的架构同样守口如瓶。Scarfe 猜测训练数据可能包括“整个YouTube以及更多内容”,但明确称这只是他的假设;唯一披露的基础设施细节是 Genie 3 运行在 TPU 网络上,这让他推断系统背后需要“海量算力”,尽管演示中的响应速度很快。
Scarfe 称这项技术可能成为万亿美元生意,开玩笑说学习 Unreal Engine 的人也许会转行,还问动作图形设计师是否应该被解雇;但他同时表示,用户“近期不可能”用上它。研究人员的态度更克制:生成式世界和传统引擎是两种不同技术,各有“优点和缺点”,没有人提出近期取代传统引擎的判断。