98. 逐篇讲解机器人基座模型和VLA经典论文——“人就是最智能的VLA”
98. 逐篇讲解机器人基座模型和VLA经典论文——“人就是最智能的VLA”
摘要
- 陈建宇判断,这轮具身智能创业潮的决定性变量是大语言模型让通用机器人第一次显得可达。 过去是“一百种场景,一百个任务,我要重新开发一百种机器人”,代码与本体都无法 scale;ChatGPT 则让人看到,同一类 AI 方法有望跨任务泛化,人形机器人又提供了相对通用的身体,两者共同打开新周期。
- 行业尚未找到真正可 scale 的机器人模型架构,技术路线会先于场景和商业模式收敛。 陈建宇把正解指向端到端 robot foundation model:以 vision、language、action 为核心,并逐步纳入触觉、声音、深度等模态;传统 pipeline 或调用现成 LLM 的方案短期能拓展场景,却“没法帮助我们通向真正通用的机器人”。
- RT-1、RT-2、RT-X 到 OpenVLA 已显示 scaling 的迹象,但机器人还没有出现语言模型式“啊哈时刻”。 RT-1 用 13 台机器人、历时 17 个月收集 130K 个 episode、覆盖 700 个任务,见过任务成功率接近 100%、未见任务约 75%;更关键的经验是 diversity 比 size 更重要:跨任务、跨物体、跨本体的数据价值高于重复堆量。
- VLM 给机器人带来了视觉语言理解与推理能力,却也暴露出 action 需要专门建模、不能简单用语言 token 代替的瓶颈。 RT-2 能识别德国国旗、Taylor Swift 和热火队,但其 1—3 Hz 推理频率难以支撑动态、精细操作;HRT、Figure Helix、π0、NVIDIA GR00T 因而都在 VLM 后加入专门的 action policy/expert,并以大小模型或不同模块协同。
- 下一阶段的架构竞争将围绕“行动、预测、理解”能否统一,以及强化学习能否直接训练整套 VLA。 陈建宇团队让模型联合生成 action 与未来图像、深度乃至触觉,理由是“能做预测代表着你对物理世界的时序关系有一个理解”;其 VLA 强化学习实验又把部分任务从不足 50 分推近 100 分,但直接用 PPO 端到端训练反而可能越训越差。
- 星动纪元采取 to A、to B、to C 的商业递进,而不是等待家庭通用机器人一次性成熟。 to A 面向高校、企业研究者和创新者,灵巧手已批量销售并形成初步商业闭环;to B 与制造、服务场景方共同提供场景和数据,家庭 to C 则因泛化要求最高而后置。“根据场景定义机器人”被陈建宇视为上一代范式,至少已经证明这种方式不能 scale。
- 机器人终局比语言模型更难,但沿途商业化可能反而更早。 工业机器人几乎没有智能,也已有万台级出货并支撑上市公司;新模型只要先在某个动作上达到人类水平,就可能解锁 B 端需求。陈建宇希望五年内机器人达到“经常去哪儿都能看到,有的家庭也开始有”的密度,并判断未来几年能力会持续提升,“每一次能力的提升都可能解锁新的商业机会”。
精读
1. 陈建宇把研究与创业押在同一套具身智能栈上
- 陈建宇现任清华大学交叉信息研究院助理教授,也是星动纪元创始人;本科就读清华,博士在 UC Berkeley 研究机器人、控制和无人车,回国后继续从事机器人 AI。
- 星动纪元从 2022 年开始实质研发,2023 年 8 月正式成立,目前处于 Pre-A 轮且新一轮融资正在进行,估值暂不披露。
- 公司已迭代多代人形机器人本体、强化学习运动控制模型和更上层的端到端具身大模型;陈建宇形容自己的 MBTI 在 INTP 与 INTJ 之间跳变。
2. 大语言模型是本轮机器人革命最关键的变量
- 陈建宇回溯的技术链条是:deep learning 最先通过 computer vision 进入机器人感知,无人车因此较早采用神经网络做视觉,但机器人的决策和控制仍未被统一。
- AlphaGo 代表的深度强化学习是下一道拐点:围棋的巨大状态空间显示,神经网络与强化学习能够处理连续空间,而“机器人就是在一个连续空间里面做行为决策的”。
- 但强化学习仍难以支撑通用机器人。真正改变预期的是 ChatGPT:它虽是纯语言模型,却让人直观感到“一种 AI 的方法能够做到足够通用”。
- 因而这一轮热潮约在 2023 年下半年全面爆发,时间上紧跟大语言模型热潮向机器人扩散。
3. 专用机器人输在代码与身体都不能 scale
- 传统模式的问题不只是“一百种场景、一百套代码”,还要为不同任务重新设计一百种身体;两个维度叠加,使机器人难以复制汽车、手机或 PC 的规模。
- 即使出货量最大的工业机器人,与汽车、手机等产业相比仍“微不足道”,陈建宇把根因归结为专用化,而不是机器人行业缺少足够长的历史积累。
- 人形机器人之所以同步变热,是因为它提供了一种相对通用的本体设想,能够减少针对每个任务重新设计机器人形态的需要。
4. 技术路线将先收敛,商业路线随后才会定型
- 面对两年内涌现的数十家创业公司,陈建宇认为技术路径“逐渐在收敛,但还没到完全收敛”,且顺序大概率是先技术、后场景与商业应用。
- 新一轮商业化必须建立在新技术能力上;传统机器人能做的商业机会,已经被大量既有公司挖掘。
- 商业与技术仍会相互塑造:技术方向和数据来源需要与商业闭环结合,技术进展也会反过来决定哪些产品形态和商业模式已经可行,但核心牵引项仍是模型架构。
5. VLA 是广义端到端具身模型,而非三个字母的封闭清单
- 陈建宇给出的定义很直接:V 是 vision,L 是 language,A 是 action;在他的口径里,VLA 必须是能 scale、能泛化的端到端模型。
- 视觉与语言进入模型后,机器人还必须直接输出 action;触觉、声音等模态也应被纳入,只是“字母就别无限延长了”,VLA 被用作更广泛的代称。
- 他认为现有 VLA 未必就是最终路线,但这个广义目标不会变:不同模态统一进入一个模型,输入和输出直接训练,而非由多个外接模块拼装。
- 更远的终局是语言模型、自动驾驶模型与机器人模型 unify 成一个具身模型:“人就是一个标准的通用 VLA 模型,人就是一个 AGI。”
6. 最难的问题是找到真正可规模化的模型架构
- 陈建宇把首要未解问题压缩为一个:“能够去 scale 的模型架构。”行业正在快速推进,却暂时没有找到足以支撑通用机器人的答案。
- 这既是科学问题,也是工程问题。科学层面要回答具身智能的本质、人如何学习;工程层面还要面对数据、算力、本体和训练部署等问题。
- 他预计进展不会一步到位,而会类似自动驾驶从 Level 2、Level 3 到 Level 4 逐级上升;模型大小也要根据机器人本体和算力决定。
7. Robot foundation model 复制的是“大模型工作方式”
- 传统 AI 为 segmentation、classification、detection、VQA 等分别训练模型;foundation model 则用大规模、多模态数据预训练,再通过 fine-tuning 或 prompting 适配任务,相当于“把大脑统一了”。
- 机器人学习目前仍大量停留在“一种本体、一个任务、一个模型”,ALOHA 等先进系统也多属这一范式,只是把手写程序升级成模仿学习或强化学习。
- 终极目标是同一个 robot foundation model 通过 prompt zero-shot 泛化到新任务和新本体;现实路径会先经历预训练加 fine-tuning,再逐步减少专用适配。
8. SayCan 先把语言模型接入高层规划
- 传统机器人可粗分 perception、decision/planning 和 actuation;最自然的第一步,是用 LLM 替换可由语言表达的高层 planning,感知和底层控制继续沿用既有方法。
- Google 2022 年的 SayCan 面向长时序自然语言任务:LLM 给出完成目标可能需要的动作,单独训练的 value function 判断机器人当前状态下哪些动作真正可执行。
- 两者匹配后,机器人选择既有助于目标、又“能做”的动作。张小珺追问“不能做不就卡了”,陈建宇承认它不保证最优,也必然存在未展示的 failure cases。
9. 闭环反馈让机器人从照计划执行变成边做边改
- Inner Monologue 的关键不是再做一次规划,而是把环境反馈送回推理链:钥匙插不进锁孔,就推断钥匙不匹配,换另一把继续尝试。
- 相比 SayCan 一开始列出一二三四五步后顺序执行,这种方法允许 action 改变环境后重新判断,形成类似 chain-of-thought 的机器人闭环。
- 陈建宇团队又把反馈提前到任务执行中,使用约 10 Hz 的 VLM detector 实时发现异常;机器人搬箱子途中若箱子掉落,可立即蹲下捡起,而非走到终点才发现。
- 在该架构里,VLM 负责“看环境”、检测任务是否正常,LLM 负责高层规划与异常后的重规划,二者配合但仍不是统一的机器人基座模型。
10. VoxPoser 让语言模型写控制代码,却仍只是工具拼接
- 李飞飞团队的 VoxPoser 利用 VLM 获取空间信息、LLM 理解任务并推理,再自动生成机器人程序,调用底层控制器完成机械臂轨迹规划。
- 例如开抽屉时,模型可写出 affordance map 标示目标位置,再写 constraint map 表示障碍物,最后通过轨迹优化生成避障动作。
- Code as Policies、微软让 ChatGPT 写机器人代码等工作共享同一思路:利用语言模型的 coding 能力,把原先由工程师书写的控制逻辑自动化。
- 陈建宇的保留意见是,这些模型本身并未学到具身能力,只是“跟机器人的一些工具拼接了一下”;短期有用,长期难以抵达真正通用的 robot foundation model。
11. ALOHA 证明低成本硬件也能完成精细双臂操作
- ALOHA 2023 年的第一代系统强调 low-cost hardware 与 fine-grained bimanual manipulation:双臂硬件、遥操作方法和算法均开源,仍是一任务一模型,却显著降低了精细操作门槛。
- 其核心 ACT,即 Action Chunking Transformer,是 encoder-decoder Transformer:多个视角的摄像头经 CNN 编码,模型一次输出未来一段 action sequence。
- ACT 不只执行最新规划点,而把不同历史时刻对当前动作的预测加权平均,形成 temporal ensemble;这借用了 MPC 思想,使 trajectory 更 smooth。
- 电池装盒等演示显示,低成本硬件也能完成非常精细的双臂协作,但陈建宇强调:“虽然它很厉害”,严格说仍没有 language,不能算完整 VLA。
12. Mobile ALOHA 把遥操作、移动与双臂操作连成一套系统
- 2024 年出圈的 Mobile ALOHA 给双臂加上移动底盘,人可以推着系统移动,既可以边走边操作,也可以先移动到目标位置再执行任务。
- ALOHA 的遥操作采用主动臂与从动臂一一映射;操作者直接握住机械臂,动作同步复制到机器人,并将演示记录为模仿学习数据。
- Mobile ALOHA 又把操作者固定在系统上。陈建宇认为这种设计很有价值:直接推、直接握带来的感觉反馈,可能比遥控器更精准。
- 完整系统约三万多美元、二十多万元人民币;如果自行制作,还可以进一步降低成本。
13. Gato 过早提出了“一模型统管所有模态”
- DeepMind 2022 年的 Gato 试图用同一个 Transformer 处理视觉、语言对话、VQA 和机器人控制,是“generalist agent”的早期雏形。
- 模型方法极其直接:把不同模态一并输入统一 Transformer。由于当时连 ChatGPT 都尚未出现,各任务只能做相对简单的 demo,性能也不突出。
- 张小珺当时觉得这项工作有点“硬怼”,陈建宇说自己当时也有同样怀疑:只要不断增加模型参数和数据,真能做出 generalist 吗?ChatGPT 出现后,他对这条路线的判断发生了明显变化。
- Gato 的价值因而不在当时指标,而在它提前提出终局问题;团队随后收缩到机器人领域,把统一 Transformer 演进成 RT-1。
14. RT-1 用工程化数据把机器人 Transformer 推到实用边缘
- RT-1 专注机器人控制,前端处理图像和语言,主体仍是 attention 架构,最终直接输出 action,构成端到端 VLA。
- Google 与 DeepMind 用 13 台机器人历时 17 个月,收集 130K episodes、覆盖 700 个任务;在见过的任务上成功率接近 100%。
- 对未见任务,RT-1 仍达到约 75% 成功率。任务主体以抓取为主,并不复杂,但它展示了大规模机器人数据带来的泛化。
- 陈建宇对“机器人 Transformer 与大语言模型 Transformer 有何区别”的回答是:底层 attention 没有本质不同,差异主要在视觉编码、动作输出和完整网络架构。
15. 数据多样性比重复堆量更能决定泛化
- RT-1 给出的重要经验被陈建宇概括为:对机器人数据来说,diversity 比 size 更重要。
- 多样性包括不同任务、不同物体、不同位置和不同状态,而不是对同一任务、同一物体、同一摆放重复演示很多遍。
- 自动驾驶的 expert driver 数据说明了同一问题:正常司机大量时间都开在道路中间,真正决定安全性的危急状态与 corner case 却极少。
- 因此模型架构决定能力上限,数据质量、数据量和数据分布都会影响实际 performance;不经过筛选和设计的数据,可能大部分都是趋同样本。
16. Octo 与 CrossFormer 开始共享大脑、保留不同小脑
- Octo 可视为开源版 RT-1:图像与语言分别编码后进入 Transformer,并允许下游 fine-tuning 时更换 action space,以适配末端位姿或关节角等控制方式。
- CrossFormer 进一步追求 cross-embodiment learning,让机械臂、双臂、轮式机器人、四足乃至飞行器共享主体模型。
- 它没有强行统一所有输出,而为不同本体配置不同 action head;张小珺将其概括为“共用一个大脑,但是有不同的小脑”,陈建宇认可这一比喻。
- 实验中,多本体共同训练在部分任务上优于单一本体单独训练,说明不同任务和本体之间存在可迁移的共性,数据能跨身体相互增益。
17. GR-1 和 GR-2 把“预测未来”加入 VLA 训练目标
- 字节团队的 GR-1 先在视频上预训练:输入当前图像与语言描述,输出未来某个时刻的图像;再加入机器人 action 数据 fine-tune,使模型能够输出机器人动作。
- 陈建宇解释其机制:“能做预测代表着你对这个物理世界的时序关系有一个理解。”张小珺以开车时预测小孩是否会冲出、担心桌边陶瓷杯掉落为例,陈建宇对此表示认同;预测会反过来改善决策。
- GR-2 没有改变基本路线,而是扩大模型和训练数据;实验显示参数越大,训练 loss 越低,success rate 越高,给出了较直接的 scaling 迹象。
- 这条路线仍从头训练机器人 Transformer,但多出的未来图像 supervision,使模型不再只问“下一步动什么”,还学习“这样动之后世界会怎样”。
18. PaLM-E 带来推理能力,却仍是分层系统
- 很多 VLM 都建立在预训练语言模型之上;与从头训练相比,它们能够利用更强的语言理解、视觉语义和互联网知识。
- Google 的 PaLM-E 以 PaLM 和视觉编码器组成具身多模态语言模型,当时参数达到 562B,可根据机器人视角回答问题并规划较长任务。
- 例如把不同颜色积木归入对应角落,模型要理解颜色、空间中的“角”与归类逻辑;这类推理是纯机器人 Transformer 较难仅靠有限演示学到的。
- 但 PaLM-E 本身输出的仍是语言规划,再调用 RT-1 或其他 controller 执行动作;VLM 与控制器没有端到端串起来训练,因此仍是分层架构。
19. RT-2 把互联网常识直接落到机器人动作上
- RT-2 被陈建宇视为最有代表性的 VLA 开山工作之一:它把 RT-1 的控制能力合入 VLM,使一个模型从 vision、language 直接输出 action。
- 模型仍输出 token,但这些 token 被映射为夹爪位置等机器人动作;训练时把 RT-1 机器人数据与原 VLM 数据共同 fine-tune,避免只学 action 后削弱原有视觉语言能力。
- 因此机器人能执行“把香蕉放到德国”“把可乐罐放到 Taylor Swift 上”之类指令,识别国旗、人物或球队,而这些对象可能并未出现在机器人演示数据中。
- 见过任务上,RT-1 已接近饱和;RT-2 的优势主要体现在 unseen 场景,因为预训练 VLM 把互联网知识与机器人动作连接起来。
20. RT-X 证明跨实验室数据能增益,但质量仍是硬约束
- Open X-Embodiment/RT-X 汇集约 60 个数据集,由大约 60 个实验室贡献多种 skill 和 embodiment;其中有实验室原有数据,也有为该工作新收集的数据,Google 还开源了 RT-1、RT-2 工作所用的数据。
- 该数据集开源后成为训练 VLA 的常用数据集;大量作者共同参与,本质是在为学术界建立可复用的机器人数据底座。
- 局限同样明确:本体虽不同,却大多仍是机械臂加夹爪;各实验室直接提供的数据采集标准不一,整体质量并不算高。
- 即便如此,RT-2-X 在多数据集联合训练后仍优于单一数据集训练,再次出现通用模型反而改善专用任务的初步证据。
21. OpenVLA 把 RT-2 路线真正交给开源社区
- Google 没有开源 RT-2;OpenVLA 因而被陈建宇概括为“开源版 RT-2”,同样以 VLM 为 backbone,直接预测机器人动作。
- 其模型主体和训练方式都开源,团队进行了较好的模型调优;它与 RT-1、RT-2 做了对比,在一些指标上优于原始 RT-2,并达到 SOTA performance,降低了复现和下游改造门槛。
22. 纯 VLM 路线卡在动作频率和动作表达
- 陈建宇团队复现 RT-2 后认为,VLM 虽有知识和推理,却缺少对 action 这一层的专门处理;把连续控制表示成 token,并不等于已经完成了专门的动作建模。
- 更现实的限制是速度:RT-2 基本只有 1—3 Hz,即每秒输出一至三次动作,对动态跟踪、精细接触和稳定闭环都太慢。
- 团队提出 HRT:低频大 VLM 提供语义与 latent,高频、几十 M 参数的 action policy 专门处理动作,并直接接收视觉反馈。
- 该方法保持了与 RT-2 类似甚至略好的 success rate,同时保持更高的推理速度;在人为移动目标物体时,高频 action policy 能更及时追踪并完成抓取。
23. Helix、π0 与 GR00T 共同强化了 action 模块
- Figure 发布的 Helix 采用 System 1 与 System 2 的组合:上层是预训练 VLM,下层约 80M 参数的 Transformer 负责 action,并以不同频率运行。
- PI 的 π0 同样在 VLM 后加入 action expert,只是动作模块采用 diffusion/flow matching;它未采用相同的分频方式,但叠衣服、从洗衣机取衣等演示表现精细。
- NVIDIA GR00T 也在 VLM 后配置 Diffusion Transformer,并加入 action encoder、decoder,对动作进行更细致建模,同时利用仿真自动生成数据做增强。
- 陈建宇据此看到一个趋同方向:VLM 负责理解与推理,专门的小模型处理高频连续动作,而不是让单一语言解码器包办所有控制。
24. Diffusion Policy 把动作轨迹当作生成问题
- Diffusion 通过逐步加噪、去噪学习生成分布;它是一种训练与生成方法,内部去噪网络仍可采用 CNN 或 Transformer,不能简单与 Transformer 二选一。
- Diffusion Policy 把图像生成的思路迁移到机器人 action sequence:以当前观测为条件,逐步生成未来动作轨迹,再以类似 MPC 的滚动方式执行最近动作。
- 它特别适合复杂、长时序、精细的任务,例如把梯形物体放到指定位置,或在目标不断被人移动时,持续把酱均匀抹在 pancake 上。
- 这类模型可以很小,也没有语言能力,却说明连续动作本身值得被专门生成和建模,而非只是 VLM 输出端的附属数字。
25. RDT 把 Diffusion Policy 扩展到约 1B 参数
- 清华朱军老师团队的 RDT 将 Diffusion Policy scale 到约 1B 参数,在约 1 million 的数据上预训练,其中大量使用 Open X-Embodiment 数据,再以自有数据 fine-tune。
- 图像和语言分别编码后进入 Diffusion Transformer,通过反复去噪生成动作;它仍是 vision、language 输入、action 输出的端到端 VLA。
- RDT 还提出 unified action space:用一个较长向量的不同区段分别承载单臂、双臂、轮式等本体的动作。
- 陈建宇对此保留意见:未来本体种类难以预先穷举,统一向量可能越来越长甚至不够用;共享大脑、为新本体增加小 action head,或许更灵活。
26. 联合预测与行动让 VLA 内部长出世界模型
- 陈建宇团队的 Prediction with Action 将 diffusion 的两种能力合并:一边生成 action,一边生成采取动作后未来世界的变化。
- 模型可输入图像、语言、机器人状态、深度或触觉,输出则可同时包含动作、未来图像、未来深度,乃至“未来我能摸到什么”的触觉预测。
- 其核心是 joint distribution、joint denoising:不是外挂一个独立世界模型,而是在统一 Diffusion Transformer 中联合训练预测与控制。
- 在 unseen 物体更多、任务更难的测试中,联合预测模型优势更明显;团队也观察到参数增大时 success rate 提升。
27. 世界预测有效,但模型仍会合理地“猜错”
- 开冰箱任务中,模型能预测门如何打开,并预测门后可能出现的内容;生成结果带有 AI 痕迹,却基本符合物理运动关系。
- 一个被遮挡物体的案例更能说明边界:模型预测遮挡后是梨,真实是香蕉。具体物体猜错,但机器人移动、夹爪闭合和物体显现的关系仍合理。
- 除 RGB 视频外,模型还能预测深度图。陈建宇将其称为融入 VLA 的 world model:给定 action,表达 environment 接下来如何转变。
28. 预训练视频模型让复杂工具使用更快被学会
- 第一代联合模型从机器人数据 from scratch 训练;续作 Video Prediction Policy 则利用在大规模视频上预训练好的生成模型,复用其视觉与物理知识。
- 团队先把视频模型 fine-tune 到机器人 domain,使其理解机器人指令与场景,再通过 latent 和 cross-attention 与 Diffusion Policy 深度融合。
- 零样本面对“用勺子把红色液体舀到蓝色碗里”,模型知道勺子是什么,并知道应先抓住勺子再舀取液体;实际成功率不高,但少量任务数据 fine-tune 后很快稳定。
- 同一架构还学习了灵巧手拿锤子敲钉子、拿螺钉枪并按开关后打螺钉,跨过常见 pick-and-place,进入多步工具使用。
29. 理解、预测与行动正在走向一个统一模型
- 陈建宇团队进一步提出 UP-VLA,把 VLM 的 understanding、视频模型的 prediction 与机器人 action 放入同一架构联合训练。
- 同一模型既能描述当前图像、回答 VQA,也能预测执行某项任务后未来几秒发生什么,并直接执行动作。
- 这在目标上接近 Gato,但基础条件已经变化:现在可利用预训练语言模型、VLM 和生成模型,不再只能从头训练一个基础 Transformer。
30. 强化学习可能突破模仿学习上限,但直接 PPO 并不奏效
- 此前大部分 VLA 都是 supervised learning 或 imitation learning;陈建宇类比 RLHF,认为机器人在 SFT 达到瓶颈后,也需要强化学习继续提升。
- 团队实验中,纯模仿策略在部分任务不足 50 分,经过专门处理的强化学习可持续提高,甚至接近 100 分,unseen 任务上的改善尤其明显。
- 但标准 PPO 直接训练整套 VLA 可能“越训越差”。可行的折中是先冻结 VLM,只用 RL 训练 action head,再保存成功 trajectory。
- 第二步解冻 VLM,用成功轨迹做 supervised training,让改进间接传回大模型。陈建宇承认这仍非终局,理想状态是 RL 真正端到端训练全模型。
31. 陈建宇的路径从硬件、MPC 一路转向端到端学习
- 他本科就读清华精密仪器系,机械、电子、控制、嵌入式都学,本科毕设已做双足机器人步态规划;所在院系二十多年前便开始双足机器人研究。
- Berkeley 博士阶段跟随一位日本老师,先研究 mechanical system control,并在前两年集中做 MPC 与优化器。
- AlphaGo 出现后,他转向强化学习和 robot learning;此前 deep learning 已进入视觉,却尚未真正进入机器人控制,这成为他研究方向变化的节点。
- 他从约 2017—2018 年便探索强化学习端到端自动驾驶,但当时技术基础不足,研究主要基于仿真等环境;真实车辆端到端上车是更晚的事情。
32. 端到端方法让复杂机器人系统反而更简洁
- 传统机器人 pipeline 要拆成感知、认知、预测、决策、规划、控制等多个子系统;子系统越多,耦合越复杂,也越难分析。
- 对控制背景的陈建宇而言,统一网络不是额外负担,反而是更简洁的系统:“如果是一套系统,是一个端到端网络,我反而更开心。”
- 星动纪元不只做“大脑”,也做人形本体、双足、双手、强化学习运动控制这个“小脑”,以及关节、电机、灵巧手等核心部件。
- 全栈并非单纯追求自研率,而是现实供应链尚不成熟,市场买不到满意部件;软硬件同步迭代,才能围绕最终任务处理彼此耦合。
33. 从无人车转向机器人,是在更大且未定型的产业里下注
- 陈建宇 2015 年赴美读博时恰逢上一轮无人车兴起,博士课题主体也与无人车有关;到 2020 年毕业时,他判断无人车产业的很多格局已经形成。
- 他选择机器人,是因为机器人在模型上最终也会涵盖自动驾驶:同一具身模型可以控制车辆、机械臂或人形机器人,而动力学建模也存在统一形式。
- 回国的考虑包括不想进入大厂、希望更自由地做研究,中美环境变化与 2020 年疫情也强化了倾向;拿到清华机会后,他选择回国任教。
- 创业则源于“不想等”:高校能探索技术,却难以覆盖制造、产品、销售与商业化;看到特斯拉、小米在 2022 年发布机器人后,他也担心小实验室难与大型公司长期赛跑。
34. 商业化从 to A 起步,再沿技术成熟度走向 to B 和 to C
- 星动纪元将市场分为 to A、to B、to C,其中 A 指 academia:新品类导入期最先购买的,是高校、企业研究者、极客技术用户,以及探索新应用的创业公司和大厂。
- 灵巧手已开始批量销售,客户包括国内外高校与企业,陈建宇称这部分“商业闭环已经转起来了”;但产品仍会继续迭代,行业技术尚未收敛。
- to B 阶段,公司与制造、服务场景方共同提供场景、部分数据和商业认知,把能力做成满足具体要求的产品;部分合作已经启动。
- 家庭 to C 被放在后面,因为家庭环境对泛化要求最高。机器人终局虽比语言模型更难,B 端却只要求在部分特定动作上达到人类水平,因此可以更早落地。
35. 场景定制是上一代逻辑,通用能力才是新周期的主线
- 对“是否应根据场景定义机器人”,陈建宇的回答是:“那个是上一代。”这种方法不能说完全失败,但至少已经证明无法 scale。
- 新路线不是拒绝具体场景,而是让更通用的模型和本体在不同场景复用,再进行相应适配。
- 他也不主张等技术彻底完成才商业化:商业场景能提供数据和反馈,模型每次能力提升又会扩大可服务任务,两者应形成闭环。
- 学校与公司因而分工:公司负责工程化架构、产品和商业闭环;学生更多做前沿 AI 探索,同时使用公司的硬件、基础设施与部分数据。
36. Scaling law 已有迹象,但“啊哈时刻”仍未出现
- 陈建宇看到的证据包括:RT 系列的多样性收益、跨本体联合训练、GR-2 以及团队工作中参数增大带来的 loss 下降和 success rate 上升。
- 但他坚持只称其为“迹象”,没有宣告机器人 scaling law 已被完全证实;更没有出现类似语言模型让所有人直观改观的强烈“啊哈时刻”。
- 即便如此,行业已找到一种能持续提高机器人能力的方式。他预计未来几年,“每一年、每一个月”能力都会继续上升。
- 这意味着商业机会无需等到终极 AGI:工业机械臂几乎没有智能,也能实现万台级出货;新能力每上一个台阶,都可能解锁一批应用。
37. 机器人会在终局之前“沿途下蛋”
- 张小珺概括其下注方式是相信模型能力持续提升,再“沿途下产品的蛋”;陈建宇认同,并认为机器人沿途解锁应用可能比语言模型更顺。
- 语言产品通常要接近人的语言水平才真正有用,早期弱模型很难替代工作;机器人却只需在某个被拆细的工序上达到人的动作水平。
- 完全通用机器人当然更难:它不仅要动作泛化,还要具备人的视觉、语言和思维能力,并在开放物理世界中应对任意情况。
- 陈建宇给出的五年愿景因此不是“每家几台”,而是“经常去哪儿都能看到一台机器人,有的家庭也开始有”;这是他认为非常有希望达到的遍布程度。