先锋 趋势 方法 投研 作者
150. 对英伟达研究副总裁刘洺堉的4小时访谈:Cosmos 3、世界模型、武术、黄仁勋影响我的,和你不需要击败所有对手
返回节目精读

150. 对英伟达研究副总裁刘洺堉的4小时访谈:Cosmos 3、世界模型、武术、黄仁勋影响我的,和你不需要击败所有对手

摘要

  • 刘洺堉的核心判断是大模型能力终将逐渐收敛:「一家公司掌握所有科技、其他公司都追不上,这从来没有在世界上发生过,我不觉得AI会是一个例外。」 人才会流动、know-how会扩散,收敛之后拼的是与生态和产品的整合——这也是英伟达开源Cosmos的底层逻辑:不只追求SOTA,而是帮助建在自家GPU生态上的公司成功。「模型竞争不应该是一场鱿鱼游戏。」
  • Cosmos 3把language、video、audio、action统一进一个omni世界模型,action被当作first class citizen,这是物理世界模型与数字世界模型的重要差异。 团队从曾规划的22个模型收敛到一个(黄仁勋用LV减少SKU反而提升销售的故事点醒他),已用上「万卡级」GPU,这支团队每天可能产生几百万美元的运算和存储成本;黄仁勋的指令是「你就做到Cosmos九十七」——数字随口说,决心是真的。
  • 他给出了明确的行业预测:「ChatGPT moment for physical AI is coming」,也许今年、也许明年,但必然发生。 标志性画面是泛化:人示范一次操作、机器就能学会;人形机器人会是重要方向,但轮式或半人形方案也能解决很多问题,关键仍是运营成本;DeepMind谭杰预测2035—2036年是人形拐点,他希望更早。
  • 英伟达的打法是「造市场」而非存量竞争:黄仁勋偏好从零开始、成功后达到十亿美元规模的生意;年入一亿美元的生意「对英伟达是个distraction」。 家家户户若有机器人,「我家可能会买两三个」,每个节点都要算力;风险观照进CUDA先例——当年等于赔本在卖,「你不做这件事情更加risky,不做,你的东西就渐渐变commodity」。
  • DALL·E和Sora是他职业生涯中两次促使自省的时刻:「我才理解到我的野心不够大,我不够勇敢」——尽管他十年前的job talk就预言deep learning将取代传统graphics生成影像。 DALL·E后他写信向黄仁勋要来一千张A100;Sora由曾在他组实习的Tim Brooks后来参与做出,他的自省是「哪些地方我没有看对,导致没有在正确的时期做出正确的事情」。对于主持人所说OpenAI基本收掉Sora产品线,他解释为:Anthropic在coding agent上的token经济效应带来压力,OpenAI因此重新分配资源,「备多则利寡」。
  • 黄仁勋的管理细节密度极高:每天说公司只剩三十天现金流、不轻易裁员、不末位淘汰、不喜欢赛马(疫情时考虑削减travel、Slack和部分cloud开支)、top-five邮件让微小讯号扩散、「mission is the boss」的有机体组织。 对他个人最深的一课是被当面质问「Are you a crybaby?这世界上没有什么是公平的」——「我后来就不再找理由了」;以及「torture you to greatness」式的信任加考验。
  • 对中国的观察偏多头:DeepSeek「一年迭代三次做出V3」直接塑造了Cosmos的迭代方法论;中国公司大量招实习生促进知识扩散,与美国frontier labs较少招收实习生形成对照;机器人本体加制造业的垂直整合「可以做一些在美国不容易做到的事情」。 对2026年的判断来自访谈中的上市话题:刘洺堉说「2026年会是巨变的一年」,同时强调科技不会停在这里。
  • 他的个人哲学完成了从highly competitive到「low ego即confidence」的转变:「具备number one的能力,但是做出对这个世界贡献最大的事情。」 做最强模型只给少数人用、让权力过度集中「不见得是一件对的事情」;给年轻研究员的话只有三个字加一句:「不要紧张——现在进入physical AI是好时机。」

精读

1. 开场定位:GSD式的研究副总裁与两三百人的Cosmos军团

  • 张小珺的开场白值得保留:英伟达内部人说刘洺堉「不像一个典型的研究者,更像是一个工程上的领导者」,黄仁勋给他的评价是GSD——Getting Shit Done。他现任研究副总裁兼Cosmos Lab副总裁,只属于他这边的团队八九十人,整个Cosmos项目两三百人,是「英伟达里面很重大的一个项目」。
  • 他每年来中国二到三次:「公司给我的任务、我个人的兴趣在机器狗AI,中国这里发展非常蓬勃。」这次的观察:灵巧手在关键科技上不断突破,「速度非常快,每次都能学到很多东西」。
  • 今年年初的组织变化:他离开Research体系(原汇报首席科学家Bill Dally),改向Dwight Diercks汇报——英伟达第一位软件工程师、黄仁勋传记里有其故事的人物;原Deep Imagination Research团队改名Cosmos Lab,「到了一个一定要成功的阶段,所需的资源更加庞大」。

2. 十年前的job talk:deep learning终将取代传统graphics

  • 他加入英伟达时的推销论点,在电影特效还靠传统graphics pipeline的年代显得激进:「有一天,主要的视频生成运算将会是deep learning,而不会是传统的computer graphics」——甚至可以「把小说当成input放进去,产出电影」。
  • 那时英伟达「并不是一个大家都认可的AI公司」,研究院也没有人在做这类应用端科研;他是较早在英伟达把生成方向立起来的人,较早提出unpaired image translation——利用information bottleneck,在没有对应input-output的条件下学会「马变斑马」。

3. GauGAN全史:马良神笔、被砍的keynote与第一次面向大众

  • GauGAN(中文译「马良神笔」):像小画家一样涂色、每个颜色代表一个语义,涂一涂变成山水画——让英伟达建立起「不只可以做出很好的GPU,也可以做出很好的AI模型」的形象。合作者包括实习生Taesung Park、Zhu Jun-Yan和Wang Ting-Chun。
  • 算法本身名为AdaIN(adaptive instance normalization)。黄仁勋看demo很兴奋,但嫌AdaIN「不是用户语言」;paper投了CVPR,被要求暂不上arXiv,留给2019年GTC;marketing genius Greg Estes取名GauGAN(高更)——画家与画画应用形成了直观联系。
  • 原本计划在GTC keynote上宣布,最后因产品太多,临时改为发新闻稿并向媒体单独demo——媒体看完后,反而认为它是GTC最受瞩目的工作之一。线上app的用户反馈让他意识到「我能影响的不只是读我paper的研究员」,从此走向应用。

4. DALL·E的当头棒喝:「我的野心不够大」,一封信要来一千张A100

  • OpenAI发布DALL·E那一刻的自白毫不修饰:「我才理解到我的野心不够大,我不够勇敢,没有下定决心把这个东西做出来」——而且身处算力最多的地方。「我并没有意识到,当算力和数据足够的时候,其实已经具备这个条件了。」
  • 行动是写信给黄仁勋:「未来已经很明确了,就是靠deep learning来做影像生成,英伟达不能落后」——要来一千张A100,「那时候非常多,把一千张GPU串在一起做高效训练也不容易」。
  • 他同时写信给Getty Images寻求合作,后来形成数据、算力和text-to-image模型的合作方案。

5. Picasso与Getty:研究第一次长成帮客户成功的产品

  • 他与Getty Images、Shutterstock合作,项目名为Picasso,定位是AI服务:帮有数据、有客户但没有AI人才和infrastructure的公司做generative AI模型,「再把模型交给他们,让他们去服务自己的客户,彼此一起获利」。
  • 转折意义在于身份:「我的research不只是产生一个模型、不只是产生一篇论文,也产生了一个可以帮助客户成功的产品。」后来因Cosmos分身乏术收起Picasso,并帮客户找到能继续支持他们的科技公司。

6. Sora出自旧部:开心、自省与OpenAI为何重新分配资源

  • 余佳辉(现在Meta)、Tim Brooks都曾在他组里实习;Tim Brooks实习时「就一直想做video生成、想做后来Sora的东西」,但当时技术还不成熟。毕业后他没能把Tim留下,Tim去了OpenAI并参与做出Sora。Sora发布后他「非常开心」,同时反复自省:「到底我的决策、判断过程中哪些地方没有看对,导致没有在正确的时期做出正确的事情?」
  • 对主持人所说OpenAI基本收掉Sora产品线的解读:Sam Altman有投资者式的portfolio心态,但过去一年OpenAI受到Anthropic在coding agent上「巨大经济效应」的压力——聊天可能一分钟就生成完,coding agent却能工作24、48小时,产生大量token——于是集中资源,「孙子兵法讲的备多则利寡」。他不认为这代表Sora不是好work,只是公司在这个时间点有更重要的事情。

7. 平台公司为什么自己做研究:芯片周期长,要先替客户走一遍路

  • 张小珺的问题尖锐:基础设施公司卖卡给前沿实验室就好,为什么自己做研究?他的答案落在周期:「设计芯片、设计电脑架构的周期很长,你不能说我现在马上改」——必须自己走客户可能走的路,才能设计出满足AI大公司的芯片和infrastructure。
  • 更深一层是信念:「这世界上如果每个有抱负、有理想的人都有工具,可以做出他们想做的事情,这世界会是一个更好的世界。」

8. 开源的逻辑:不是竞争,是给生态一个可预期的信号

  • 开源模型免费放在网上,但真正落地「还有很多东西要做,尤其具身领域,有很多硬件问题、商业问题要解决」。开源是承诺信号:看到英伟达从一代、二代、二点五代到三代一路投资,「大家有这个信心,就可以把资源投在更重要的地方」。
  • 与客户竞争吗?「具身这么难、这么多东西要解,我们做这些模型帮他们分担部分压力——我不觉得是在竞争,我觉得是在帮助大家成功。」

9. 为什么押具身而不是LLM,以及Jensen的十亿美元标准

  • 不做LLM的理由很诚实:LLM当时已发展得很好、他是computer vision出身、英伟达已有强大的LLM团队,「我在那里没有太多贡献」。Sora方向偏创作,而他们看到physical AI的刚需:老人失去mobility、危险的劳力密集工作、家务琐事——世界模型可以对physical AI产生贡献。
  • Jensen喜欢「十亿美元级别的business」;在访谈后段,刘洺堉又用「zero-billion-dollar business」描述从当前还不存在的生意做成十亿美元生意。可以不马上赚钱,但成功时必须巨大且有影响力。「每年赚一亿美元对很多公司很大了,但对英伟达是个distraction。」难处是英伟达不是solution公司,「有点像隔靴搔痒,不了解客户就没办法最佳化」——这也是他常来中国的原因。

10. 台北少年的转轨:从无线通信到Intel实习撞见computer vision

  • 成长线:台北长大、高中最热门的科技是无线通信(Nokia巨大手机的时代),去新竹交通大学读无线通信;大三对照美国博士班的研究后动摇——自己在算「怎么设计protocol让传输更快」是提升而非从零到一,「美国高等学府每个成功似乎都是一个从零到一的变化」。决定留学时父母「吓一跳,认识我二十多年没听过我讲要去美国留学」。
  • 赴美前在台湾Intel待了一年,认识做图像识别的朋友——第一次接触AI,「从pixel里判断是什么东西,很神奇」。本来申请去学量子通信,到马里兰大学后发现computer vision更有趣,拜入领域先锋Rama Chellappa门下,第一个题目是从视频里的走路姿态判断一个人是谁。

11. 传统CV年代的馈赠:什么都不work,所以什么都要学

  • 「传统计算机视觉时期什么都不work,所以什么都要学」:SVM、连续与离散优化、graphical model、energy minimization、3D calibration——「算是很扎实」。毕业那年AlexNet出来「改变了整个世界」,过去所学开始与未来divergence,但他不失落:「因为什么都不work,我已经养成什么都学的习惯。」
  • 博士最后一年他当大师兄,组织师弟妹研究deep learning,有师弟说「这东西只有几个人会,没有必要去研究」——「我没有理他,继续办研讨会。」

12. MERL与生成的起点:If I cannot create, I cannot understand

  • 第一份工作在三菱电机研究院(MERL,Cambridge,MIT旁)——九十年代与微软研究院「一争雌雄」的机构,MIT有不少教授曾在那里做过研究,包括Bill Freeman。研究风气自由,他在那里自学deep learning;后来看到Ian Goodfellow关于GAN的工作,开始在生成方向投入大量时间——最早一批做生成的研究员,「只要能生成32×32像素的脸、看起来不像鬼,就觉得自己很成功了」。
  • 为什么生成即理解:他引Feynman——「If I cannot create, I cannot understand」;判别式模型可以分辨A还是B,生成式模型还包含重建、描述等信号,「当你可以描述清楚的时候,大家认为你更加理解这个东西」。导师Chellappa相信Bayesian,也相信应该把generative放进understanding里,埋下了种子。

13. 三个研究lesson:数学之美的陷阱、一百分讲十分、n²沟通

  • Lesson一:早期迷恋漂亮数学——为证明bound(答案离最佳解差10%、20%)不断做假设,「假设让数学变得干净,也让你离现实比较远。AI本身就是应用,我越来越喜欢接近问题的本质,不被花俏的数学迷惑」。
  • Lesson二是表达:「我自己做一百分,但是我的解释只有十分,所以别人看到只有十分」——从此把「让一般人懂你做了什么」当成研究的一部分。
  • Lesson三是协作的复杂度:人与人沟通是N²,「不容易scale」。要做出巨大贡献,需要大家团结合作,也必须把事情讲得非常明确,让目标一致。

14. GAN谱系与「text最难」:从CoGAN爬到文字的阶梯

  • 起点是CoGAN(他唯一非英伟达时期的GAN工作):两个生成网络couple在一起形成information bottleneck,逼网络找到马与斑马的共同本质,实现无配对转换。控制讯号的难度阶梯:image、edge、segmentation、class,最后才是text——「text的structure跟image最不一样,所以最难学、需要更多数据」。他从易到难爬,这也解释了DALL·E为何刺痛他:「因为没有去做,所以做不出来。」
  • 早期参加NeurIPS时,他和朋友讨论:如果AI要突破,第一个可能是language——「影像讯号杂讯太多,离知识的本质比较远;text已经很纯净、接近symbol」。他明知如此仍留守视觉:「我就是比较喜欢这种视觉讯号。」

15. Scale GAN的失败实验:余佳辉、Jeremy Bernstein与转向diffusion

  • 他的选择信条早于bitter lesson流行:「做选择的时候要找更加scalable的。」GAN难训练让他长期担心——余佳辉实习时做了很多惊人的实验:每个GPU放一个weight不同的discriminator,「好像很多人同时跟生成网络对抗」;Jeremy Bernstein研究如何让GAN训练更稳定,后来发展出Muon optimizer。「每个结果都走向同一个结论:GAN不scalable。」
  • 2021年的转向残酷而干脆:团队本是为GAN而聚,「那一年我就跟大家讲不能做GAN了」——diffusion「极其稳定」,转做Edify系列(image、3D、video)。他坦承自己不是早期接触Transformer的人,后来研究人员才逐渐把Transformer带入生成方向。

16. 范式更替的心态:越变越简单,重剑无锋大巧不工

  • 三次范式转换(传统CV→GAN→diffusion)后的体会:「我发觉事情越变越简单了……渐渐理解到,原来这就是事情的本质。」Cosmos也是从数个模型统一成一个。
  • 会不会觉得白做了?「每一个方向我都花了五到十年。不能说那是错误的——那时候的算力、那时候的数据,做那些事情是合理的,那时候学的东西对我现在的理解很有帮助。」
  • 现在的状态像「重剑无锋,大巧不工」:扎实地一步一步把基础做好,把东西写出来。

17. 实习生与idea流动论:研究的茂盛程度怎么衡量

  • 他的签名式比喻:「经济的茂盛程度是根据钱多快从一个人的口袋流到另外一个口袋,那研究的茂盛程度应该是根据idea多快从一个人的脑袋流到另外一个人的脑袋。」在业界如果每天只和固定同事交流,idea的diversity可能变低,所以英伟达招收不同背景的实习生保持交流。
  • 姿态是真诚的:「我很多实习生都比我优秀,我觉得这是一件非常开心的事情。」

18. 加入英伟达:这么缺GPU,为什么不去生产GPU的地方

  • 触发有二:MERL重算法、不太重视算力,他常常向manager要求购买GPU;长期mentor Oncel Tuzel(音译)离职去苹果做自动驾驶,「把我留在三菱电机的主要原因没有了」。逻辑很first principles:CoGAN这类unsupervised方法不需要标注,「最重要的就是算力跟数据。数据不需要标注,那我就去有算力的地方——为什么不加入一个生产GPU的公司?」
  • 父亲不解:「苹果不错、谷歌不错,你为什么要加入这个英伟达?」——当时英伟达还不知名。彩蛋是MERL的manager退休后才坦白:每次刘洺堉争取GPU经费成功,对方就买英伟达股票。

19. 早年研究院与Tero Karras:一年只写一篇paper的压强

  • 他加入时NVIDIA Research不到一百人,大部分做graphics。在Monterey附近的年度offsite初见Tero Karras、Timo Aila等研究员,对方想解决GAN问题,他心想「可能还不知道这个问题有多难」——结果StyleGAN从一到三不断突破,「他们有点低估了难度,但他们做到了」。
  • 从Karras身上学到的与多产路线相反:别人一年写二十篇、四十篇paper,「Tero每年只想写一篇,把所有精力投注在同一个idea,越钻越细,钻到问题的本质,产生重大贡献——压强更大。stay focused这件事情我从他身上学到很多」。

20. MERL的历史教训:blue-sky research的周期律

  • 90年代辉煌的MERL后来变了:公司开始怀疑blue-sky research对公司的影响,「很多重要的学者陆续被裁掉或离开」——有人去了微软,有人去学校当教授,也有人去了工业界。留下的人仍然做类似研究,但更难解释与公司的发展方向相关;与相机、工业相机、机械臂相关的研究则更容易获得支持。
  • 「我很幸运在职业早期就看到这个过程」:Google、Meta也有类似周期——上行期给研究人员很大自由度,收缩期则保留与公司方向更相关的人。
  • 所以他在英伟达从早期就主动对齐:「deep learning非常花钱,你更加要注重解释为什么这对公司是一个重要的投资。」blue-sky research与公司利益也可以align。

21. 模型收敛论:一家通吃「不是一个稳定的社会状态」

  • 他对scaling信仰的保留:「有时这个月某个模型比较好,下个月换成另一个模型比较好,再下个月又有新的模型追上来」,加上中国多家公司不断突破,「大模型能力会越来越接近,纯粹靠模型是不够的」。对「exponential growth、不投就miss out」的推销话术,他用历史反驳:「从来没有一家公司掌握所有科技、其他公司都追不上,这从来没有在世界上发生过。我不觉得AI会是一个例外——这本身就不是一个稳定的社会状态。」人才会流动,know-how自然扩散。
  • 收敛之后拼什么?「整合——跟自己的生态、自己的产品的整合。」他举Google为例:模型与Docs、Search、Gmail等整套平台结合,反馈越多,模型越容易对公司产生贡献。
  • 他自认「运气好,早期就认为模型会收敛」,所以一直坚持模型必须与公司的其他ecosystem结合。

22. 创新者的窘境与Anthropic范本:策略是决定放弃什么

  • 给创业者的空间恰恰在巨头的盲区:英伟达对小于十亿美元的生意没兴趣,「但那里面本身就有很值得做的东西」——《创新者的窘境》描述了小公司如何进入不被看好的领域,英伟达自己也是这样起来的。
  • 「你现在开公司跟OpenAI、Anthropic做一样的事情很危险:资金没他们雄厚、没有客户、他们能把东西做便宜。要去解他们没办法解的痛点——不是不想解,是没办法justify。」
  • 范本是Anthropic:早期被认为落后OpenAI,「当OpenAI做分散式投资、鸡蛋不放在同个篮子里的时候,Anthropic做集中式投资,最早坚信coding」。至于今天中美一起挤进coding的同质化竞争:「可能是被迫的——任何人都不希望核心科技被掌握在别人手里。但我不觉得这是他们计划的全部,最终还是要差异化。」

23. 第一个从研究员做到VP的人:仍在看code、stay grounded

  • 他可能是英伟达第一个从研究员一路做到VP的人,前几年「每一年跳一级」。原因:在英伟达还没有AI人才时就在那里、又喜欢落地,信任逐步加码——如今团队每天可能产生几百万美元的运算和存储成本。
  • 管理者与研究员天性相悖(「研究员high ego,文人相轻自古皆然」),他的对策是拒绝脱钩:「我可能是少数还继续在看code的VP」,坚持review大家的代码、读paper、challenge每个人的idea,「我如果不做这些,就不理解痛点在哪里,也看不清楚谁的贡献在哪里——我希望自己一直stay grounded」。

24. 老黄方法论:first principles、prioritization与CS的懒惰

  • 早年黄仁勋常传论文让他写summary。「他当初不懂computer graphics敢做GPU,不懂deep learning敢进入AI领域」——决策靠first principles:「把事情的本质理清楚,不受外界信号干扰,看什么方向最make sense就往那边走。早期敢all in deep learning、敢all in CUDA。」认识黄之前「我的决策都偏短期,看到他怎么做长期决策、然后坚持,影响非常大」。
  • Prioritization的日常修炼:黄每天读大量email、强迫自己快速判断重要与否,执行时不带个人情感——「我真正的目标是take care整个公司。你只要留在公司里面,我就会take care you。」刘的自我改造:从「同时跑两三个project觉得好累」到「现在几乎每半个小时换一个topic」。
  • 附送一条计算机科学的人生观:「computer science最重要的一件事情就是懒惰——不用算的东西不要算,可以晚点算的晚点算。人生就这么多时间,知道什么东西不要算,你的人生运用就更有效率。」

25. 武术、冰浴与四点起床:温和印象与直接指出问题

  • 18岁起练中国功夫多年:师承徐纪,徐纪师承刘云樵,上溯「神枪」李书文的八极拳、劈挂掌。入门因金庸小说,练下去发现是自我修炼:「打出一拳的最大力量来自全身协调,把力量从脚一路传到手——要经由不断练习、不断自我修改,跟我喜欢一直自我检讨有很深的关系。」新嗜好是ice plunge。作息:四到五点起床运动,九到十点到公司开会,十到十一点睡。
  • 外界印象虽谦和,但他在公司会直接指出问题:「做久之后有点恨铁不成钢……这世界上不是每个人都愿意跟你讲什么地方可以做进一步提升。」听的人觉得正面就会感激,觉得他只是在挑剔就会觉得他很凶。

26. Cosmos 97:随口的数字,认真的决心

  • 做完Cosmos 1问黄仁勋要不要继续,得到的答复是:「你就做到Cosmos九十七。」他的解读:「数字是随口说的,但他的决心展现在这个数字上——这东西会一直往下走。」若每半年一代要四十几年,「AI发展速度极快,也许不需要四十几年」。
  • Jensen的纪律面同样重要:有些东西即使很重要,「他会叫你pace, pace your steps,让你不要急」——他擅长打马拉松战。时机方面,Sora之前要说服比较难,看到Sora之后就不难了,他一看就知道这件事对公司的影响。

27. 给机器人造黑客帝国:泛化三件套与算法智能的痛苦

  • 个人主页愿景「为机器人构建一个黑客帝国」的展开:任何AI要解决的核心都是泛化——训练数据之外也表现好。Cosmos从三处帮忙:更好的数据(生成「你需要但真实世界没采集到」的数据)、更好的起始点(理解世界、能预测未来的模型是好backbone,可衍生policy)、更好的环境(同时产生多个真实感很强的环境,让机器人交互学习更快)——「最具挑战性的就是更好的环境」。
  • 对「机器人觉醒挣脱矩阵」的哲学回应:「pain和suffering是驱动人类进步的重要因素,我不确定这些由数据和算法构成的intelligence是否有同样的pain和suffering,我心里还是存疑」;同时需要做相应guardrail,确保科技不会影响正常世界的发展。

28. 立项内幕:2024年3月、集体邮件与被逼着取名

  • 时点:大约2024年3月、Sora之后,一群做生成式模型和媒体生成的人——他、Sanja Fidler、负责NeMo团队的Bryan Catanzaro等——一起给黄仁勋写信:「必须把这件事情做出来。」会前共识已成,会议主要是具体化怎么做、谁负责,黄让他与Sanja Fidler牵头。
  • 取名插曲藏着产品课:他知道最后黄可能会想出更好的名字,想直接问,被要求自己思考——「名字跟产品的定位非常相关。叫Cosmos,目标就不是产生content、不是创作,而是解决物理世界的问题。」英伟达更偏developer market,不直接经营社交网站或创作工具。

29. 世界模型定义之争:用途决定形态,Cosmos是基座

  • 他的实用主义拆法:建世界模型的目的不同,形态就不同——预测(predict未来)、理解(工厂产线为什么卡住,可能是某个工人忘了打开设备)、重建三维世界(规划路线、虚拟游历)。「终究我们在同一个世界里面,这些模型是经由不同的观察描述同一件事情。」他现在主要做物理世界的理解和生成,也就是prediction,不再做重建。
  • 对定义之争的判断干脆:world model会重蹈AGI覆辙——「经过这么多年还是没有一个共同的定义。定义出来对人类有什么影响?我觉得不是很重要。」LLM之所以精确,是「large、language、model每个词都很明确」。Cosmos的自我定位是World Foundation Model:「我们希望是更底层的东西——哪怕他是一个要做世界模型的人,也可以基于我们的foundation来做。不是每家想做physical AI的公司都有资源从零做自己的世界模型。」

30. 没有竞争对手:与World Labs、LeCun的AMI是投资与合作

  • 英伟达同时投资了李飞飞的World Labs和杨立昆的AMI:「每家公司看到的点不一样、想解的问题不一样,我们都帮助他们,也希望他们成功。资金没有他们那么雄厚的公司更需要帮助,可以leverage我们的Cosmos。」
  • 「做Cosmos的时候我是不想竞争对手的——在英伟达ecosystem里用我们运算平台的公司成功,英伟达就会成功。我已经过了那个为了毕业发论文、算法要比别人好的时期。」
  • 给同行的话加上卖卡的调侃:「世界模型是工具,最终要解的问题只有世界模型是不够的。你用我们开源的东西做出比我们更好的模型,那个模型也是开源的,那也是好事。」别人说「英伟达又下来卖我卡了」——「你要做运算嘛,why not?最重要的是你的获利多少:cloud company买了大量GPU,但他赚了更多的钱。」

31. 从22个模型到一个:LV柜台的启示与Omni model的必然

  • Cosmos 1时期为满足各partner,他算过需要22个模型,向黄仁勋汇报,先得到一句「Very good, very hard」,再听到LV的故事:路易威登减少陈列的商品数之后销售额反而提升——「你不希望太多东西困惑你的消费者。」他承认「我自己都分不清要用A还是B」,且每个模型发布后都要维护,「备多则利寡,影响迭代速度」。
  • 统一的理论依据有二:这些模型描述的是同一个世界,学的是同一个internal representation;foundation model的核心是纳百川——把Reason、Predict、Transfer、Policy的数据合在一起,「模型的上限更高」。于是2.5收尾后走向Cosmos 3的Omni model:「一到二是数据的提升,二到三是很大的一个gap」——去年十月前后启动,做了超过半年。
  • 迭代信条direct from DeepSeek:「DeepSeek是很惊人的公司,可以在一年内迭代三次、做出DeepSeek-V3。我一直强调我们要迭代速度快,一代比一代好。」

32. Cosmos 3的「创新不多」争议与彻底开源

  • 一位中国世界模型创业者看了一周论文,评价是「大的技术创新不多,但把很多细节都工程验证出来了」。他不回避:「我们是第一个把模型scale到这么大,并把audio、video、action合在一起的。概念上合在一起容易,真正做出来不是那么容易。」所有大语言模型可能都是Transformer架构,但细节仍会让某些模型比另一些模型好。
  • 他越来越不重视是否革命性原创——「有没有用、能不能产生impact、能不能解决大家想解决的问题,才是重点」。
  • 开源到模型、训练框架和部分数据:frontier labs走向闭源、写paper也不讲关键环节,「我们决定走不一样的道路」——「能讲的东西都讲清楚」。他不担心别人做出一模一样的东西。与DeepSeek在「产生影响、把细节讲出来」的层面相通,但目标不同:「我们是希望帮助使用者成功,希望physical AI更快进入现实世界。」

33. Action是first class citizen:回应杨植麟与谢赛宁之争

  • 输入层同时收language、video、audio、action的关键判断:「大模型基本上思路有两个:让language当first class citizen(coding、chat),或让视觉讯号当first class citizen。物理世界的agent会take action、会改变这个世界的状态——一个好的物理世界foundation model要把action也当成first class citizen。」触觉想加但「touch sensor还不好」,需要等灵巧手和数据成熟。
  • 张小珺抛出两位研究者的对立:杨植麟担心vision拉低语言模型的智商,谢赛宁担心「语言对视觉的污染、语言只是人类的脚手架」。他的裁决是目的论:「video更精准地capture这个世界的物理运作,用language反而很难;但模型最后要服务人,不懂language没法沟通;不懂action没办法改变世界。我的目标不是追求AGI——也许从视觉讯号直接学出intelligence、发展出另外一个文明,从那个角度语言是干扰。看你要的是什么,我很明确地知道我要的是什么。」

34. 双塔、模态融合与「deep learning像中医」

  • 融合的证据链:Cosmos Policy发现predict action时同时predict之后的observation能帮助训练收敛(video帮action);「咔」的一声可以帮助标定接触时间(audio帮video);文字描述越详尽,video越容易生成(text帮video)。secret sauce?「做大模型没有什么secret sauce——严格的实验、控制变量、累积知识,一步一步扎实地做就对。」「deep learning就很像中医,是试出来的——在试的过程中做详细的实验记录,从里面理解中间的规律。」
  • 双塔设计(离散塔做understanding、连续塔做generation)是现阶段的实用选择:客户post-training时可以把两边的影响切开——若全连在一起,改变generation的distribution可能连带影响understanding能力。「它相对不够elegant,理想情况是让data来决定架构。下一步目标是更简单——为什么要两个塔?一个塔就够了。」Transfusion一类工作在探索统一,最终「怎样的模型最适合部署(成本)就最容易成功」。
  • 那能不能顺便在coding上赢过Claude?「备多则利寡。策略往往就关乎你决定可以放弃什么东西。」机器人不需要解奥数:「你更关注它能不能把工厂组装、家庭卫生做好。它的架构真的会跟agent模型一样吗?纵观人类历史,答案应该是不一样——耕田的工具跟纺织的工具是不一样。老祖宗的智慧还是蛮管用的。」

35. 数据、评测、万卡级算力与英伟达的产品矩阵

  • 数据策略:physical data分navigation(好收——各形体的位移加旋转是相通的)与manipulation(复杂)。趋势判断:「这个世界是为人类建造的,大部分工具适合人手操作;收集数据的又是人——所以大家往人手的方向前进。」Cosmos 3特地加入egocentric数据:人眼第一人称怎么看、人手怎么操作物件。
  • 评测三步:benchmark、arena式对比、跟真正有痛点的partner一起解题——physical AI里第三种特别重要,「coding大家解的是同一个问题,physical AI每个要解的问题都不一样。这是给模型发展指引方向的重要一步」。
  • 算力与矩阵:Cosmos已到「万卡级」GPU,「希望可以再更多」。英伟达两条模型线:Agent AI(NeMo团队的Llama Nemotron Ultra,采用部分Transformer层、部分Mamba式层的hybrid架构以降低inference成本)与Physical AI(Cosmos为base,其上自动驾驶的Alpamayo、机器人的GR00T做specialization),「内部做自动驾驶、做机器人的团队也是我的客户」。
  • 硬优势:GPU运算成本相对便宜、Thor芯片、Isaac Sim simulator;软优势:「客户愿意跟我们合作,因为我们不会做一模一样的东西把你消灭。」

36. 三百人怎么共同做决定:目标一致+人人能拍板

  • 组织难题的表述极精确:「你希望所有人目标一致,但又希望所有人可以自主做决定。」只有少数人拍板则缓慢——「假设只有我能决定data比例、决定架构,这个模型就不会成功,因为我的知识有限、时间有限」;人人拍板但目标不一致则发散,进而产生赛马。解法:信息透明加提前画愿景——Cosmos 3论文出来之前,他已向各团队描述成品的样子,「可能百分之九十相似」;「像篮球选手罚球前想象球空心落网」。还要容错:「害怕决定错误的人是不会做决定的,但错误时要能快速修正。」
  • 会议密度惊人:每周超过十次,video、understanding各定期两三次。「你可以都不开会各做各的,不见得成功;也可以一直开会什么都不做,也不会成功——要选一个均衡,因任务因时而定,没有一定的公式。」OpenAI自下而上、Anthropic自上而下,英伟达属于哪种?「都有。物极必反,天下分久必合——要在那个时间点了解什么对团队最正确,而不是一味顺着一个模式操作。」
  • 最满意与最遗憾:「我当初跟大家讲可以把过去所有模型合在一起、还比之前每个独立模型都好——很多人不相信,这件事情发生了」;遗憾是时间所限,模型还没有完全收敛就必须release,3.1、3.2会继续补上尚未完成的能力和实验。

37. ChatGPT moment、人形机器人与中美机器人对比

  • 定义辨析先行:「GPT moment是告诉大家东西可以scale;ChatGPT moment是让大家清楚看到这样的模型对人的生活会产生什么变化。」physical AI版的标志他给出了具体画面:「人简单示范一下怎么操作,机器就能直接学会;给physical AI读个说明书,它就知道怎么操作仪器——如果我看到这样的产品,那就是ChatGPT moment for physical AI。」时间:「也许今年,也许明年,我不知道,但我觉得它必然会发生。」资金流入、创业者涌入、各项条件「都逐渐在收敛当中」。
  • 人形之争:人形的优势是能利用大量人类数据;轮式底盘加半人形上身也能解决很多问题;完整人形会是重要方向,因为人类环境是为人形设计的,但关键还是运营成本,「那超乎我的专长」。
  • DeepMind谭杰预测2035—2036年是人形拐点——刘洺堉表示「我希望早一点,但我不确定」。
  • Sim-to-real也是泛化问题:「Better Environment还没有完全发生,现在比较管用的是Better Data和Better Starting Points」——抓到物理模式、能predict接下来发生什么的模型,帮你建出更容易泛化的policy。核心泛化问题是「observation对action这个pair的泛化——从有限信号学到操作,应用在没看过的场景」。
  • 中美对比:美国做本体的公司少,主要是Tesla和Figure AI;中国很多公司在做本体,「可以控制的东西更多,软硬一体的操作空间更大;中国强大的制造业让这些公司做一些在美国不容易做到的事情」。美国轻硬件是不是错的?「很难说——但如果软硬体整合是机器人的趋势,没有硬件当然处于被动状态。」

38. 英伟达文化:三十天现金流、不轻易裁员、top-five邮件与mission is the boss

  • 黄仁勋的自我鞭策成了公司仪式:「他每天都觉得公司只剩三十天的现金流,三十天后就要破产——每次开会都这样提醒自己做出对公司最正确的决定。」疫情时经济不好,英伟达考虑削减travel、研究是否可以不用Slack(「反正我们有email」),以及是否取消一个cloud以节省成本——「有些公司通过裁员降低人事开支,英伟达想的是省掉不必要的开销,照顾员工一起度过困难」。
  • 刘洺堉表示,在他在英伟达的时间里没有听到裁员消息,也没有末位淘汰;他说明这种做法的逻辑:「员工对公司有认同感、有安全感,才愿意讲出在担心被淘汰时不愿意讲的事情。在一个全部都抢出头的地方,反而不容易促成团结合作。」代价也直说:技术成熟转型时员工要时间重新学习,比直接lay off再招会的人慢——「但你得到员工的信任」。也不赛马:「你take这个mission我们就相信你,但给你很高的bar——用老黄的话讲,torture you to greatness。」
  • 两个独门机制:top-five邮件让「公司各处的微小讯号扩散出去」——两个团队是否在做一模一样的事情会自然显现;「mission is the boss」——英伟达像有机体而非固定框架,「公司要走向一个方向时,有相关技能的团队就自动align过来,Cosmos就是这样一个案例。不是你的boss是你的boss,mission is the boss」。
  • 十年回望:TPU出现时公司股价曾大幅下跌,有同事对前景产生不同想法而离职;后来英伟达在MLPerf中多次击败TPU。这些变化都很难预测。他入职时的另一个offer来自投资公司:「不管对方给你多少钱,我都给你四倍」——他还是选了做科研。对黄的形容:「六边形战士——开会可以钻到register级的细节,也可以教大家做marketing、定价、客户关系。He gives everything he has to help the company be successful。」

39. 「Are you a crybaby?」:不再找理由

  • 名场面:一次内部比较两个solution,他解释对方的setting不fair所以己方落后,黄仁勋回敬:「Are you a crybaby?这世界上没有什么是公平的。你的目标如果是解决问题,那就去拿到解决问题所需要的条件。」「西点军校讲no excuse我早听过,但他讲让我印象更深刻——我后来就不再找理由了。」
  • 他受过最惨烈的suffering不是某个事件而是常态:GPT之后「整个AI从业人员都感受到巨大的压力……每天消耗大量GPU资源和年轻人的时间,做出的成果没有达到预期,无形上都是压力」。

40. Number one哲学:具备第一的能力,做贡献最大的事

  • 从highly competitive到现在的弧线:研究员的毕业方式就是SOTA、「要击败所有的人」;「但你总是SOTA一段时间,下一个就出来了」。现在的公式:「具备number one的能力,但是做出对这个世界贡献最大的事情。你可以做出最强的模型但只给少部分人用、让权力过度集中在少部分人手里,我觉得不见得是一件对的事情。」还有一句朴素的补充:「要活得久。」
  • low ego是真实还是隐藏?「是一种confidence。我对自己做的东西要求很高,但我的目标不是击败对手,是提出更好的foundation让大家动得更快。」外部指标的祛魅:「你比论文数总有人更多、比citation总有人更多、比钱总有人更有钱——重点是你对自己的东西是不是骄傲。也许我现在care的是帮助的人够不够多。」
  • 对「S级团队vs A级团队」的回答用了游戏比喻:「不要整个团队全部都是弓箭手——要有人防御、有人补血,多元是比较好的状态。一群很聪明的人如果无法互信,大家防备着对方、都要展现我比你聪明,也很难一加一大于二。」

41. 中国观察与2026:实习生扩散知识、LLM催眠论与IPO话题

  • 中国模型「very impressive」:DeepSeek、千问、豆包、MiniMax、Kimi、MiMo一一点名。结构性观察更有意思:「美国这些frontier labs现在很少招实习生,know-how只留在内部;中国公司招很多实习生,帮助把know-how传递出去——对人类整个知识的扩散是一件好事。」
  • 「硅谷已被LLM催眠」?他不接受:「不能否认最领先的公司都是从大语言模型出发的,我现在已经不知道没有coding agent要怎么过下去。当一个东西被充分理解之后,大家会找到新的东西重新做突破——很难想象这么聪明的人一辈子只做LLM。对那些人而言,现在做LLM也许是一件很正确的事情。」
  • 在主持人提及SpaceX上市、OpenAI和Anthropic可能上市的背景下,刘洺堉说「2026年会是巨变的一年」,并谈到上市会带来新的财富与认同;但他同时强调科技不会停在这里,「一百年前强盛的公司跟现在完全不一样」。
  • 新玩家还能赶上吗?「Kimi还行,MiMo比较晚——还是有机会的。算力慢慢就会起来,有抱负、有决心、有办法挪动资源建大模型团队的人很多。」

42. 终局:模型会成为commodity、造市场不是杀死别人、CUDA的风险课

  • 终局判断自称controversial:「模型的能力慢慢就会统一,一定要靠一些其他的东西组织在一起。现在大家都会写software,活下来的software公司都有自己的区分方式——没有理由模型会不一样。我把它当成commodity了:这么多人做不同尝试,最后就是一套学问,很多人都会,关键是你要拿它干什么。」每家公司都要训自己的大模型吗?「如果是commodity,你需要建自己的电厂吗?」
  • 访谈后段主持人以Dario与Sam的关系为例追问团队是否可能分化,刘洺堉回应说每个人都可能坚信自己的模型,人员也可能流动并带走想法;数据和算力则可以通过资源获得。
  • Cosmos是不能输的战争吗?「如果有其他公司也做开源模型,那就不是。什么叫战争呢?我没有打算把别人杀死。我们的心态是怎么去造市场——现在家家户户都没有机器人,如果有,我家可能会买两三个,每个节点都需要算力。」
  • 下一个CUDA?「未来的软件核心会是AI,NeMo跟Cosmos都可能是未来的CUDA」,但他拒绝单点等号:「很多个stack合在一起可能是新的CUDA,不会说单一模型就是。」他也不认为CUDA的路径可以简单复制,关键是根据first principles和当下条件做出贡献,而不是拿着锤子找钉子。
  • 风险课来自CUDA本身:「当年做CUDA等于赔本在卖,同样的FLOPS我们价格比别人高。你不做这件事情更加risky——不做,你的东西就渐渐变commodity。」
  • 收尾留给年轻研究员与快问快答:「不要紧张。年轻研究员往往觉得会不会明年AI就结束了、AI自训练了——对自己有信心,冷静看清楚什么地方值得投入。现在进入physical AI是好时机。」他也提到AI在材料、药物、生物等领域的潜在影响。
  • 鱿鱼游戏之问的答案干脆:「如果大家想解的东西一模一样,那就是鱿鱼游戏。所以模型竞争不应该是鱿鱼游戏——这世界上要被解决的问题这么多,可以提供价值的东西这么多。」