先锋 趋势 方法 投研 作者
108: 与马毅聊智能史:“DNA是最早的大模型”,智能的本质是减熵
返回节目精读

108: 与马毅聊智能史:“DNA是最早的大模型”,智能的本质是减熵

摘要

  • 马毅把智能从“拥有知识”改写为“能从外部世界提取规律、形成预测,并自主更新知识”,因此静态的 DNA 或大模型都只是智能活动的结果。 “DNA 就是这个世界上最早的大模型”,但单条 DNA、单个物种乃至 GPT-1 到 GPT-4 都没有智能;自然选择形成物种—环境的反馈闭环,人类持续改进模型的过程也体现了智能。这个定义把行业的核心瓶颈从参数与 context 长度,转向不会遗忘、能持续纠错的个体记忆。
  • 生物智能的演进不是一味加大“预训练”,而是从物种级强化学习转向个体记忆、语言共享和数学抽象。 生命约有 30 亿年主要依赖 DNA;约 5.5 亿年前神经系统和视觉出现,约 5000 万年后发生寒武纪大爆发,个体终于能在出生后 fine-tune。鸟随父母约 3 个月、哺乳动物半年至一年、猫科两三年、猴子五六年、人类约 18 年——智能越高,反而越依赖后天学习。
  • 现有大模型仍近似“单细胞式”的开环系统,扩大算力已经呈现明显的 diminishing return。 马毅称 Grok 用约 20 万张卡,基础模型分数提升不到 1%;这类试错可以继续进步,却像生命靠 DNA 走了 30 亿年仍未跨入个体学习。其判断很尖锐:“一个开环系统只能应对封闭世界,不管它多大;一个闭环系统才能应对开放世界,不管它多小。”
  • 机器智能史应从 1940 年代的控制论、信息论和博弈论算起,而非从 1956 年达特茅斯会议起算。 战争中的目标跟踪促使维纳等人研究动物为何能快速反馈纠错,现代计算架构也被马毅放回这一脉络;达特茅斯研究的是更晚一层的人类抽象、逻辑和问题解决。1958 年感知机已经被媒体描述为会读写、思考乃至产生意识,“今天吹的牛,五十年代早就吹过了”。
  • O1、R1 等所谓推理模型提高了刷题表现,但马毅没有看到它们真正理解逻辑的严格证据。 他把推理分成模仿题型、掌握并自检逻辑、发现新规律三层,认为现有方法主要仍在第一层:SFT 提供范例,reinforcement learning 根据答案或评分优化,长思维链则由人或已有模型半自动生成。模型能解很难的题却又在初等问题上犯低级错误,正是“会做题”与“学懂了”尚未被 benchmark 区分的信号。
  • DeepSeek 证明的是现有路线缺少技术护城河,而不是试错成本从此消失。 马毅早已判断开源追上闭源只是 “where and when,而不是 whether or if not”,真正门槛主要是数据、算力、时间和反复失败的成本;最后一次训练费用,不能代表发现配方的总成本。对单一团队的续投判断,他给出一句带条件的提醒:“炮弹一般不会打在第二个弹坑”,除非方法论已从随机试错变成可持续改进。
  • 马毅押注的下一代架构不是一个包办所有模态的超大模型,而是探索并行、分布式、分层的多环系统。 具身智能是最自然的 killer app,因为 agent 必须在开放物理世界里持续感知、行动和纠错;端到端 VLA 靠更多数据与算力也可能像飞机一样“能飞、能载客、能挣钱”,但未必像鸟类机制那样高效。易生科技的商业任务,就是把白盒原理、闭环记忆和新架构扩大到学校难以承担的数据、算力与工程规模。
  • 技术品味的价值来自“选择非共识问题”与“用严谨证据约束自己”,不是仅凭逆向叙事坚持。 马毅要求研究者把自己训练成“世界上最难 convince 的人”;港大面向企业家的课程和所有本科生必修的 6 学分 AI literacy,也都把目标放在辨别能力边界、负面样本与宣传偏差上。其最终建议是:“焦虑来自不懂,兴奋至少要知道自己为什么兴奋。”

精读

1. 智能是在熵增宇宙中寻找可预测结构

  • 马毅从热力学第二定律切入:封闭系统总体走向更混乱、更不可预测,而生命恰恰在尚有规律的世界里寻找结构,“fight against entropy”,把可预测之物转化为生存优势。

  • 在他的定义里,智能体把规律编码成知识和记忆,用它预测下一步,再据此改善决策、提高生存质量。“生命就是智能”,是因为生命是这种机制的载体。

  • 曼祺追问生命和智能是否必然出现;马毅更倾向于“偶然”,但又认为熵增途中存在大量可利用结构,因此类似生命在宇宙其他地方出现“很有可能”。

2. DNA 是最早的大模型,但物种才是学习者

  • 马毅最具辨识度的类比是:“DNA 就是这个世界上最早的大模型。”早期生命把对外部世界学到的知识,以规则化碱基结构编码、复制并传给下一代,功能上近似预训练模型。

  • 这一阶段持续约 30 亿年,单个生命在一个生命周期里基本靠本能,没有今天意义上的学习;随机变异产生候选,环境给 reward,自然选择保留更适应者,“这就是强化学习”。

  • 智能因此不属于某个静态个体,而属于物种与环境构成的 phylogenetic evolution 闭环。“一将功成万骨枯”,变异失败的不只是一个样本,整个 species 都可能被淘汰。

3. 神经系统让个体第一次可以 fine-tune

  • 大约 5.5 亿年前,神经系统、视觉等感知能力出现;约 5000 万年后,寒武纪生命大爆发。马毅把两者连起来:个体不再只有父母给的“大模型”,而能在具体环境里形成自己的 memory。

  • 这些记忆不写回 DNA,而编码在个体神经网络中;视觉、触觉等输入让动物适应出生后的特殊环境,相当于在继承模型上进行 fine-tune,并通过反馈纠错。

  • 个体适应力提高,也让更多形态的变异能够存活,因而物种数量和形态迅速增加。马毅强调,这不是简单的物种更聪明,而是学习的时间尺度从跨代缩短到一生之内。

4. 智能越高级,越不依赖出生时的预训练

  • 马毅用亲子相处时间呈现这条趋势:鸟约 3 个月,普通哺乳动物半年至一年,猫科两三年,猴子五六年,人类约 18 年;生命形态越高级,后天学习占比越大。

  • 这组数字支持他的反直觉判断:进化并未把越来越多能力全部 hard-code 进 DNA,反而给个体留下更长学习期。“越来越不依赖预训练模型”,越来越依赖环境、父母和群体形成的记忆。

5. 语言把个体经验变成可复用的群体资产

  • 语言首先提高知识获取效率:一个人找到水源,其他人不必重新走一遍,只需听他描述。猫科个体死去时,大部分经验随之消失;人的经验则可以在群体中复制。

  • 文字进一步让知识跨代保存,因而在一定程度上承担了 DNA 的功能。上一代建立的世界模型不必再等待遗传变异,可以通过书本和组织化语言直接传递,文明的发展速度由此跃升。

  • 马毅同时压低语言模型在人类智能中的占比:大脑只有前额附近一小部分处理自然语言,绝大部分还在处理视觉、声音、触觉和运动。可被写进文本的知识,只是人与物理世界交互所得知识的一小部分。

6. “幻觉”不是所有不确定知识的统一标签

  • 曼祺问,语言出现后是否也带来了更多幻觉;马毅的保留意见是,幻觉本身尚无良好科学定义,而现实知识也并非都像数学一样 deterministic,很多有效知识本来就是概率性的。

  • “明天有可能下雨”并不保证必然下雨,却仍能指导决策;黄历式经验预测可能有误差,也不能因此全部称为幻觉。关键是不能仅因知识存在误差,就把它统一归为幻觉;其科学定义仍需讨论。

7. 数学抽象是智能史上尚未解释的跃迁

  • 大约三四千年前,人类开始从计数经验中抽象出自然数,又扩展到分数、实数、虚数和点、线、平面、空间。马毅认为这是经验知识的一次升华,但“大脑出现了什么机制”至今并不清楚。

  • 已有抽象出现后,人可以学习、模仿和使用它;真正未解的是,人为何能第一次从经验中产生高层概念。这也是 1950 年代符号 AI 观察到相关现象却未解决机制的地方。

  • 数学和科学让知识更抽象、简洁、严谨并能 generalize,但科学理论仍可被证伪和修订。它不是脱离学习闭环的终极真理,而是更高度概括、方便共享的一种知识表达。

8. DNA、神经记忆、文字和数学是同一件事的四种介质

  • 马毅把四个阶段统一为“对外部世界可预测规律的表达”:DNA 用碱基编码,个体记忆用神经网络编码,文明用语言文字编码,科学再用数学和形式化语言高度凝练。

  • 四者的学习机制不同:物种演化靠自然选择式 reinforcement learning;个体记忆靠持续反馈和自适应纠错;文明靠交流和保存;科学则把经验进一步抽象、压缩并接受证伪和改进。

  • 感知信号进入大脑时可能达到每秒数百万 bits,到高层只剩每秒十几个 bits。智能并非保存一切,而是丢掉无关细节,提取真正影响预测的结构,再修改旧记忆中不足、不准确或不完善的部分。

9. 知识是智能活动的结果,不是智能本身

  • 马毅给出的边界非常明确:“知识本身并不是智能,知识是智能活动的结果。”能从观测中获取新规律、发现旧知识不足并自主更新,才是智能;只有静态知识库的系统没有这种能力。

  • 因此 DNA 链本身没有智能,再大的基座模型也没有智能。他甚至逐个列举:“GPT-1 没有智能,GPT-2 没有智能,GPT-3 没有智能,GPT-4 也没有智能”,但人类持续改进模型的过程是有智能的。

  • 节目以 long context 为题,背后也是同一判断:与其无限延长预训练模型能一次读入的 context,更关键的是建立闭环、长久、不会遗忘并能自我修正的 memory。

10. 闭环反馈不是候选路线之一,而是马毅眼中的必要机制

  • 马毅把这一判断追溯到 cybernetics:早期研究者观察动物时已经发现,学习、适应和决策提升都依赖行动后的反馈纠错。“这不是我们发明的”,而是自然界反复展示的智能机制。

  • 曼祺问是否存在不同于地球生命的智能实现;马毅承认“有可能”,自然选择也未必是理论最优解,但目前生物形成的可行解在效率与自主性上仍远高于人工系统。

  • 他的总结是:“an open looped system is for a closed world, no matter how big it is;a closed looped system is for an open world, no matter how small it is。”一只蚂蚁虽小,也可能面对开放环境;静态模型再大,覆盖的仍是 fixed、finite 的世界。

11. 大模型会刷 benchmark,却未证明拥有抽象概念

  • 当前模型在马毅的坐标系里仍主要处于第一阶段,近似完全依赖遗传本能的单细胞生命;它储存大量静态知识,却没有猫狗那样适应环境、形成个体记忆并持续纠错的能力。

  • 他认为,现有基座模型、大模型尚未真正抽象出自然数的概念,也没有真正掌握数学运算。模型看过大量例题后可以答对,但在未见场景中数数、理解空间关系,多模态模型仍常常是在猜测或估算。

  • 曼祺指出不少人认为图灵测试已经通过;马毅反驳,固定题库和 benchmark 无法分辨学生是刷题还是学懂,真正测试应像老师口试一样主动追问、改变题面,并观察系统能否解释和自检。

  • “大家有时候看到的一些例子都是正面的例子”,而反例非常多。马毅认为 AI evaluation 仍缺少严谨方法去区分记得好、真正理解和能够抽象升华这三种能力。

12. 熵减需要能源,智能也只是宇宙历程中的一段

  • 如果宇宙确实是没有外部输入的封闭系统,熵最终会达到最大,届时将没有可预测结构供智能学习。马毅认为,按目前物理学的理解,封闭系统最终会达到混沌态。

  • 图像生成提供了一个直接例子:Diffusion Denoising Model 从噪声逐步得到结构化图像,本质上在做去噪和熵减;但这一过程需要电力、芯片和大量算力,把其他地方的能量注入系统。

  • 智能因而不能无成本战胜整体熵增,只能调用资源在局部建立秩序。节目借《银翼杀手》的 “All those moments will be lost in time, like tears in rain” 收束:智能也许只是漫长宇宙史中的一个过程,却是能够暂时对抗无序的特殊过程。

13. 机器智能的起点在 1940 年代,而非达特茅斯

  • 马毅认为,把 1956 年达特茅斯会议定为 AI 起点,是计算机领域给自己划出的狭窄边界。更早的控制论、信息论、博弈论、神经元数学模型和计算架构,都与对智能机制的研究有关。

  • 1940 年代首先试图回答的是:机器怎样获得动物级的反馈、适应和决策能力。马毅把它称作近似“维纳测试”——如果机器具备动物的闭环能力,人是否还能把二者区分开?

  • 图灵到 1950 年才把问题推进到人类层面:机器聪明到何种程度,人与机器会难以区分。1956 年那批年轻人随后研究的,是因果、抽象、逻辑和问题解决等更接近人类的特征。

14. 战争把动物捕猎机制变成了控制论问题

  • 曼祺追问为何 1940 年代会成批研究动物智能;马毅的答案很直接:“打仗。”大炮要跟踪快速移动的飞机,研究者便观察猫科动物如何又快又准地追逐目标,并在一次失误后迅速纠正。

  • 这些问题催生闭环控制:系统不能只按预定计划输出,还要感知目标、比较误差并调整下一步。信息论对应外部信号如何编码解码,博弈论则研究未知乃至 adversarial 环境中的决策改进。

  • 马毅进一步称,冯·诺依曼架构的重要 motivation 之一就是实现 cybernetics 提出的反馈和优化机制;早期计算机主要用于密码破解,但不能由此把现代计算架构的动机简单归结为“为原子弹做计算”。

15. 达特茅斯的技术品味,是年轻人主动远离当时的主流

  • 马毅提醒,1956 年那群年轻人为何不留在 MIT、Caltech 或 Berkeley:控制论等主流方向已有维纳、冯·诺依曼等权威,他们要寻找尚未被占领的问题,因而聚到达特茅斯。

  • 他们研究符号、逻辑、因果和高级推理,后来大多功成名就;但马毅的保留是,他们深入描述了人的智能现象,并没有解释抽象能力究竟如何从经验和大脑机制中产生。

  • 这段历史也构成他对学术工作的要求:工业界可以围绕已知产品竞争成本和效率,学术界若只跟随主流和产业资源“卷”,便既没有优势,也没有新增知识。

16. 1958 年的感知机热潮已经预演了今天的 AI 宣传

  • 神经元有了数学模型后,研究者迅速搭建 perceptron。马毅提到,当时投入约 600 多万美元,折算到今天“差不多 10 亿美元”,规模和叙事都不像一个朴素的小实验。

  • 曼祺找到 1958 年《纽约时报》的报道:机器被描述为将会学习、思考、读写、理解,甚至知道自己的存在并替代人的工作。马毅评价:“今天吹的牛,五十年代基本都吹过了。”

  • 热潮随后冷却,并不表示神经网络毫无价值,而是研究者低估了组织结构、学习机制和算力条件。历史反复出现的不是“技术完全失败”,而是能力被过早外推。

17. 从猫脑到 AlexNet,关键进展来自结构、数据与算力共同成熟

  • 1980 年代,研究者观察猫的视觉系统,发现神经元连接并非随机,而具有规则性的局部 pattern,由此推动卷积神经网络;日本研究者较早提出相关思想,1989 年杨立坤进一步实现并取得较好效果。

  • Hinton 等人探索 autoencoding、encoding-decoding 和统计物理方法,当时并没有人确定这些工作最终会有多重要;这也是马毅所说“正确问题可以先于有效工程很多年”的例子。

  • 2012 年 AlexNet 并未凭空创造全新框架,而是在 CNN 基础上借助足够数据、GPU 和可优化的深层网络,把 ImageNet 分类性能推到可见拐点。

  • 此后神经网络扩展到图像、声音、自然语言和蛋白质,但结构演进仍大量依靠试错:VGG、GoogleNet、ResNet、Transformer 留下名字,更多候选则成为“一将功成万骨枯”里的淘汰项。

18. 1990 年代的机器人会走路,却仍是“瞎的”

  • 马毅在 Berkeley 机器人组读博时,已经看到日本机器人跑、跳、翻跟斗、上楼梯和跳舞;机械与控制虽不如今天灵巧,基本原理和预编程方式并没有根本不同。

  • 导师指出,这些机器人“没有大脑,没有眼睛”,步长、抬腿高度和舞蹈动作全都 pre-plan;它无法知道自己做得对不对,也无法根据现实环境修正。

  • 这使马毅转向视觉和三维重建:没有感知输入便无法闭环。他 1997 年的硕士论文研究基于视觉导航的视觉驾驶,2000 年博士工作涉及把视觉用于直升机和船的降落,核心都是机器如何感知外部世界。

19. 计算机视觉先靠三维重建成熟,识别直到 2012 年才成为显学

  • 三维视觉的问题、数学目标和技术路线相对清晰,因而发展较顺;相关成果被用于场景数字化、定位和电影环境复现,马毅举到《黑客帝国》等早期好莱坞应用。

  • 他把三维重建真正成为显学的时间放在 2008 至 2009 年前后;识别则在 2007、2008 年仍很冷,数据库上的分类表现差,毕业生也很难找到完全对应的岗位。

  • ImageNet 提供大规模数据与统一测试平台,AlexNet 再用 GPU 和深度网络展示性能提升,识别才在 2012 年越过关注阈值。决定性因素不是单一论文,而是数据、计算和算法在同一时点成熟。

20. 神经网络的发展规律,就是缺少第一性原理时的随机试错

  • 马毅坦言,很难从数十年起伏中总结出稳定预测规律,因为智能目标、学习机制和第一性原理长期不清楚。研究大致分两条线:向生物结构学习,以及纯工程地搭网络、跑实验、筛结果。

  • 这种进步像 DNA 演化:大量结构被提出、失败并消失,偶然更有效的结构被留下。只要方法论不变,成果出现在哪个团队便带有很强随机性。

  • 他用炮火形容产业格局:一会儿是 DeepMind,一会儿是 OpenAI、Google、Microsoft、Grok,也可能是 DeepSeek。不同团队根据自己的经验和资源反复试错,下一次突破仍可能出现在任何地方。

  • 因而有人问 DeepSeek 是否还值得投时,他的回答是:“炮弹一般不会打在第二个弹坑。”这不是否定团队,而是要求看到方法论差异:除非它已建立可持续、系统性的改进机制。

21. 工业界承担试错成本,学术界应补上定义、原理和测试

  • 现有路线需要数据、算力和大量失败实验,只有少数公司能负担;因此现在许多成果来自工业界,而不是资源有限的大学实验室。

  • 马毅认为学界不该和公司比同质化工程,而应界定智能的不同阶段与能力,建立能辨别记忆、理解和抽象的测试,并研究背后的数学与计算问题。“过去十年并没有界定清楚。”

  • 他对学界的不满在于,很多研究者也被公司发布节奏和媒体叙事带走,未比“吃瓜群众”严谨多少。公司可以有商业立场,学术界的职责则是把方法、证据和局限讲清楚。

22. Scaling 已进入 diminishing return,O1 只是暂时转移了焦虑

  • 马毅判断,若方法没有本质改变,基础模型 scaling 已经进入 “diminishing return”。他以 Grok 为例:约 20 万张卡换来的基础模型分数提升不到 1%,展示时只能不断放大纵轴。

  • 这个过程仍会进步,却像早期生命仅靠遗传与选择,走了约 30 亿年也只到单细胞阶段。

  • 曼祺指出,去年 9 月、10 月行业已讨论 scaling law 撞墙,O1 的出现缓解了焦虑;马毅承认刷题效果确有提升,但认为 OpenAI 把 O 系列包装成通向 AGI 的秘密,方法本身仍主要是微调和强化学习。

23. “推理”至少有模仿、理解和发现三个层次

  • 马毅用学生做数学题拆分推理:第一层记住大量范例和 pattern,依葫芦画瓢,也能考高分;第二层真正掌握逻辑,遇到新题能逐步使用规则,并知道每一步是否正确。

  • 第三层不是使用已有逻辑,而是从经验中发现此前未知的规律、公理、因果或推理方法,类似数学家发现新的推理规律、欧几里得公理和三段论。

  • 现有讨论把三层都叫 reasoning,导致 benchmark 高分直接被外推为“会推理”甚至“发现 AGI 路线”。马毅要求先把能力分层,再讨论模型究竟达到了哪一层。

24. SFT、强化学习和思维链仍是一套工程配方

  • 一个较好的基础模型若要提升编程或数学表现,常见路线是 supervised fine-tuning:给出高质量范例,让模型学习和模仿题型、步骤与回答 pattern。

  • Reinforcement learning 则利用答案对错、步骤质量或评分信号继续优化。DeepSeek 强调直接 RL 也能奏效,但马毅认为前提是基础模型已经较好,而较好基础往往又包含先前的示例学习和 fine-tuning。

  • 他用团队工作标题概括分工:“Supervised Fine-Tuning Memorizes, Reinforcement Learning Generalizes”。其一般判断是先微调,再强化学习,往往比只用一种方法更好,但两者各有优势和局限。

  • 长思维链也不是凭空涌现:可以由研究生写解题步骤,也可以让已有模型在 prompt 提示下半自动生成,再筛选正确、高效的路径,用于 fine-tune 或训练评分器。各团队调整 ingredients,“有点像中药”,因此也被称为炼丹。

25. O1 和 R1 的高分尚不能证明它们学懂了逻辑

  • 曼祺直接问 O1、DeepSeek R1 是否真的在 reasoning;马毅的个人判断是,它们更多仍处于第一层,即通过记忆、归纳和模仿提高解题表现。

  • 他没有看到严格证据表明模型以理解来解决问题。一个突出矛盾是:同一类模型可以完成很难的数学题,却会在小学、初中层面的简单问题上犯低级错误。

  • 如果模型拥有严谨的逻辑链和自检能力,这两种现象不应频繁并存。马毅因此拒绝仅凭竞赛题或固定 benchmark 下结论,要求用反例和主动测试辨别其真实能力。

  • 他也承认 O1、R1 的结果有实际提升;分歧不在“有没有性能”,而在能否把任务性能升级为对认知机制的强主张。“方便把它叫推理模型”,不等于它和人的推理是一回事。

26. DeepSeek 戳破了秘密叙事,却没有消除研发成本

  • 马毅认为 O1 使用的 SFT、RL 和思维链都不具备足以令学界惊讶的 novelty;他还认为 OpenAI 过去一年遇到内部问题,并可能出于融资等因素过度炒作 O 系列。

  • DeepSeek 用更便宜、更高效的实现接近 O1,说明所谓秘密并不深,且一个不错的基础模型经已有方法增强后就能达到类似性能。

  • 但他提醒,最后一次成功训练的成本不是总研发成本。“第一遍很累”,试错完成后再整理、重跑会非常干净;他了解到 Google 最后一次训练可能也只是几百万美元量级、比 DeepSeek 稍高,不能拿单次账单比较完整探索投入。

  • 曼祺问他是否预料到中国会出现 DeepSeek;他的回答是早已预料到同类事件,只是不知道地点和时间。即使不是中国,也可能在法国、英国或美国其他团队发生。

27. 开源追上闭源是时间问题,因为现有技术没有深护城河

  • 马毅过去两三年一直主张开源,并判断开源模型迟早会接近乃至超过闭源公司。“where and when,而不是 whether or if not”,是他对这一路线可复制性的概括。

  • 他认为现阶段技术和方法本身没有牢固护城河,主要差异来自数据、算力、试错时间与团队经验。团队可以在一次竞争中找到更有效配方,却很难据此获得长期独占优势。

  • DeepSeek 的意义因而不是证明所有模型公司失去价值,而是把估值问题重新推回持续创新能力:谁能把随机经验改造成可解释、可重复的进步机制,谁才可能形成更耐久的优势。

28. 技术品味首先是一种选择问题的价值观

  • 马毅把科学的 mission 描述为探索未知、找到现有理解不对或不够好的地方。“we get paid to do that”,所以从众不是学术工作的本分。

  • 工业界围绕已验证需求竞争价格和效率,对社会有价值;学术界若跟工业界做同样的模型、同样的 benchmark,却没有相同资源,就既无比较优势,也没有知识增量。

  • 真正的品味不是断言自己已找到最优解,而是通过证据知道“这个问题重要、方向正确、approach 有道理”,即使外界暂时不理解,也能继续推进。

29. 非共识只有与严谨训练结合,才不会滑向“民科”

  • 科学探索中“十个想法,很可能九个都不靠谱”,失败是常态;正确发现不是靠情绪坚持,而是依靠数学、逻辑、实验和可重复比较把错误逐步排除。

  • 马毅读数学硕士时,老师给他的第一条要求是:“把自己训练成世界上最难 convince 的人。”当一个证明能说服最挑剔的自己,它才更可能经得起所有人的检验。

  • 实验也需同样严谨:数据怎么采、假设如何验证、是否存在其他解释,都不能 jump to conclusion。只有探索勇气而没有这种训练,结果就可能是自己错了却毫无察觉。

  • 品味因此包含两项缺一不可的资本:相信世界仍有未知规律的文化与价值观,以及判断自己究竟做对没有的能力。

30. 马毅的学术路径并非预先规划,而是被“弄明白”这件事塑造

  • 他在清华主要按部就班学习、喜欢数学和课外书;到 Berkeley 快毕业时仍考虑去 Qualcomm 或互联网公司,是导师建议他尝试学术职位,才“误打误撞”进入大学。

  • 真正稳定的习惯是,不明白便不敢教。到伊利诺伊后,他会把课程内容从头推一遍,后来喜欢写书,也是因为整理完整知识体系能暴露自己尚未理解的 gap。

  • 这条路径说明技术品味未必来自童年立志,更可能来自长期重复:对未知保持好奇,把模糊直觉变成可讲授、可证明、可验证的结构。

31. Berkeley 的开放协作把个人品味变成集体校验

  • 马毅读博时,导师组有 18 名学生,来自 13 个国家,没有明显等级,大家以“把事情搞明白”为共同目标;不同文化背景带来 culture shock,也扩大了问题视角。

  • 组会完全开放:正式学生只有六七人时,现场可能有三四十人,很多连他都不认识。每名博士生都可找真正参与研究的 co-advisor,并自由参加其他组会和 seminar。

  • 学生跨组互助写论文、做实验、画图,合作不是老师 top-down 安排,而是 organic 形成。马毅后来发现,Berkeley 学生从同伴处学到的技能往往比从导师处更多。

  • 他把这种文化延伸到今天的工作:理论、算法、实现和不同模态分别由不同团队承担,近期项目常有五六所学校参与。多人愿意投入,也成为“we did something right”的外部信号。

32. 高引用成果也可能先遭遇集体拒绝

  • 马毅回忆,团队曾有 CVPR 工作获得 reviewer 近乎满分,仍被 area chair 拒绝;另一些白盒理论工作得到多位 reviewer 接受,也没有通过最终决策。

  • 他引用最高的人脸识别工作,最初甚至没有 conference 愿意接收,因为结果“好得让人不相信”,审稿人怀疑不可能或存在作弊。团队后来直接投顶级 journal,并花一个暑假与所有要求的方法比较,才获接受。

  • 他的结论不是审稿毫无价值,而是 community 也会形成 echo:主流方法被默认正确,新方法即使数学严谨、实验充分,也需要很长时间才能被真正理解。

  • “有些东西可能 30 年都没有存在感。”这段延迟要求研究者区分两种反馈:拒稿可能暴露真实漏洞,也可能只是接受新框架所需的条件尚未成熟。

33. 企业家可以学习技术判断,但不能只向权威借结论

  • 马毅认为,理解当前多数 AI 技术,本科层面的严谨数学和科学基础已经足够;继续探索前沿才需要更深知识。企业家真正缺的往往不是智力,而是系统框架和正反证据。

  • 港大因此开设类似 EMBA 的“科学企业家”项目,原计划招 40 至 50 人,首届最终招到 80 人,包括头部上市公司负责人、投资者和寻求转型的传统企业家,头几个模块出勤率接近百分之百。

  • 课程一端由一线科研教师解释模型本质、能力与 limitation,另一端邀请科技公司讲成功、失败和真实布局。目标不是替学员决策,而是让他们理解采用、不采用以及何时投入的条件。

  • 马毅特别补充媒体看不到的负面案例:demo 通常只展示“又蹦又跳”的成功样本,决策者却必须知道失败分布。反过来,面对身家合计可能达几千亿元的听众,教授也必须讲清研究到底解决什么问题。

34. 港大把 AI literacy 变成所有本科生的 6 学分必修课

  • 港大把原有两门英文课中的一门替换为 AI literacy,课程对应 6 学分、分两个学期完成;前 3 学分全校统一,后 3 学分由医学、法律等学院结合专业定制。

  • 课程在春季以 100 多名自愿学生 pilot,计划从当年 9 月起要求所有新生修读。由于规模会扩大,每个小时都由多个老师共同设计,而非单人重复讲义。

  • 共同部分从生命和机器智能史讲起,再解释语言模型、图像、生成模型、识别和机器人“在做什么”,同时呈现能力边界;专业部分再连接医疗、法律、金融、艺术等领域。

  • 伦理模块覆盖作弊、抄袭、copyright、隐私、安全和法律规范,并邀请法律、哲学及相关工程学科教师参与。内容不会录制后永久复用,而要随技术现状逐年 update。

35. 下一代机会在闭环架构,但商业兑现仍要跨过工程临界点

  • 马毅称现有 AI 本质上仍是“非常 mechanical”的数据压缩与生成,尚无理由把它直接等同于意识;AI 通识教育的终点也不是灌输乐观或恐惧,而是让学生掌握证据、形成自己的 critical thinking。

  • 白盒研究已开始用数学原理替代 Transformer 等系统中的经验冗余;面对预训练困难、工程成分很重的视觉与多模态模型,团队称可以把 DINO 一类系统大幅简化,性能反而提高。公司则补足更大数据、算力、效率优化和持续工程团队。

  • 闭环研究正在从单一 encoding-decoding 环,转向类似大脑皮层的并行、分布式、hierarchical 多环系统;不同感知模态分别处理再汇总,每层都进行预测和纠错。共同 firing 加强连接、局部抑制等大脑机制,现有神经网络仍未充分实现。

  • 具身智能是自然的 killer app,但端到端 VLA 也许仍可凭数据和算力获得商业效果:飞机不像鸟,却照样能飞、载客和挣钱。易生科技要争取的是更高效的下一代机制;在技术越过临界点前,它可能“什么用都没有”,达到足够水平后则可能迅速出现大量用途,这正是耐心资本需要承担的不确定性。