20个问题，搞懂DeepSeek和它带来的“AI下半场”

摘要

• 全片的核心判断：预训练已到阶段性顶点——高质量且多样性的公开数据基本用尽，任意合成数据直喂预训练会导致模型崩溃，连Ilya都已表态；AI下半场属于post-training，让模型在已有知识上形成能力。 O1是下半场的信号但闭源封锁思维链，“R1的发布相当于给全世界揭秘了最先进的技术如何完成——R1就相当于下半场时代的拉玛”。
• 前百度主任架构师李乐丁把R1的胜利归因于开源与实验自由，引一位教授：“与其说这是中国战胜了美国，不如说这是开源战胜了闭源。” 技术内核是纯强化学习"只激励结果、不干预过程"，并把RL推到前所未见的8000步——正确率曲线在4000步后衰减、6000步后一度下降、7500步后重新上扬，“很多研究一两千步就放弃了”，没有KPI、不做商业化的组织才扛得过这段。
• 最可交易的信号是成本坍塌：V3全量预训练仅260万GPU hour（约550万美元、两千多张卡），后训练算力"连预训练的零头都不到"，李飞飞团队用1000条精选数据、16张H100训26分钟（约50美元）就在千问上复现R1级数学能力。 由此他坚持"暴论"：不要再投资算力——军备竞赛结束、To B转向开源、推理端普遍用小模型，算力需求阶段性下降；“垂直数据、行业认知，这个永远是壁垒”。
• 对差距的诚实标定：Dario文章整体是"中国阴谋论"，但技术论述中肯——6个月差距是事实，“R1的效果只达到O1的下限，OpenAI已经有O3了”。 梁文锋的框架被反复引用：中美差距与其说是一年半载的时间差，“更本质是原创和跟随的差别”。硬件上推理卡已被华为云API证明，训练卡"可用但难用"——三个月内复现DeepSeek最佳方案仍是全套英伟达。
• 受压名单：Anthropic、Google承压，最受冲击的是Llama——开源第一的地位不保，Meta已在review对Llama的巨额投入；美国很可能做一个对标DeepSeek的开源产品"满足自我安全感"。 但模型商品化"不一定是DeepSeek导致的，过去一年一直在进行"——日用模型从千亿迅速降到百亿甚至几十亿。
• 应用层的反直觉共识：应用并不选择最强模型——小模型+RAG+prompt engineering才是实际用法，“产品经理才是真正AI走向应用的灵魂”（订机票的Agent两年了还是没做出来）。 隐形冠军是Gemini 2.0 Flash：“又便宜又快又好，从性价比来说甚至比DeepSeek更高”，只是Google的PR和产品入口一塌糊涂。
• 对DeepSeek本身的期望：别做Chatbot、别商业化——产品化会像今天的OpenAI一样吞噬精力，“中国不需要another app，中国需要一个OpenAI”。 下一步值得做的：探R1 Zero的步数上限、用纯RL解决语言混合、把V3里的MTP和新路由算法做进V4/V5，以及他最期待的——探索超越Transformer、真正迈向AGI的架构。

精读

1. 上半场收官：pretrain到顶，下半场属于post-training

• 李乐丁的划分：上半场是为模型增加知识（pre-training），下半场是让模型在已有知识上形成能力（post-training）。判断依据：GPT 3.5到GPT 4是巨大跨越，但GPT 4之后近两年向上演进不多，连Ilya都给出判断，业界基本共识是"pretrain已经走到了阶段性的顶点"。
• 数据端的死结：高质量、有足够多样性的公开数据基本用尽——“并不是某一方面的知识增加十倍，AI的能力就会变得更多”，需要的是新方向；而任意生成合成数据直接喂预训练会导致模型崩溃，多所大学有paper论证。
• 架构端是一位教授提到的老问题：Transformer的数据学习效率太低，“我们向它训练了几万亿token的数据，然而它们仍然很难具备像你家猫一样的智能”。
• O1本是下半场的信号，但OpenAI"已经变成了Close AI"——收费、封锁思考过程的token。“R1的发布相当于给全世界揭秘了最先进的技术是如何完成的，R1就相当于下半场时代的拉玛。”

2. R1 Zero：只激励结果，不干预过程

• “这篇论文是我最近两年看到的最精彩的论文。“R1实际训了三个模型，最有价值的是R1 Zero：纯粹靠强化学习让模型自己摸索多步思考。reward model简单到只判两件事——最终结果是否正确、格式是否把思考过程与结果明确区分，对中间思考没有任何激励。仅此一招，效果直逼O1。
• 为什么只激励结果能成功：文科上"我们有一句成语叫断章取义”——连续对话中任何一句单独抽出都不能代表全貌，无法对单句精确打分；理科上一道数学题可以用代数、几何、分析多种解法，“推理过程是无限多的，我们很难穷举”。结论：“机器的思考过程与人类是完全不同的，我们不能强求机器和人一样的想法。”
• 想法源头上李很坦白：做得最早的确实是OpenAI，宗师是DeepMind——AlphaZero、AlphaFold里都出现过"关心结果"的思路，“我甚至相信O1很有可能就走过了R1整篇论文的路程”，但开源说出来的，R1是首个。

3. 从Zero到R1：SFT、RL、蒸馏、拒绝采样的流水线

• R1 Zero有两个不适合日用的缺点：思考过程"不是人话”，以及语言混合——对模型而言所有语言都是token，“哪个词更好地表达了当前推理的方向，它就会选哪个词”。
• 修复流程环环相扣：先在V3底座上用一批CoT数据SFT，教给模型基础"回答套路"并锁定语言一致；再上强化学习自行摸索；然后把中间模型蒸馏出问答对，用拒绝采样剔除"特别不像人话"的回答，得到60万条高质量多步推理问答对；再加20万条传统fine-tune数据（对话、文本创作、阅读理解），共80万条重新fine-tune V3基础模型——“这就是O1的效果了，整个过程非常精彩。”

4. 蒸馏争议：左脚踩右脚上不了天

• 对"DeepSeek有没有蒸馏OpenAI"，李的立场：“我相信没有，我觉得没有必要。“整条流水线里唯一用外部数据的是起步的CoT种子，“就算使用了OpenAI的一些成果，那又如何？最后真正的能力完全来自后面的强化学习。全世界每一个人都在参考别人的工作。“没有前人数据无非多走弯路——比如先试文科CoT发现效果不好，回头重写数学题，“仅此而已”。
• 仅靠蒸馏能否超越SOTA？“我说绝对不能。传统蒸馏一定是大模型蒸到小模型，小模型具备大模型百分之八九十的能力，绝不可能反向超过——那就左脚踩右脚上天了。“想在推理上超越，中间必须引入强化学习。
• 荣慧的观察值得留下：O1的范式革新启发了R1、也包括Kimi的推理模型K1.5，这种"站在别人肩膀上再创新"的知识接力，“是最近让人感到有点感动的技术理想主义”。

5. 拆解Dario的檄文：阴谋论、中肯的技术、承认的差距

• 李把Anthropic CEO Dario那篇爆火文章拆成三层：整体上"完全就是中国阴谋论，试图通过强化中国威胁来掩盖Anthropic和OpenAI的能力已经被中国追上的事实”；但纯技术部分的论述"非常中肯，可以采纳”；其中一句是事实——DeepSeek仍有六个月差距，“R1的效果只是达到了O1的下限，OpenAI已经有了O3。但他没说的是，这六个月他们自己的进展也不大。最前面的两个人已经非常放缓了，我们在追上来。”
• 纯RL与Anthropic的RLHF哪条路对？李拒绝站队，引梁文锋：“现在的大模型研究更像一个research阶段——提出假设、用实验证实，在实验给出结论之前，不能说这个假设一定正确或错误。“另一条路线"能力是连续光谱"的想法"同样是一个非常非常厉害的idea”。
• 硬件现实一分为二：推理卡已被证明（硅基流动的R1 API就跑在华为云推理卡上）；训练卡"可用，但确实有点难用”——想三个月复现DeepSeek，最佳方案还是全套英伟达（GPU、NVLink、InfiniBand、CUDA），国产卡对固定模型的适配约需三个月，自定义算子探索更久。但结论斩钉截铁：“美国已经没有任何能力去阻止中国研发大模型了。”

6. 开源战胜闭源：8000步的坚持从哪里来

• 开源、技术、低成本、产品体验里谁最重要？李选开源，引一位教授的评价：“与其说这是中国战胜了美国，不如说这是开源战胜了闭源。“从DeepSeek Math到V2到V3再到R1倒推，一线研究者对方向早有感知，“阻碍他们的很可能是没有足够的条件去做实验”——“可以说整个生成式AI的理论层面是不完备的，不像computer science有图灵完备性，该用什么样的方法是需要做实验的。”
• 两个实验自由的前提：V3把训练成本压到550万美元、两千多张卡，同等资源投入下可以做更多实验；加上梁文锋"不去做商业化、纯粹research"的初心，“我可以接受模型失败，甚至可以接受在一段时间内效果不好”。
• 8000步是这种组织力的具象：正确率前4000步斜率直线向上，4000到6000步衰减，6000步后甚至下降，约7500步后重新上扬。“很多强化学习研究可能一千步提升就衰减了，两千步就平了，那时候大家就不愿意再花资源去做后面四五千步了。“这次成功背后"有非常非常多我们不知道的失败”。

7. GRPO：多关注新知，少关注旧识

• 强化学习的原料是8000道带标准答案的种子数学题（源自DeepSeek Math）。GRPO要解决的问题：每轮答对的题里有很多与上一轮重复，重复训练会过拟合——“我们更希望它多去关心那些新摸索出来的套路，而不是一遍一遍重复背诵已经学会的技能。”
• 做法：每道题生成8个答案，对1分错0分，转成统计学的Z分数——大多数都答对说明题型已掌握、Z分数低；只有少数答对说明学到新套路、Z分数高。Z分数恰好落在0和1之间，可直接当采样概率，“多关注于新知，少关注于旧识，如此往复，模型不断优中选优”。附带红利：只激励结果使GRPO比PPO、DPO在计算量和内存消耗上都有很大优势。

8. H800逼出来的创新

• 对Lex Freeman播客归纳的三大低成本关键（MoE混合专家、MLA、没有NCCL库前提下的底层通信优化），李"基本同意”，但补一条：FP8低精度训练"是很重要的东西，这些是起主要作用的”。他的总评有保留：“美国人在分析技术方面基本上都是靠谱的，但观点上仅供参考。”
• 李的独立推断：DeepSeek手里的卡就是H800——H800对H100砍的正是NVLink带宽，“逼着它必须得做这个优化，不做不行”；而H20的通信和算力差距又太大，“按它现在的优化方式在H20上跑可能不是这效果”。荣慧的感触：“卡住他的地方，他把这个地方变成了他的创新。”
• FP8的讽刺在于它是H100最重要的卖点：“美国人手里有这么多H100，他们不去试这个东西，确实有点资源诅咒的味道了。”

9. 550万美元与50美元：后训练便宜得超乎想象

• V3预训练用了260万GPU hour（约550万美元），而论文明确写出后训练所用算力"连预训练的零头都不到”。李由此发难：“我比较讨厌现在网上很多人说，预训练scaling law结束之后就是后训练的scaling law、算力继续无限膨胀。后训练确实有scale，但它的规模跟预训练差好几个数量级。”
• R1论文的第三组实验被精彩程度"把主菜变成了甜点”：用那80万条珍贵蒸馏数据fine-tune千问和拉马的小模型（7B、30B），math能力即可媲美O1级；但小模型直接跑R1 Zero式纯RL不行——“小模型具备的知识还是太少了，就像想自己修炼最好多有点知识，完全没有的话容易走火入魔。”
• 李飞飞的S1把这条路推到极限：从Gemini 2.0 Flash Thinking蒸馏5.9万条，按"够难、不重复、覆盖面广"三原则精选出1000条理科题（线性代数、微积分到实变函数、量子物理），16张H100训26分钟，算下来约50美元。“50美元比较标题党，实际肯定比这个多，但这意味着如果你仅仅想获得垂直能力，成本可以非常低。”

10. 一篇顶十篇的论文，本身就是开源的传播术

• 被问"怎么衡量论文精彩”，李的标准朴素：“干货足够多。这一篇的硬内容含量可能相当于一般论文的十篇甚至不止”——R1训三个模型完全可以写成三篇，V3那些优化技巧普通人发五六篇也够。坦白的背景是：“过去两年我越来越不愿意读论文，因为大部分论文的有效内容实在不太多。”
• 荣慧点出机制：发一篇论文，社区通过解读帮它完成了无数次二次传播。“是的，这才是社区精神。”

11. 国运论太宏大，“原创与跟随"的差距是真的

• 荣慧转述投资大佬私下的激动说法——DeepSeek是"中国的国运”，避免了通缩、避免了日本式失落三十年。李拒绝接宏大叙事：“这个太宏大的问题，我确实回答不了。“他只确认一点：DeepSeek证明中国的研究人员和AI从业者"掌握的知识、掌握的能力一点不比美国差”，可以在几乎完全独立的情况下做出最先进的东西。
• 随即泼冷水：不要因此觉得一下子完全超越美国。梁文锋的第二个观点被完整引用：中美在AI上可能只差一年甚至半年，“但与其说这是时间上的差别，不如说更本质上是原创和跟随的差别”——强化学习产业化最早是DeepMind，scaling提升能力最早是OpenAI，“AI几乎所有原创性的想法依然来自美国。如果不能从跟随者变成原创者，差距可能永远留在一两年。”
• 荣慧的类比值得留档：“现在的DeepSeek更像伊利亚时代的OpenAI，而不是Sam时代的OpenAI”——后者太沉迷scaling、被产品化纠缠了太多精力，“大家对OpenAI最大的期望还是把GPT5做出来呀”。

12. 大厂做不出的原因：KPI不容忍失败

• 李的主观判断直白：大厂资源、人才、数据都多得多，但"如果这一版模型不能把效果提升个百分之三、百分之五，可能就保不住工作了”，于是没人愿意尝试目前看起来不行的东西，只敢"削规凿随”——在前人基础上扩大规模。
• DeepSeek团队没有KPI、秉承纯researcher态度：“不一开始假设某一条路一定正确，OK的就投资源去做，做不成便做不成吧。我们从小就学爱迪生发明灯泡试了那么多次——你不失败哪来的成功呢？”

13. 产品经理才是AI落地的灵魂

• 先泼冷水再抬轿子：模型的发展与AI应用真正的诉求是不一致的——应用需要"稳定可复现、可横向扩展不同领域"的能力，而不是数学做得很好却不能百分之百正确。应用的实际做法是用小模型甚至非常小的模型，把逻辑交给prompt engineering、RAG和外部程序，“只让AI去承担类似传统NLP的工作”。
• 订机票的例子两年后依然成立：“你无法想象两年过去了，这样的产品还是没做出来。哪怕有了O1，美国人用上六个月了，也没做出来”——订票不是一锤子买卖，“我一定是中间需要不断的看、不断的想、跟我的行程做对比”，这个流程的设计只能是产品经理的活。“产品经理才是真正AI走向应用的灵魂。”
• RAG的现实困境作证：理想架构是"RAG提供知识、LLM提供能力”，现实是两者边界不能精确控制——模型自己的知识耦合进来产生幻觉，或RAG数据反向压制LLM自身能力，“你不能重新训一个模型，只能在RAG系统之外再加额外的方式去做”。

14. To C：模型不会淹没产品，痛点根本还没人定义

• 成本"实实在在被降低了一个数量级"是To C最大的利好：省下的预算可以投入人工的规划设计，原先因成本不敢用AI的基础NLP、基础规划环节都能用起来，“会带来一个阶段性的高潮”。
• 但对"模型变成产品、会淹没掉很多应用"的流行说法，李明确不认同：“无论OpenAI的app还是Gemini还是国内的app，用户时长都不是特别长——这很大程度反映我们还没有准确抓到大家的需求痛点，缺乏足够优秀的产品经理去定义什么样的东西用AI解决得最好。“等市场进入更完备的运转就不会是这样，“除非AGI”。

15. To B剧变：当开源就是业界最好，没道理不用

• 事实先行：DeepSeek上线后极短时间内Azure接入，AWS迅速跟进，“今天几乎所有的一线云都跟进了”。李的推演：当技术上限不再快速前进，商业公司的生存危机就消除了——不会再出现"六个月后别人的模型巨幅改善效果、直接革我的命”，于是各家会把模型研究重点从"卷谁能做出GPT4级模型"的军备竞赛，转向探索超越Transformer的下一代，“什么时候能做出来？不着急”。
• 产品侧直接用开源DeepSeek，逻辑同Linux、MySQL、Redis：“当开源真的已经是业界最好、不再有生存危机的时候，没有道理不用。“对中国To B影响深远；美国因政治环境对中国的敌视，“很可能他们自己会做一个类似的东西出来”。
• To Developer反而影响最小：coding恰是Claude 3.5 Sonnet（Cursor官方称仍一枝独秀）、O3、R1都最擅长且仍在快速发展的方向，“位次还会大量变动”，而这种竞争"最终受益的就是开发者”。荣慧的感慨插在这里：“人生前三十几年，从没有如此强烈地感到科技进步就在眼皮底下发生——第一次用iPhone之后，可没有过三个月就出一个’微phone’。”

16. 应用层的隐形冠军：Gemini 2.0 Flash性价比甚至高于DeepSeek

• 应用会不会因R1大幅前进？“我对这个事情是比较question的”——“O1出来几个月，也没有哪个app说因此我原先解决不了的问题就解决了。“应用界早已走上与LLM研发不同的道路：小模型、RAG、prompt engineering。
• 美国的有趣现象：问Gemini的App，大部分人说"这模型有点笨”；问Gemini的API，大家都说好——Gemini 2.0 Flash"又便宜又快又好，从性价比来说甚至比DeepSeek更高”，背后有TPU的成本支撑；Gemini 2.0 Flash Thinking的效果"客观说不比R1差”（李飞飞的蒸馏数据正来自它），还有进一步降本的Flash Light。“Google看得很清楚：将AI的成本降低，绝对是推进已有应用更大规模上AI的重要手段——它是全球最大的AI应用玩家，最大的AI应用就是搜索。”
• 败笔在PR和产品：Flash Thinking藏在Google AI Studio里，“那个界面真的不是给普通用户用的”——荣慧亲测"非常impressive，但入口太深，好几次之后我也懒得用了”。

17. Chatbot：中国不需要another app，中国需要一个OpenAI

• 背景事实：DeepSeek在几十个国家App Store登顶，“好像是历史上最快从零到三四千万日活的应用”，但内部卡不够、据说流量影响了训练，团队迟迟没把应用稳定性放在第一优先级，仍想把卡留给训练。
• Chatbot对DeepSeek重不重要？“这只有梁文锋自己来决定。但从我的情感角度，我不希望他做Chatbot”——一旦做，就会耦合大量产品化工作、日用性问题、可维护性，“牵扯大量的精力，就像今天OpenAI遇到的问题一样”。结论句是全集最响的一句：“中国不需要another app，中国需要一个OpenAI。简单做一做让大家体验一下就可以了，还是继续做我们的原创技术。”
• 荣慧补的注脚：这与梁文锋去年对外表达一脉相承——不做商业化，“因为任何商业化上的尝试都会稀释、分散掉他们在科研上的注意力和投入”。

18. 算力暴论与数据壁垒

• 牵动万千英伟达股民的问题，李"坚持一直以来的暴论"：不要再投资算力——投算力本质上是继续赌pre-train scaling law，而上限已现；DeepSeek之后大家都会去降成本；推理端大家都用小模型，“对算力的需求一定会阶段性下降，直到AI应用迈过产品化的门槛之后再上升”。该卷的是算法：“模型学了几万亿token，还没学明白为什么三加五等于八，这是不对的。”
• 数据的答案更温和：“数据比算力更现实，还是很重要的”——搜索、推荐、短视频都证明拥有数据分布对质量的价值，因为这些归根到底是统计模型；但别迈过太高的门槛继续堆几万亿token。真正的永久壁垒被点名：“垂直数据、垂直知识、行业认知，这个永远是壁垒。”

19. 下一步：DeepSeek去探底，大厂去review，商品化早已在路上

• 李替DeepSeek列的to-do：继续探R1 Zero的上限——“已经走了八千步，走到一万步、两万步大概率还会提升，但多少步边际效应递减，值得探索”；用纯RL直接解决"不说人话"和语言混合——“蒸馏一轮不是特别优雅的方式，做技术我们还是要追求一些优雅性”；把V3里收益尚不明显的MTP、新路由算法做进V4、V5；他最期待的是论文里也写了的方向——探索超越Transformer的新模型，呼应一位研究者"通过概念、通过世界知识"的路线，“真的从大的idea方面去超越OpenAI、超越DeepMind，想一想完全迈向AGI应该怎么走”。
• 字节、腾讯、阿里的剧本：没有切身生存威胁、又看到技术开源且成本大降，“策略一定会做review”——“用开源做改进＋一部分第一方研发＋面向未来的探索，这才是大厂工作的常态，而不是在某项还没有定论的技术上疯狂投入。”
• 美国这边：“美国人肯定是被吓着了”，但一流researcher都知道方向，“下一个突破还是有更高的概率出现在美国，这个就客观看待吧”；据他了解Meta也在review对Llama的巨额投入，美国"很可能也会有一个跟DeepSeek对标的开源产品，满足自我安全感"。受影响最大的名单：Anthropic、Google，“最大的可能还是拉马，开源第一的地位不保”。至于模型商品化：“这个东西是对的，但说一定是DeepSeek导致的未必——即使没有DeepSeek，模型的低成本化、商品化过去一年一直在进行，日用模型从千亿迅速降到百亿、甚至几亿几十亿。“最后一句留给格局：“今天中美就是全球唯二掌握最先进科技的国家……与其花时间搞阴谋论，不如自己多努努力。”
• 收官回应Peter Thiel"真正的创新是多层面创新高度协同”：李的诚实版本——“很多创新也并非DeepSeek原创，论文引用里都能看到是研究者率先提出的，DeepSeek是首先将它们在开源里大规模应用起来。“最重要的一层不是技术：“能够坚持搞科学的基本原则——科学和创新都是没有固定方向的、不可预知的，在这些方向中认真去试验、去尝试、去做，我觉得去做这件事才是最重要的。”