摘要

DeepSeek 的 Open Source Week 展示出，其开源内容可能不只是模型权重，也会涉及支撑线上服务的 AI Infra。 五天五个代码库的首发项目 FlashMLA；官方将这些基础组件描述为已经“文档化、部署并经过实战检验”。“small but sincere”背后，重点是让社区更充分地理解和复用这些效率工具。
王子涵看到 DeepSeek 的共同技术主线，是把训练和推理的各个环节做得更高效。 从 V2 的 MLA，到 V3 一次并行预测两个 token、FP8 低精度训练和减少 pipeline parallel 空泡，再到以 C++ 算子优化 KV Cache 的 FlashMLA，他的概括是：“我觉得可能真的是每一个”，保留了判断的可能性。
行业所称的“开源模型”通常只开放技术报告和权重，真正稀缺的是推理框架、训练框架与数据集。 越往底层，整理依赖、规范代码和控制敏感信息的成本越高；数据尤其接近禁区，AllenAI 与 EleutherAI 的 Pythia 被举为少数深度开放的例外，后者连预训练中间 checkpoint 都提供，被称为“保姆式开源”。
开源是一项需要额外投入的组织能力，而不是把内部代码上传 GitHub。 王子涵曾在一项工作中花两三天把内部实现迁移到公开框架，又用一周多整理代码；对研究人员而言，“一周可以做不少事儿”，所以开源程度直接体现团队是否把服务社区列为优先级。
在王子涵看来，衡量开源生态时，Issue 和 PR 比 Star 更接近真实使用。 他的经验是“我一般不看它 Star 有多少，我一般看它 Issue 有多少”：适配需求、编译错误和 bug 往往说明用户已经实际运行；PR 则意味着有人主动修改代码，通常没有直接的物质回报。vLLM 约 800 位 contributor 和多种硬件适配，展示了生态如何放大单个机构的研发投入。
公司开最强模型还是较小版本，最终与盈利模式和生态目标有关。 DeepSeek 以宽松的 MIT License 开放最强模型；需要维护订阅或 API 溢价的公司，则可能保留前沿版本、开放较小型号。曼祺提到文心计划到 6 月 30 日才开源，王子涵认为工作量很大可能是重要原因，但具体仍取决于其自身计划。
模型越强，完全开放与可控滥用之间的冲突越尖锐。 王子涵的 Twitter 曾被疑似模型驱动的 Agent 以个性化邀约骗取账号；他因此提出，未来“开一个比较小的模型，然后最强的那个不开源”可能更合理，否则从钓鱼到用 100 个小号发动网络暴力都可能被规模化。至于 AI 超越人类智力，他的回答是：“我为游戏带来一个新玩家，这就是意义。”

精读

1. 王子涵从开源使用者和贡献者两端进入讨论

王子涵在西北大学 MLL Lab 读博一年级，研究 Large Language Model、Agent reasoning 与 long-context efficiency；他 2024 年曾在 DeepSeek 实习，暑期将去 Agent 创业公司 Utori。
他认为，自己第一项较有影响力的开源工作，是 2023 年 2 月启动、当年 9 月发布的 Agent benchmark：当时不少公司已宣称能做 Agent，却缺少统一评价工具，团队便把既有题目重新组织成模型调用外部工具解决的形式。
对 DeepSeek-V2，他强调自己只是参与研发、讨论和实验，“不是特别核心的贡献”；近期则在做 DeepSeek-R1 加 Agent 的开源 repo，研究将 DeepSeek-R1 的纯 RL 方法与多轮 dynamics 结合后，在不同任务上能达到什么效果。

2. Open Source Week 首先开放的是线上基础设施

DeepSeek 预告连续五天开源五个代码库，称这些“humble building blocks”均已完成文档、实际部署和线上检验；其措辞是“small but sincere”，并强调“没有高高在上的象牙塔，只有纯粹的车库精神和社区驱动的创新”。
同期置顶的 Open Infra Index 以 AI infrastructure 为主题，显示这周的开源内容会涉及基础设施；首项 FlashMLA 是 V2 框架中的 MLA 推理优化。
王子涵坦言自己“没有什么预判这个东西的能力”，只认为后续有可能涉及 V3 或 R1 的训练、推理框架；这是可能性判断，不是对剩余四项发布内容的预测。

3. DeepSeek 的统一技术主线是把每一步做得更高效

王子涵把 V3 的重点归纳为三个方向：沿用 Meta 的 multi-token prediction，报告中一次并行预测两个 token；以更少比特存储数字的 FP8 低精度训练；以及优化 pipeline parallel。
Pipeline parallel 会让张量依次经过不同模型部分，但 forward 与 backward 之间可能产生空泡，导致部分层闲置；DeepSeek 的工作是进一步压缩这些没有处理向量的时间块。
FlashMLA 则把效率推进到 Attention KV Cache 和底层算子。代码写到 C++，在王子涵看来基本可以确认包含系统级优化，而不只是重新描述同一套模型计算。
从 V2 到 V3 再到 FlashMLA，他看到的共同目标都是 efficiency：“我觉得可能真的是每一个”，即围绕效率、降低训练和推理成本展开；低精度部分则明确强调了在训练效果差不多的情况下节省计算。

4. 算子优化靠少过“窄桥”，也暴露了工程能力差

王子涵用 FlashAttention 解释算子融合：如果一个大矩阵要连续做五种运算，与其每做一次就从较大但较慢的存储层搬到较小但较快的计算层，不如一次搬入、完成五种操作后再搬出。
他的比喻是把小麦送过一座狭窄的桥加工；反复送回中间产物，时间花在过桥而非加工。“一次就能把这些所有的操作都做完”，才是优化的核心。
曼祺追问这是意愿还是能力差异，王子涵明确选择能力。他曾想做 online training，却卡在两条路之间：最快的推理框架把模型固定住、不能边生成边更新；自己重写一个兼具高速推理和动态更新的库，又超出团队的工程能力。

5. 五个仓库被索引不等于五种能力已经合流

FlashMLA 发布后，社区很快询问 FP8 部署代码和 NPU 版本。王子涵认为，FP8 若与 MLA 的 KV Cache 优化结合还会更快；DeepSeek 也许有把分散技术组合起来的计划，但他保留了“也许”。
Open Infra Index 能解决发现问题，却不能自动解决集成问题：把五个库合成一个可自由调用、叠加不同能力的统一库，还要处理 merge 产生的 bug。社区会积极复现，但谁承担整合仍取决于 DeepSeek 自己的计划。

6. README 是读懂仓库的入口，文件语言先透露层级

王子涵把 repo 解释为实现一个算法或概念的“仓库”；它既能放代码，也有人用来放作业甚至小说。用户可以直接下载，也可用 git clone 拉到本地。
机构主页适合搜索目标 repo，语言标签可帮助初步判断实现层级：FlashMLA 标为 C++，符合底层算子优化特征；但语言标签本身不能完整说明项目用途。
DeepSeek-R1 的 repo 没有编程语言标识，是因为它当前主要承载论文说明、模型运行方法和少量命令，而非完整训练代码。王子涵认为 R1 相关训练框架可能以后开放，目前社区已有各自复现。
进入仓库后，他首先读 README，从安装依赖、benchmark 或第一条可运行命令建立整体认识，再沿 import、函数 definition 和调用关系逐层深入，把 code base 当成一棵树来学习。

7. Issue 比 Star 更接近真实使用，PR 才是直接共建

FlashMLA 使用 MIT License，其关键是宽松与“as is”：开发者免费开放代码，但不承诺使用结果，也不为用户遇到的问题承担责任。
王子涵的独特指标是：“我一般不看它 Star 有多少，我一般看它 Issue 有多少。”Star 更像浅层点赞；Issue 中的适配需求、编译错误和 bug，往往说明用户已经实际运行。未解决的是 open，解决或被主动终止后才 closed。
Pull request 更深一层：贡献者已修改代码，并用增删 diff 展示如何解决需求，再由维护者决定是否合并。外部 PR 通常缺少直接物质回报，“唯一的 motivation 我觉得就是热爱”，GitHub 奖章只能提供有限激励。

8. “开源模型”至少横跨五层，行业通常只开到权重

王子涵把开放程度分为技术报告、模型权重、推理框架、训练框架和数据集。今天说一个模型“开源”，通常只意味着有报告并可下载权重，并不自动包含训练复现所需的一切。
技术报告是最基础的一层：报告可以没有代码，也可能写得含糊，但至少应说明用了什么方法。模型权重让用户获得训练结果，却仍需要推理框架才能有效部署。
推理框架的开放已较少，训练框架更少；数据则几乎不由商业公司完整提供。因此，同样叫“开源模型”，实际可理解、可修改和可复现的程度可能相差极大。

9. V3 的详细报告先积累了技术信任，R1 才承接出圈

王子涵认为 V3 是 DeepSeek 几份报告中尤其详细的一份。公司技术团队“每个人都写代码”，各自验证 idea，能通过的再进入下一版训练；大量小块贡献汇合成五十多页报告。
贡献名单不只包含梁文锋和技术人员，data annotation、business 等参与者也被列入。V3 作为 base model，覆盖预训练、后训练、微调和数据等庞大工作；R1 则在 V3 base model 上重点说明 reinforcement learning 方法。
曼祺的传播判断是，R1 全民爆火之前，V3 的细致实验和消融结果已在全球、尤其美国核心技术圈建立 respect。王子涵赞同：即使是一份流水账式报告，也要记录清楚做了什么，并以服务读者的方式让人由浅入深理解技术，而不是只留下难以使用的材料。

10. Hugging Face 交付权重，vLLM 与 SGLang 放大可用性

模型权重通常从 Hugging Face 下载。节目展示的模型被拆成 163 个切片，每片可能约 4GB；用户可按 Transformers 或 vLLM 等 library 给出的方式加载，框架承担实际运行工作。
vLLM 源于伯克利研究者的工作，后来形成 800 多位 contributor 的生态，并适配 CPU、CUDA、NPU、HPU 等多种架构。王子涵把数万 Star、数千 Issue 和数百 PR 视为它被深度使用的迹象。
MiniMax-01 开源线性注意力新架构后，社区反馈缺少优化，其团队便把优化贡献到 vLLM；这说明成熟框架可以承接单个模型公司的部署工作，而不必每家重建生态。
SGLang 是另一条快速增长的路线，王子涵听到的使用体验可能与 vLLM 不相上下、某些方面更好；其团队在 R1 发布后很快宣布支持 DeepSeek-V3 和 R1，体现了更紧跟新模型的节奏。

11. 训练框架最能显示开源不是“把内部代码扔出来”

字节开源的 verl 支持强化学习训练，包含 PPO trainer、FSDP 等并行模式，也积累了数百个 Issue 和 PR。王子涵曾用它完成研究，因此直言这项开放让自己对字节“挺有好感”。
他还介绍自己做的 ESFT：利用 MoE 中不同专家对任务的亲和度，只微调相关专家、冻结其他参数，既减少计算资源，也体现“让专业的人做专业的事”。
难点是原实现依赖公司内部的大框架，而当时整体框架暂不打算开放。他不得不把相关部分在公开框架上重写，适配花两三天，代码规范化又花一周多；“一周可以做不少事儿了”。
规范也不是一日之功。他见过项目把三个文件直接命名为 step 1、step 2、step 3，后来者若插入步骤只能叫 step 1.5 或重命名全部文件；清晰命名和统一格式决定了别人能否真正维护、扩展代码。

12. 数据仍是最深的禁区，隐私风险压过复现价值

商业公司几乎不公开完整训练数据，最多在报告中披露不同数据的比例。王子涵认为原因不只是“不想开”，还包括信息敏感性和安全责任。
即使网页公开且法律允许抓取，把大量个人网站集中进数据集，仍可能让使用者迅速定位个人信息并用于不好的事情；数据由分散可见变成集中可检索，风险也随之变化。
他举出的少数例外包括 AllenAI 和 EleutherAI。后者的 Pythia 不仅开放相关成果，还提供第 0、1、2、4 步到第 1,000 步、此后每隔 1,000 步的预训练 checkpoint，因而被曼祺概括为“保姆式开源”。

13. 开最强还是开小模型，本质取决于盈利与生态目标

DeepSeek 长期用宽松的 MIT License 开放自己的最强模型；曼祺还提到，MiniMax、阶跃星辰从 1 月起陆续发布首批开源模型，并提到文心宣布到 6 月 30 日正式开源。
曼祺追问文心为何要等这么久，王子涵认为工作量肯定是重要原因，但仍“看他们自己的计划”。缺少开源积淀的公司，需要额外投入代码规范、依赖替换、文档和维护人员。
王子涵把策略与盈利模式相连：不靠模型订阅或 API 溢价赚钱的机构，可能开放最强模型，甚至希望重构行业生态、让自己的系统成为标准；需要维持商业领先的公司，则可能开放较小版本服务社区，同时保留核心优势。
对 OpenAI 是否会开放最强模型，他的回答是“不太确定”。Sam Altman 当时的投票选项是 o3-mini 或可在手机端部署的 phone-size model；曼祺随后认为开哪个都能服务一部分人，王子涵则转而讨论不开源也可能有其合理性。

14. 模型越强，开放与滥用的张力越难回避

王子涵的 Twitter 账号曾被黑。他推测攻击者用 Large Language Model 制作 Agent，针对不同用户生成不同角度的商业访谈邀请，最终诱导点击链接；甚至可能继续训练模型，以提高点击成功率。
他据此提出，未来模型足够强时，“开一个比较小的模型，然后最强的那个不开源”可能更合理，因为开发者很难阻止他人围绕恶意目标使用它。
他给出的升级场景不是抽象末日论，而是更廉价的规模化伤害：最强模型不仅能钓鱼，还可能自动注册 100 个小号发动网络暴力。王子涵确认，这一判断不是商业保护论，而是对技术社会影响的考虑。
面对 AI 智力超过人类，王子涵又拒绝把智能当成唯一价值：围棋界也从抗拒 AI 转向学习和娱乐。“那就不用拼了”“享受它就好”；人进入世界如同注册游戏账号，“我为游戏带来一个新玩家，这就是意义。”

Chris Pedregal——打造 Granola——[Invest Like the Best，EP.412]全球资本市场分析2月25日