
高洪浩
观点集合
179: 蒸馏风暴:一场无人公开谈论的技术竞赛
o1与DeepSeek R1的技术节点提升了蒸馏的投入回报,思维链和Agent轨迹也成为训练原料。张一鸣禁止Seed蒸馏,是以短期落后换取更深层AGI壁垒的战略下注;Anthropic的点名、行为指纹和潜在实体清单风险,则使合规与智能供需错配成为更大的未决变量。
查看摘要(7段)
- 蒸馏不是原初意义上的抄答案,而是“有门槛的抄作业”。 典型做法是用强模型(如 Fable、Claude)的问答、思维链乃至 Agent 完整任务轨迹去训练学生模型逼近其输出行为,需要算力、数据管线和 know-how;即便某些做法不算典型蒸馏,洪浩指出,只要用强模型输出优化竞品,对 Anthropic、OpenAI 和 Google DeepMind 来说也违反其宽泛的用户协议——法律上“目前是个灰色地带”。
- 两个技术节点让蒸馏的投入回报比提升,规模从 2025 年起明显变大。 2024 年 9 月 o1 揭示后训练大规模强化学习可学到推理策略、思维链成为“更好的来蒸馏的数据的原料”;2025 年 1 月 DeepSeek R1 同步发布六个蒸馏小模型(四个 Qwen 2.5 底座、两个 Llama 3 底座)。叠加 K3 等开源模型逼近美国闭源,蒸馏被推到中美竞争的风口浪尖。
- 张一鸣禁止 Seed 蒸馏是一次真实的战略下注,代价与逻辑都清晰。 他认为蒸馏“短期内可以改善模型表现,但本质上是在复制 Claude 已有的能力”,最多逼近、无法超越;据曼祺判断,Seed 2.1(6 月发布)应该使用过一些蒸馏手段,之后应该经历内部讨论并决定不再蒸馏。与此同时,报道提到字节从 6 月开始重组数据团队,拟成立与 Seed、Flow 平行的一级部门“AI 数据与安全”。组织代价论最锋利——“张一鸣可能不是最懂技术的,但他大概率是最懂人性的”。
- 点名与反制升级正在把蒸馏变成合规尾部风险。 Anthropic 2 月点名 DeepSeek、Kimi、MiniMax,6 月致美国国会信称千问 2,880 万次交互是“有史以来发现的规模最大的蒸馏攻击”,并已部署蒸馏流量分类器与行为指纹系统,可在过程中发现跨账号协同与套取思维链;本地部署接近 3T 的开源模型来蒸也需要大量算力、电费高,曼祺认为这种行为比较容易被监测。实体清单则是洪浩假设中的潜在代价。
- 学生能否超越老师在技术上是开放问题,但持续第一取决于创新。 多教师蒸馏“博采众长”、特定任务超越教师都有可能;不过“现在就是各领风骚几个月”,且若自进化假设成立,率先到达某状态者加速度更大、把后面的人“甩得更远”——靠蒸馏紧跟并不足以自满。
- 双标之辩留下一个有价值的判例回旋镖。 Anthropic 因从盗版书网站下书被作家集体诉讼、达成 15 亿美元和解,而加州法院判例认为付费后训练不侵权——洪浩追问:同一逻辑下,别家用 Anthropic 的产出提升自家模型是否也不构成侵权?“这个案例挺有意思。”
- 比蒸馏更大的变量可能是智能供需错配。 “斩杀线”图上 V4 和 Grok 4.6 下方、右侧的模型均被斩杀;一位应用创始人称用户“十个任务里面八个都能被 DeepSeek V4 Flash 解决”,白领任务对更强智能的需求规模与节奏都打问号——“我们之前都说 coding 比视频生成大,万一错了呢?”这比估值的短期波动更动摇 frontier 投入的商业逻辑。
176: 姚顺雨,来到腾讯300天
姚舜宇接手腾讯混元300天,先以组织换血和预期管理稳住追赶节奏,再推动模型与业务协同。节目也讨论微信数据壁垒、腾讯联邦制的组织难题,以及字节C团队和Coding商业化被反复高估的可能。
查看摘要(7段)
- 姚舜宇空降腾讯混元300天的核心动作不是模型而是组织换血:在老板信任峰值的头两三个月里,预训练、后训练、评测、infra 负责人"基本起了一遍",全部换成自己招的人(infra 整批来自被视为行业最强的字节 Seed infra)。 洪浩的方法论值得记住:“最聪明的改革者一定是在老板最信任的阶段去做最激进的事”,而腾讯老板的耐心估计"可能两三年"。
- 混元三(约290B MoE)是符合预期、不是惊喜:内部定位就是小模型,“核心是让整个组织磨合好,让团队士气重振”;4月先发 preview 做预期管理,正式版再抬一级。 姚自己判断也清醒——混元四"也未必真正进入第一梯队",真正有影响力的模型还要再往后。追赶叙事(“超越千问只是时间问题”)与交付节奏之间,靠预期管理维持。
- 姚选腾讯的逻辑出自其博客《The Second Half》:下半场比拼的不是训练技巧而是"定义真正值得解决的问题",这依赖大公司的 context——他眼中腾讯和 Meta 是拥有最多 context 的两家;字节8亿 DAU 但"画像同质化"、生态围绕推荐分发被 pass。
- 但 context 论撞上现实:微信至今没有给混元数据,张小龙"对微信的隐私用户数据极度在意",宁可自研258B模型求可控,两套底模"大概率长期并存"。 在中国公司算力与海外头部"至少差一个数量级"的约束下,腾讯"联邦制"能否拧成一股绳是 Martin 的核心命题——内部用《黑鹰坠落》作隐喻:精锐的三角洲抓捕完美,协同的游骑兵掉链子,任务惨败。
- 最有增量的落地动作是全公司共用的强化学习平台:混元向各业务派驻2-3人后训练小组,Work Body 和元宝当种子用户;混元训练的很多数据要从 Work Body 来。 模型层与应用层的联动,是继组织之后的第二场仗。
- C的悖论是本期最锋利的投资讨论:所有人都笃信字节 C的团队留在牌桌(最好的资源、人才、钱、infra),但它没做出 Kimi/DeepSeek/千问级的口碑,coding “可能第二梯队头部都不一定在”。 曼祺的解释——这信心只是"对短期历史惯性的记忆",一个偏感性的来源;可观察指标是字节出来的人更好融资。
- Coding 商业化的冷水:企业按坐席采购但真实坐席率不高,“按坐席卖也好、按C端付费看也好,都没有那么乐观”,从程序员扩散到白领的"增长斜率还是非常低"——洪浩担心它 SaaS 化(增长慢、收入弱、不赢者通吃),“想象空间在中国是不是就挺有限的”。 商业化目前只验证了 coding 和视频生成;而"从二三年开始每年秋天大家都说泡沫要破了,已经发生三次了"。
162: 批量生素材、模型筛网红|与飞书深诺Meetsocial沈晨岗聊AI时代的出海营销
中国企业出海正从商品和即时卖货转向产品、品牌与长期经营,流量涨价、同质化和合规收紧迫使企业补上用户研究与产品迭代。飞书深诺把创意拆成 agentic flow,标准化场景已从每日 5—10 个素材扩展到数百上千个,单客户一周交付 6,000 个剪辑创意,但预算决策和质量框架仍需人负责。
查看摘要(8段)
沈晨岗认为,2025年是中国企业出海从“商品到产品”转向“产品到品牌”更明显的分水岭,但并非一夜突变。 流量涨价、同质化竞争,以及媒体与流量生态对商品合规和质量要求的提高,堵住了继续“下卷”的路,企业必须从即时卖货转向用户研究、产品迭代和心智建设;最终走向全球的不只是商品、产品或品牌,而是“一家有灵魂的、有生命力的企业”。
飞书深诺的 D-MES 模型中,数字化 D 不是并列能力,而是放大销售、产品和品牌能力的乘数。 数字化既提升支付、供应链、交付等流程的效率,也提高决策速度和质量;沈晨岗的竞争判断是,对市场反应更快、认知更准确、行动更到位的一方更可能胜出。
营销业对 AI 的最大共识是“很重要、现在就上”,最大非共识却是它究竟能解决什么问题。 麦当劳荷兰 AI 节日广告的争议说明,能生成图片或视频不等于能完成商业创意;若内容不能带来点赞、注册、下单或购买,“为了做而做有什么意义呢?”
AI 已显著降低内容生产的成本和门槛,却仍难独立承担高价值、低容错的预算与投放决策。 一个优化师每天面对成百上千个去留、出价、媒体和市场预算判断,AI 目前更多从后台提供信息,再逐步“从后端走向前端”;将高风险客服或投放判断交给 AI,一次错误就可能产生致命商业后果。
飞书深诺把创意拆成需求理解、策略规划、图片或视频制作、质量检查等多个 agent,并由人调度成 agentic flow。 原先一名创意师每天产出 5—10 个素材,现在标准化场景可达数百甚至上千个;春节期间,一个短剧客户一周收到 6,000 个剪辑创意,日广告消耗从几千美元升至十几万美元。
批量生成之后,真正稀缺的是能判断和提升商业效果的质量能力,而非生成能力本身。 沈晨岗称,“质量差百分之一,最后的效果可能就会差百分之十以上”;AI 能给素材打成百上千个标签,却不能自行创造判断好坏的基础框架,人仍需抽象知识、定义方法并把反馈教给模型。
服务商的潜在护城河不是拥有一个通用模型,而是可复用的基础设施、跨客户数据和与客户业务相连的数字闭环。 飞书深诺称其能力可分摊到超过 10 万家客户、系统每天沉淀超过 2,000 万美元广告花费数据;修正客户自身的网站或数据采集链路,可能带来 10%—20% 的提升,远高于只在投放端争取的 1%—2%,形成“相乘的,不是加”的效应。
沈晨岗预判,未来三至五年营销将从独立投广告变成企业经营的数字神经中枢。 用户的观看、点赞、注册、购买和复购会反向驱动产品、订单与供应链,AI 同时降低全球营销门槛;但先机取决于组织能否真正重组流程,“我们都觉得很难,其他人可能觉得更难”。