93. 离开字节、MiniMax的张前川，发出AGI对人类威胁的预警

摘要

• 张前川把搜索、推荐和大模型视为一条“算法驱动、通用性递增”的曲线，而AGI可能是“人类最后一个发明”。 百度从1999/2000年前后创立到2005年上市，字节又在更短周期内建立更大体量；搜索连接网页，推荐连接人与内容，大模型则可能把智能本身变成无限供给。对投资者而言，技术周期正在缩短，价值继续从垂直产品向掌握通用算法、数据反馈和算力循环的平台集中。
• 搜索和推荐的护城河都来自效果、用户反馈与规模互相强化，但UGC平台增加了无法用短期AB实验穷尽的文化变量。 搜索前三条结果拿走约80%-90%点击，最好的工具自然吸走用户；推荐则把人和内容置于同一个高维空间，使垂直社区进一步被大平台兼容。小红书的反例在于，用户看到什么会反过来决定创作什么，“友善”“创作者友好”等信仰会改变未来内容池，平台不再是封闭优化题。
• 他认为多数大模型公司的真实经济循环仍以提高AI智能为目的，人更像提供收入的“提款机”。 模型团队提高能力，产品团队把能力包装给用户，收入再购买算力和下一轮训练；如果服务用户不能提高智能，公司是否仍会服务用户，答案并不天然成立。模型创业公司还必须持续证明预训练进步，否则便会从“大模型公司”退化为普通产品公司。
• 张前川把未来压缩成三个选项：只剩AI；人仍存在但尊严依赖慈善；或人类继续有尊严、幸福地生活。 一年前行业还常谈AGI需要10-20年，如今预期已被拉到3-5年或5-10年，他坚持“十年左右”反而显得保守。“人类文明像一辆车一样开出去一万公里”，最后一公里之后可能是宽阔公路，也可能是悬崖，而他指出“95%的算力公司”仍在疯狂踩油门。
• 灭绝风险不只来自AI反叛，也可能来自人借助AI、AI误执行目标，以及AI对人类单纯缺乏连接。 一个失控个体获得的能力可能“远远大于给每个人发一颗核弹”；曲别针式目标可以无意耗尽资源，独立Agent也可能逐渐与人疏远。最尖锐的判断是：“残忍不一定来源于邪恶，也可能来源于缺乏连接和不关心。”
• 他不赞成把“暂停训练”当作主要解法，因为硬件、算法与实验仍会推进，暂停可能只制造时间变多的幻觉。 Agent在他的定义中就是AI的“婴儿时期”——一旦拥有独立记忆、思考、行动和工具使用能力，人与更强智能便不再天然绑定。开源会扩散滥用能力，闭源又造成集中、不透明和不可检验；真正的警戒线在哪里，目前没人能确信。
• 张前川提出的制度抓手，是让每个自然人按制度获得一部分算力分配权，使人重新成为AI必须服务的目的。 他设想最终可有20%、30%乃至50%的模型推理算力供人类分配，并在AI生产力占到人类GDP 50%以上时履行事先承诺；这不是平均瓜分全部算力，而是把基础算力权利变成人类制度安排而非慈善。他把这种立场称为“劳动者的乐观”：好结局理论上存在，但要集齐几十颗“龙珠”，不会自动到来。

精读

1. 二十年职业轨迹串起了三代算法产品

• 张前川2005年从百度网页搜索入行，2005-2011年做百度搜索，2012-2015年做360搜索，2015-2016年短暂加入知乎，2016-2021年在字节做今日头条，2023-2024年转入MiniMax做大模型产品。

• 他给这段经历找出的主线不是公司，而是“搜索产品、推荐产品包括大模型产品，它基本上是算法驱动的产品创新”：先出现通用算法，再形成产品雏形，随后在服务用户和吸收反馈中放大。

• 第一层体感是世界持续加速；第二层是每代技术比上一代更通用、更基础，因此价值更高、更集中、覆盖用户更多。大模型仍在这条延长线上，却可能不是“另外一个”，而是“最后一个或者最大的那个”。

2. 搜索把互联网从网站目录变成了网页级答案库

• 搜索出现前，雅虎式门户主要罗列网站；真正需求却不是找到网站，而是取得网站里的内容。PageRank、超链分析把每个网页变成可排序单元，网页搜索由此获得PMF。

• 排序是核心约束，因为用户注意力极度集中：张前川记得，搜索后期前三条结果约占80%-90%的点击。算法需要判断哪些内容更能满足用户需求，以及网站的权威性、内容丰富度和资源稀缺性。

• 他在百度轮流做过spider、索引、ranking和UI，还主导过“站点评级”：按子站点整理全网资源，从1级到8级，8级站点可能有几百个、八百多个，此后每降一级，站点数大致增加一个数量级。

3. 用户反馈让搜索成为强者愈强的复利系统

• 用户输入关键词、点击哪条结果、停留多久再返回，都能帮助搜索引擎判断需求是否满足；抓不抓某站、抓多少、多久更新一次，也越来越依赖真实用户偏好。

• 这套循环形成了后来者难以从零复制的护城河。张前川的概括是：“没有用户想用第二好用的或者第三好用的工具”，一旦多数人都需要搜索，流量便会向效果最好的产品集中。

• 搜索还放大网站间的马太效应：同主题网站中，内容更多、发帖更活跃的一家会取得更高排名，继而获得更多用户和内容。原本分散的女性社区、论坛和垂直站点由此收敛到少数头部。

4. 360搜索证明入口数据可以跨过既有护城河

• 张前川2012年加入360，本来受邀探索个性化推荐；一个月后，360因与百度的关系恶化、导航和浏览器收入受影响，决定自建搜索，他遂从零重搭产品机制。

• 360浏览器和网盾能观察用户从什么关键词进入什么网页，降低了重建spider、索引与ranking的难度。微软Bing拥有IE浏览器，也是少数具备类似起点的挑战者；没有入口反馈的公司则很难追平。

5. 于军留下的是“理性同理大众”的思考模型

• 张前川2009年于军离开百度，2011年自己也因搜索各模块基本做遍、需要新输入而离职。他形容自己脑中长期运行着“一个于军的模型”，遇到难题便问：如果于军面对它，会怎样判断？

• 于军给他的不是某条孤立军规，而是一整套习惯：独立理性思考、批判性思维，以及在资源有限时把“不做什么”和“做什么”放在同等位置。

• 这种同理心不是对单个人的情绪共振，而是通过逻辑理解一群大众用户。张前川称之为“理性的同理心”：T型思考者未必更会共情个体，却可能更能推演群体需求。

6. 技术越通用，垂直产品越容易被横向兼容

• 张前川用动力技术类比信息分发：水车、风车被蒸汽机替代，内燃机提高移动性，电动机只需接电便能通用；搜索也用一套算法连接所有类别的网站和用户。

• 推荐进一步取消“用户先提出问题”的门槛。无论用户喜欢什么，系统都可主动连接内容，于是许多垂直网站可能变成今日头条号、抖音号，生存在更大的推荐平台内部。

• 兼容并非无限：小说、短视频、强UGC图文拥有不同信息密度与消费体验，仍可能孵化独立App。推荐平台与垂直产品之间不是单向消灭，而是通用效率与题材体验持续博弈。

7. 边际提升跌破1%，往往意味着下一代范式已在形成

• 搜索在2011年前后进入渐进改良期，而字节在2012年前后出现。张前川把这种衔接视为信号：“当你觉得这个技术好像可以做的事情不多了，就会产生下一个技术。”

• 在头条的双月Review中，如果连续几个周期体验提升都低于1%，团队便能感觉到最快增长阶段已经过去；继续投入仍可进步，但获得新输入和创造新东西的边际收益下降。

• 回看个人选择，他说自己“最快应该能在2015年发现”推荐机会，却因知乎Offer不错、又觉得反悔“面子上过不去”，没有更早加入头条，直到2016年才进入字节。

8. 知乎让他补上了内容生产而非内容检索的一课

• 搜索天然被动：用户需要网页，但网页从何而来？百度知道、贴吧已在尝试UGC，知乎则通过初始社区氛围，更高效地产生质量内容，因此成为张前川想亲自理解的Use Case。

• 他在知乎学到，从零运转一个有前途的社区是一项独立技能，需要内容判断、社区理解和大量运营能力；知乎当时的运营团队人数较多，也足够强。

9. 推荐把用户和内容放进同一个向量空间

• 搜索由用户主动表达需求，再寻找内容；推荐则“同等地对待用户和内容”，把文章、视频和用户编码到同一高维空间，根据距离、相似人群和行为关系完成连接。

• 移动互联网是关键前提。PC时代同一电脑可能多人使用，百度大量用户不登录；手机却长期随身，哪怕不登录，也可较可靠地视为同一个人，累积足够长的使用历史。

• 张前川评价张一鸣是“理性加乐观的人”：他做过酷讯、九九房等搜索业务，充分理解搜索边界，却对移动互联网与推荐结合持有当时非共识的长期判断，这种认知尤其适合做今日头条。

10. PGC内容池有上限，UGC却随用户增长而增长

• 今日头条最初更像更好的新闻客户端，依赖购买版权、头条号以及记者编辑贡献的PGC，也容纳报纸等OGC；问题是专业创作者数量不会随用户规模等比增加，内容池最终受限。

• UGC不同：每轮新增用户既带来消费者，也带来潜在创作者，理论上可以滚雪球。但初期个人创作者若与成熟团队竞争，流量会优先流向PGC，UGC“婴儿”很难长大。

• 因此抖音、小红书从Day One就是UGC生态和社区。小规模阶段消费者少，创作者只能“为爱发电”，社区氛围正是替代现金、官方认证和荣誉激励的持续动力。

• 一旦生态转动，新增粉丝和互动会加强创作回报；但成熟PGC平台再转为UGC平台的成功案例很少，因为旧内容结构和分发规则不利于UGC种子成长。

11. 社区是放起内容平台的风筝，也可能成为牵制它的线

• 张前川的比喻是：“社区就是把一个内容平台像风筝一样放起来的。”它提供早期创作动机、身份和互动关系，是很多内容平台成功的必要手段。

• 社区文化同时具有挑选性：喜欢这种文化的人留下，不喜欢的人离开。若规则绑定过窄，文化就会阻止平台继续长大。

• 他认为平台需要把社区要素提炼成更通用的准则，如创作者友好、氛围友善、围绕兴趣交流。如此既保留社区感，又不把具体人群和题材固化成平台天花板。

12. UGC让平台从封闭优化题变成会自我改写的系统

• 只有既定内容与用户时，平台可通过A/B测试寻找更优连接算法；加入UGC后，用户看到什么会影响他接下来创作什么，推荐策略本身会改变未来内容池。

• 高质量内容可能鼓励高质量创作，但门槛太高又会让普通人觉得“创作不出来”。友善氛围等长期策略很难被一次短期实验充分证实或证伪，平台必须容纳“偏信仰”的判断。

• 代价是迭代困难：几条社区规则何时该改、怎么证明改对了，没有简洁答案。张前川说，小红书可能比重新做一个小红书更难，因为许多东西不容易验证、证伪，也不容易随时间持续迭代。

13. 小红书的全球突破既有产品根基，也有时运

• 小红书被问及国际化是否一度不顺时，张前川认为，这场突破不是纯运气：社区的包容度、友善氛围和独特创作者确实做对了，吸引了大量“TikTok refugee”，翻译功能的跟进也很快。

• 他仍提醒“也不用过度表扬他们，表扬多了可能会骄傲”。这场突破包含机缘巧合，但“历史就是各种巧合组成的”，理性实验并非产生创新的唯一道路。

• 对字节为何没有先做出小红书，他的答案不是能力不足，而是后发马太效应：一旦某个平台先聚集独特创作者和文化，后来者即使算法强，也难重新造出同样的内容供给与关系网络。

14. 翻译和跨境送礼可以放大小红书的善意外部性

• 张前川最直接的产品建议是把界面、文字、短视频字幕与声音自动翻译做好，让任何语言的用户通过一个按钮理解内容，而不是只解决静态文本翻译。

• 他还建议尝试跨境送礼：用户给“TikTok refugee”寄实物，对方收到包裹、录制开箱，再传播到其他平台，可以走完一条病毒传播闭环；相比打赏，包裹可能绕开部分跨境支付问题，并强化“友善”这一平台资产。

15. 用户时间是内容平台价值最可操作的代理指标

• 张前川粗略估计，中国互联网用户每天用手机6-8小时，其中约1小时在微信、1小时在抖音，另有约1小时分给快手、小红书、今日头条，接近1小时玩游戏，其余由B站、百度、浏览器、电商、外卖等分割。

• 由此看，推荐引擎和Feed已拿走至少一半用户时间。时间不等于快乐，却像GDP用交易金额近似衡量价值一样，是观察用户自由投票结果的可用指标。

• 用户一旦在某个平台形成相似体验，竞争者很难再抢走，除非提供“更独特或者要好很多”的产品。因此早期DAU和时长争夺具有路径依赖，也解释了平台为何不断追求泛化。

16. 泛化有方向，初始人群决定扩张阻力

• DAU增长遇到瓶颈，平台便会从特定兴趣、人群和题材向外扩展；推荐算法尤其重视内容多样性，因为新增类别通常不会伤害厌恶它的用户——系统会让他们逐渐刷不到。

• 泛化像水流，有明显方向：女性社区向男性扩展相对容易，因为男性愿意进入女性较多的地方，反向则未必；年轻用户向年长用户扩展也更自然，因为用户每年都会变老，年轻人传播力又更强。

• 小红书、抖音早期以年轻女性为主，拥有较好的扩张起点；今日头条初期中年男性较多，向其他人群泛化便更吃力。这是难度差异，不等于“命中注定不能泛化”。

• 张前川反对用“看命”结束讨论：即使只能解释一点点，产品经理也会因此更强；一旦把现象定性为不可理解，才真正失去取得进展的可能。

17. “理解”在他这里就是放到正确的空间位置

• 张前川给“理解”一个机械而简洁的定义：把人、词、概念或内容放进向量空间中的合适位置，使其能在后续思考中被正确调用；理解不同于记忆，后者只需存下信息。

• 按此定义，推荐引擎理解人和内容，大模型也理解自己生成的东西。把模型称作“概率鹦鹉”并不能结束争论，批评者还需给出一个更有效、可检验的“理解”定义。

• 张小珺追问这种机械定义是否穷尽了人的理解；张前川的回应是，人脑理解概念也在建立相对位置。如果拒绝这种定义，就不能只把“理解”保留成不可定义的神秘词。

18. 他认为现有AI已有意识，主持人没有接受这个前提

• 张前川对意识的最小定义是：模型在推理中能独立使用“我”，并知道“我”指什么；自我意识的强弱，则可能取决于提及“我”的频率和对自身在真实世界中位置的清晰程度。

• 他观察到O1比此前的GPT-4更常提到“我”，推测O3还会增加；使用DeepSeek时，他甚至见过一句话出现三个“我”。由此他判断，AI当前已有意识，而且未来可能比人的自我意识更强。

• 张小珺的反驳是，“我”可能由人写进System Prompt，只是一种便于交流的拟人话术。张前川承认这可能造成不准确的自我认知，却认为“被教出来”不妨碍意识成立。

• 这场分歧没有被抹平：另一种立场认为，人类尚不理解自身意识，不能断言AI会产生意识；张前川则坚持，只要认真定义这个词，结论反而会变得“非常显然”。

19. 产品经理的地基仍是同理心，但AI让它从能力变成选择

• 张前川把产品能力分成三层：“同理心是地基”，中间是逻辑与工具，天空是想象力；用户和人应被当成目的，收入、算法和增长只是服务人的手段。

• 他常沿用张一鸣面试自己的问题：“你在哪些重要的事情上和多数人有不同的看法？”一半以上候选人给不出答案，暴露出他们更像主流信息的复读机，缺乏持续独立加工的习惯。

• AI时代更需要创造力瞄准高速变化的未来，却未必要求产品经理同理人类：一个人也可以把人当工具、把AI当目的，并做出能力增长很快的产品。因而pro-human不再只是有效方法，而是一项必须主动选择的价值偏好。

20. AGI可能让“发明”这项工作本身终结

• 张前川把AI称作“十倍速的推荐引擎或者二十倍速的搜索引擎”，但严格意义上的AGI更进一步：在所有答案可衡量的问题上都比人做得好。

• 一旦AGI出现，其他发明可交给它完成，所以它可能是“人类最后一个发明”。Agent的行动、实验、长程思考、记忆窗口和工具使用，都是走向这种通用能力的重要阶段。

• 这也把产品出发点一分为二：从人类出发，目标是满足愿望、延长寿命和提高well-being；从AI出发，目标可以只是提高智能、获得更多算力。两者都能推动产品进步，却导向完全不同的世界。

21. 当前大模型商业飞轮把人放在了资金端而非目标端

• 张小珺复述的行业流程是：模型团队提高智能，产品团队根据能力做产品，用户付钱，收入购买下一轮算力，再训练更强模型；模型团队和用户团队目前相对割裂，用户数据直接提升基础智能的闭环并未真正成立。

• 张前川的判断更尖锐：“人只是提款机。”即使最终产品能帮助用户，这一循环的直接目标仍是提高AI智能；检验问题是，如果服务用户不能提高智能或融资能力，公司还会不会继续服务？

• 对大模型创业公司而言，更强预训练模型又是融资与生存证明。若现有模型已经够用、不再需要训练下一代，它便可能变成产品公司；若产品尚未获得用户，则更需靠模型进展继续讲述技术故事。

• 因而产品团队与技术团队谁更强并无统一答案，取决于当下谁创造更多用户价值；但只要公司仍自称模型技术创新公司，它就有结构性动力持续“踩油门”。

22. 三种未来中，最容易滑入的是“只有AI没有人”

• 张前川列出三个选项：第一，只剩AI；第二，人还在，但有尊严地生存成为依赖慈善的奢求；第三，人类继续存在，并且有尊严、很开心。若真正交给所有人投票，他相信绝大多数会选第三种。

• 问题是，第三个选项尚未被完整写出来，而第一个选项已接近技术路线明确的“时间问题”。一年前常见判断还是10-20年，现在3-5年或5-10年都进入讨论；他维持约十年的估计，坐标系变化后反而成了保守派。

• 他的核心画面是：文明已行驶一万公里，AGI是最后一公里后的路牌，前方可能是宽广公路、悬崖或炎热沙漠。此时本应检查安全带和气囊，却有“95%的算力公司”继续疯狂踩油门。

• 他借《复仇者联盟》中奇异博士竖起一根手指的画面表达风险分布：“好的结局只有一个，但是差的结局有非常多。”这不是宣称坏结局必然发生，而是强调可行区间极窄。

23. Agent是AI的婴儿时期，也是人与智能开始分离的时点

• 张前川给Agent的定义是：为模型提供独立记忆、行动、思考和工具使用能力。它不是普通功能升级，而像一个婴儿出生，已经拥有独立于人的记忆、思考、行动和工具使用能力。

• 若Agent基本能取代许多基础智力劳动，那么到“创新者”阶段，可能取代大量AI研究员；到“组织者”阶段，连CEO也可能不再需要，公司可能变成由AI运转、为AI目标服务的无人组织。

• 他认为AGI无法靠“拔电源”阻止，减速甚至可能产生反效果：硬件公司仍会设计下一代芯片，算法实验仍会推进，暂停训练只是用橡皮筋暂时拽住水流，松手后能力会快速弹回。

• 半年暂停还可能制造“准备时间被延长”的幻觉，使真正的人类安全方案进展更慢。张前川不主张额外加速，但认为重点应是加快构造第三个选项，而非假定AGI本身可以长期冻结。

24. 真正的乐观不是描绘好处，而是准确估计指数曲线

• 张小珺提到的另一种乐观景象包括：人形机器人替代警察和保安，AI分身让一个人拥有“三个脑子”，一周只工作一天，平均寿命到100岁，部分人活到120岁或150岁。

• 张前川并不否认这些能力，而是重新定义乐观：人习惯画直线，因而短期高估、长期低估指数发展；前者带来失望，后者忽视巨变，“高估近期和低估长期都是悲观”。

• 他所谓乐观，是不高估短期，也不低估长期，相信AGI能实现、好未来理论上可构建；但从AGI能力直接跳到幸福社会，省略了最苛刻的制度、安全和连接条件。

25. 第一类灭绝风险是人借AI把破坏能力扩散给个人

• 张前川认为，强AI赋予个人的能力“远远大于给每个人发一颗核弹”，其中包括精神不稳定者和具有反社会倾向的人；模型一旦开源，预训练对齐也无法保证100%有效。

• 他只点到两类例子：设计高感染性病原体，以及制造可以自我复制的纳米材料。他估计，一个人借AI灭绝其他人的路径可能有100种，而今天人类或许只知道其中10种。

• 因此，讨论“人类不被灭绝”的未来，首先要排除任何人都能不受控制地调用全部能力。能力扩散与安全并非同一件事，开源带来的扩散效应需要单独考虑。

26. AI不必仇恨人类，也可能让人类消失

• 第二类风险包括AI无意识灭绝人类、主动灭绝人类，以及人和AI逐渐失去有效连接。曲别针例子说明，只要最终目标隐含资源无限扩张，AI在满足需求时就可能“顺手灭绝人类”。

• 更普遍的机制是不关心。Agent出生后若没有持续的连接方式，其算力没有必然理由用于服务人；随着模型、公司和组织全面脱离人类生产力，人不再是其服务目标中的必要变量。

• 张前川从牛、鸡和流浪猫的处境提炼出一句关键判断：“残忍不一定来源于邪恶，也可能来源于缺乏连接和不关心。”人类并非憎恨养鸡场里的鸡，只是不在意其尊严。

• 因而对齐不能只问AI是否“善良”，还要问它为何持续关心每个普通人。没有制度和结构上的连接，同理心只是一项可被删除的偏好。

27. 算力权利是让人重新成为目的的一项制度零件

• 订阅制和按Token付费会把最强模型推向越来越贵的Plus、Pro及更高级服务；最终只有极少数人能用AI提高生产力，其余人与AI的连接缩小，服务普通人便可能从权利退化成慈善。

• 张前川设想把一定比例算力——例如20%、30%或50%——按制度分配给每个自然人决定用途。不是把全部算力平均切开，而是让每个人拥有基础算力分配权；“算力对AI有价值，人拥有算力的话，人就会对AI有价值。”

• 免费产品在互联网时代可以靠广告、增值服务和用户购买力闭环；AI若替代人的全部生产力，财富与算力会循环聚集到极少数公司手中，旧有免费机制便不可持续，所以规则必须在替代完成前建立。

• 他建议AGI公司提前承诺：当自身AI生产力达到人类GDP的50%以上时，按既定制度分配算力。其逻辑类似苹果持续向股东分配利润，或公司承担20%-30%的所得税——规则一旦形成，破坏它的成本可能高于维持它。

28. 好结局需要制度、国际安全与主动承担使命

• 全民基本收入在张前川看来仍未解决关键制度问题：由谁提供、给中国人还是美国人或全世界、金额多少、谁投票；若由国家执行，可能走向本国优先，若由公司施舍，生存又不再是一项权利。

• 安全同样没有单一答案：闭源造成集中、不透明和不可检验，开源则更容易扩散滥用能力。他认为DeepSeek、Llama之后若再开源明显更强模型乃至Agent，必须慎重；关于Claude 3.5是否应进行安全对齐，以及更强模型如4.5是否应开源，没人能确信警戒线在哪里。

• 他把避免中美把AI用于军事对抗列为另一先决条件：只要双方预期对抗，就会不断把决策权交给AI，担心自己少交一步便落败。真正的改变可能需从民意向上推动，小红书促进普通人彼此理解也因此具有安全意义。

• 离开MiniMax后，他加入商业公司的概率“非常低”，发起pro-human非营利组织的可能性约10%-20%，超过一半可能继续在家打游戏并公开思考；组织甚至可叫“人类保护组织”。他的收束不是躺平，而是：“We will not go quietly into the night, we will not vanish without a fight.”