E247|对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”
E247|对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”
摘要
- 推理赛道是一个没有输家的游戏——盛颖的格局判断:inference provider 层出不穷,“但没有任何一个因为 competition 的存在而消减下去,所有人都是同步增长”。 主持人盘点行情:疑似 vLLM 核心团队商业化成立 Inferact(音),融资 1.5 亿美元、估值 8 亿;Vast(音)融 3 亿美元、估值 50 亿;Fireworks 估值 40 亿;Together 寻求 10 亿新融资。他点出两大趋势:AI 开始要"盈利和兑现",市场 effort 从 training 转向 inference;同时 AI native 公司碰到 prompt engineering 的局限,要用自有 data 做 customization——一些 established 的 AI 公司正向 RL 扩张。
- RadixArk(ASR 多处讹作 Red Shark 等)今年五月官宣 Axial 领投的一亿美元种子轮,英伟达投资部门、AMD、英特尔 CEO 陈立武、OpenAI 联创 John Schulman 等罕见集体下注。 底层资产 SGLang"从来没有靠市场推广和销售推广过",已跑在全球数十万张 GPU 上,每天为谷歌、微软、英伟达、xAI 生成数万亿 token。
- 公司的命脉不在这个开源 inference 项目:SGLang 全开源、归属疑似 LMSYS 的社区而非公司,“没有 private fork,我们并没有想通过这个地方制造 difference 去获取利益”。 RadixArk 的最终使命是"下一代 AI"——不一定是模型,“不是一个现在世界上已经存在的东西”,inference 只是起点和前提条件;Baseten、Fireworks 既是用户也可能视其为对手,他选择"希望这些都是我们的盟友"。
- 罕见的 xAI 内部视角:早期 xAI"个个都是人才、完全没有任何 politics",与联创集体出走的公众叙事"像在说两个不同的公司"。 他的诊断可迁移到所有高速扩张的 AI 公司——xAI 没有过好"从靠人运转到靠体制运转"的过渡期,“如果你不 pay attention,它就会 broken”。他本人为让撑不住的开源社区继续发展,在 one-year cliff 前两个月离开,放弃第一年 vesting。
- Day-zero 兼容的经济学:重要性由市场心态决定(“你发布了产品我第一天就去抢购”),DeepSeek V4 架构创新大到"大部分 code 基本上是重写",并首次支持 RL 的 DeepSeek 大模型。 对 latent space 推理(Meta 的疑似 Coconut 等)会否颠覆引擎,他不慌:“世界在变、结构在变本来就是写推理引擎的一环——真正的难点从来都还是回归人、团队本身。”
- 差异化在审美:“infra 不是一个 support 角色,infra 本身在我眼中就是产品”,RadixArk 把大厂优先级反转——training job 可以 pause、“刷分也不着急刷”,urgency 只属于 systematic 地解决深层问题。 Taste 的定义:“我的系统不仅能跑,我知道它是怎么跑起来的——是 well-designed 的形态,还是豆腐渣工程。”
- 贯穿全场的价值观主线是平权:被 CSDN 和网上题库"教会"所以开源如空气;性别不平等的标本——“我的每一场赢都要被解释”,解法唯一是让 top 0.001% 到 1% 真正拥有权利;AI 终局观——闭源可以存在但不能 centralized,“让所有人都拥有制造属于你自己的 AI 的等能力,但你制造出来的 AI 属于你自己”。
精读
1. 开场画像:一亿美元种子轮背后,是一个从没做过推广的开源项目
- 泓君的开场事实链:RadixArk 今年五月官宣 Axial 领投的一亿美元种子轮,英伟达投资部门、AMD、英特尔 CEO 陈立武、OpenAI 联创 John Schulman 均是投资人。底层是开源推理引擎 SGLang——“一个从来没有靠市场推广和销售推广过的项目”,今天跑在全球数十万张 GPU 上,每天为谷歌、微软、英伟达、xAI 生成数万亿 token。
- 时间线:SGLang 起于 2023 年盛颖斯坦福博士最后阶段,与疑似 LMSYS 社区研究者共同做出,“博士生涯的收官之作”;之后他加入 xAI 为 Grok 搭推理系统,再与朱邦华把开源项目变成公司。节目录制于 2026 年六月初,公司刚搬新办公室、四十多人——“扩张比我预期的快,scope 增长也比想象的快,各个地方都需要人。”
2. 从江西到纽约:两次舒适圈击破
- 本科毕业时他已接下港中文 PhD offer、君子协议已过,第二天却收到哥大"很普通的 master offer"。他选择交违约金毁约:“那个时候的学术中心还是在美国,我想出去看看。” 父亲在电话里一分钟拍板:“好,你去。”
- 纽约的 culture shock 反而是解放:“没有人在乎我穿什么、想什么、做什么”——从被限制状态到完全自由状态,“不需要被辖制,也不需要辖制别人”。
3. 普林斯顿的虚无:想成为数学家的时刻
- 读研本无意做研究,一门计算复杂性课加一群做理论的博士生朋友把他带了进去。真正击中他的是一次普林斯顿 workshop:“与世无争……大家所在乎的东西、你平时挣扎沉浮的东西都非常没有意义”,“什么都不重要是重要的——只有真实是重要的”。
- 数学的吸引在确定性带来的心流:“大脑被完全调动起来的时候,进入一种生理性愉悦。” 当时的志向很绝对:“我觉得我就要成为一个数学家,我只想做数学。”
- 附带一个东西海岸文化观察:在东海岸"我希望被世人遗忘";到了西海岸"你会感觉到更多关于成功与否的 noise,我又开始觉得我想参与世界的推动,我又觉得我不想跟世界无关了"。
4. 斯坦福选导师四轮不顺,被动进入形式化验证
- 斯坦福 rotation 前几轮"没有遇到能让我进入心流状态的问题,也没有跟哪个老师双向都觉得 exciting",直到第四轮遇到 Clark Barrett,被动进入形式化验证——“因为我要读这个 PhD,所以才需要不停做研究、产出论文,其实是比较被动的状态”。
- 他的科普:把人写的代码拆解映射到一阶逻辑,用 spec(前驱条件、invariants、后置条件)描述程序应满足什么,再从数学角度证明代码是否真的符合这套逻辑;他的研究集中在 SMT solver 本身的优化——efficiency、正确性,以及"你定义什么样的语义空间可以去表达一份代码所做的事情"。
5. 高产简历的真相:干瘪、空窗与推翻重写
- “真实的过程比简历上的内容要干瘪很多、boring 很多。” 2020 年 IJCAR 最佳论文(Politeness 一篇)拿得"完全没有想到"——“我当时是一个完全小白的状态,导师给了我一个问题,我去解决它而已。被别人 congrats 的时候才得知拿了奖。”
- 随后疫情,“接近一年的时间在一个 depression 的状态里"没有做任何事。导师 Clark 只关心他的精神状态,让他上课、做 TA,“卡尔从来没有断过我的经费”——他回国休养半年,一年后才走出来。
- 走出来后的 sequence paper:二十多页证明来回改四五次、两次几乎全部推翻重写——“从一开始的地方发现有个基点错了,后面所有的后续推理全部是错的”。Clark 说那段证明是"他过去一年的 highlight”,best paper 提名"很接近,最后没被选上"。“如果说我在形式化的工作,这篇 paper 是我最愉悦的一段时间。”
6. 离开形式化:太贵、太少、离世界太远
- 形式化给他的馈赠是视角:“程序语言我打了二十年交道,但从来没有从数学的角度看待过它。” 语言存在根本 trade-off——接近数学的更容易被验证,接近硬件的更灵活高效,“很难有一个支点让一个语言离数学和硬件都很近”。
- 离开的判断很冷:“能够在现实中 practically 被应用的场景太少了,验证一个程序太贵了,能验证的又很少,不能产生足够大的影响。我想离世界更近一点。”
- 转 AI 又是近一年空窗:“外人看来那个作品是我过去一年的成果,实际上是最后三个月的成果,前九个月我都在完全不知道自己在干什么的状态里。” 他自嘲三年发三篇形式化 paper,“每篇真正推动只花三个月,每年都有九个月不知道在做什么”。
7. 《甄嬛传》与 ADHD:一把使用自己的钥匙
- master 阶段做理论"看上去很闲"——每天想四小时、大量打游戏,“灵感你只能等它来”。那道难题最终解在看《甄嬛传》的中段:“之前看的那篇 paper 突然 echo 出来,突然意识到这个地方是突破点——那个是真的有一个 phase transition,一瞬间的事情。暂停,谢谢暂停。”
- 理解 ADHD 让他与自己和解:“它不是一个疾病,它是一个特点……像是我找到了怎么使用我自己的一把钥匙。我不应该逆着天性去做事情,应该顺着天性去做事情。” focus 两极化:心流时"听不见别人叫我的名字,不记得时间,错过很多个 meeting";反之"哪怕这事情很重要,我也不能 focus"。
- “我是个必须 intense 的人,从小就是这样。” 疫情 depression 正因为"我没有办法在一个 slow down 的环境里保持 mental healthness"。竞技的意义不在胜负:“我不是真的很在乎输赢,游戏可以输、比赛也可以输——但我在乎那个 intense 的感觉。”
8. 天分的定义:没人当回事的时候你还想做
- 信息学奥赛全国银牌、纽约区域赛冠军,他全部往下折:“那个区域赛是三个人组队,有非常强的队友把我带飞了。” 天分与努力之争他"赞成天分",但定义独特:“当外界不把研究当回事、不觉得研究是件伟大的事情的时候,你还想做它,那就是你的天分。”
- 发 paper、做 research、当科学家是三件事情:“发 paper 是有套路的……你掌握了这个体系的规律,就可以一直发很多 paper”;做 research"跟打工人是一样的,是一个非常平凡的职业";真正的科学家是"如果不是他,这个事情会晚很长时间发生"的人——“这批人非常非常少,绝大多数教授可能都不是”。
- 被问 Hinton、LeCun、Bengio 是否属于第三类:“应该是吧,不过我没跟他们直接接触过……我非常在乎一手信息、在乎 truth seeking,我不想评价我没接触过的人。”
9. 谷歌 2022 实习:被大模型 shock 的转折点
- 为转 AI 找了 AI for Code 实习(谷歌内部孵化项目,那个暑假激进到"招了跟全职等量的 intern,疯狂尝试不同方向")。作为从 program analysis 过来的人,他看到的是交叉学科幻想的反面:传统工具"非常的无力,其实什么忙都帮不上",反而"大模型已经把传统领域里的技术都完全覆盖了"。
- 那是 ChatGPT 之前、谷歌刚出 PaLM、内部有疑似 LaMDA(一位工程师声称其有意识)的时刻:“我发现原来根本就不需要什么显式的 reasoning,我是被 shock 到的那个人。它让我非常坚定地进入这个新 topic,就要做大模型。”
- 选 infra 不是规划而是筛选结果:“我也尝试了算法上的事情,但没有太成功,infra 成功了——我的爆发都在 infra 这一侧。infra 跟我的思维习惯更接近,它是确定性的、基于数学和代码,这两件事情我都很熟悉。”
10. SGLang 的起点与 vLLM 的关系
- SGLang 是 PhD 最后两年 LLM inference 系列工作的"集大成一体的作品",定位从第一天就清晰:“从做完之初就希望它是 production ready、可以被大规模使用的推理引擎。”
- 与疑似 vLLM 的历史比外界想象的纠缠:“疑似 vLLM 当时的 idea 跟我们在思考的另一个 idea 是类似的——在我的视角里我是被 merge 进了这个项目。” 疑似 vLLM 推成开源后的维护期他没太参与,继续做 S-LoRA、fairness 等研究。
- 两个引擎的差异只在时间切片上存在:“如果不把时间维度放进去,它们是会类似的,有好东西一定会相互学习、会 copy。” 疑似 vLLM 更早进军 scale up——千卡、万卡级别的 serving production;SGLang 在社区覆盖、long-tail 模型支持上更早,“现在两方又都在互相学习来补齐短板”。
11. 疑似 Ion Stoica:lifetime mentor 与价值观的分野
- Databricks 联创、伯克利教授疑似 Ion Stoica(ASR 讹作"Young Stoyka"等)是他 visiting 时的导师、“lifetime 的 mentor”。他的观察:“他做很多事情、同时开很多公司,但骨子里自我认同感最高的还是教授和学生这个身份。他很在乎 making impact,也把这个精神传递给了他的学生。”
- 他刻意划出自己的坐标:“我在乎的是 impact,不是 making。如果有人愿意帮我把事情推动,that’s great。但我慢慢学会的是,我真正想做的事情没有人会代劳——只有自己能够长时间为那一件事情奋斗,然后让它发生。”
12. 为什么去 xAI:只有它同时给 support 和 freedom
- Databricks 五个月推广 SGLang 未果:“成熟的公司做每件事情都需要充分的理由,我作为 new grad researcher 没有太大的 power,我自己也不够成熟——怎么在成熟企业里 drive 一个比较大的 effort,我还不会。”
- 2024 年 10 月加入 xAI 的逻辑:丈夫连敏已在 xAI,公司正到了要做 production inference 的节点,两人可共建整个 inference stack。“他可以给我两样东西,一个叫 support,一个叫 freedom。我有一些其他机会,有些只给 support,有些只给 freedom——当时应该只有 xAI 真正两个都给。”
- 具体工作是 engine 组:对接 product serving 的 deployment 与 configuration,支持 research team 的 evaluation,“跑 RL rollout 用的也是我们的 inference engine”——团队小反而"能看到所有 layer 和 component 之间是怎么合作的,它作为一个整体是怎么发生的"。
13. 早期 xAI:没有 politics 的黄金时代
- “xAI 是我回忆最美好的一段时光……个个都是人才,互相 support、friendly、humble。” 那是他经历的第一个"完全没有任何 people game、没有任何 politics"的公司(他加入时不到百人):“我只要思考怎么做事情,身边人也在思考怎么做事情——有摩擦,但是不影响团结的摩擦。”
- Elon 塑造的无边界文化他点名喜欢:“他有他的问题,但在 xAI 里任何事情我都可以 touch 到,不会被限制在一个很小的 scope 里。没有特别多 people management,都是 technical,非常重工程师文化。”
- intense 的健身论:“就像你健身,你一定要感觉到痛了,才开始长肌肉。在那里待一年,可能是外面好几年才能拿到的成长。”
- 他的版本学:V0.0(他未在场)“Elon 对大家都非常 nice,像一个 family”;V1.0 开始有生长痛,“但大家还是共同克服难关,我没有感觉到军心动摇,做到了一段战友情”。
14. xAI 联创出走潮的诊断:靠人到靠体制的阵痛没有抚平
- 陈倩的对照:他描述的 xAI 与"前段时间 co-founder 全部离开、either 被 fire 或自己辞职"的公众叙事"就好像在说两个不同的公司"。他的解释直接:“xAI 没有过好那个从很小、很团结的 startup,变成需要靠体制来运转而不是靠人来运转的大公司的过渡期,这个阵痛没有被很好地抚平,所以产生了这些巨大的变化。”
- 对未来留了口子:“Elon 还在,这是最重要的,又被 SpaceX 收了、马上要上市。有一天它可能会找到一个新的 solution——但从人员上来看,可能就是 another company 了。”
- 给自己公司的 lesson:“人少的时候可以通过文化、通过人的管理实现运转,但 scale 上去之后,文化就很脆弱了,人也很脆弱了……最后是靠体系去支撑的。这个过程要非常 intentionally 地 thinking,它不是自然发生的——如果你不 pay attention,它就会 broken。”
15. 网友组成的社区,与不能再拖的出走
- SGLang 核心开发者"都是网上认识的,我们都是网友"——共同工作两年没见过面、开了很多次会从不开摄像头:“大家有一个默契,我只要看到你的代码,我就知道你是谁,我也只想看到这个部分。”
- 2025 年需求涌来,靠"晚上熬夜、周末工作、放假过来写代码"的模式撑不住了:“强撑了几个月之后发现没有办法 deliver,都是 borderline 低空飞过甚至没有成功 deliver——team 的 bandwidth 已经不能再 stretch 了。” 到七月"我的焦虑到了没有办法再拖的状态,再不把这个中空的空白填上,我们就快要让外界失望了"。
- 代价具体到数字:入职 xAI 十个月、离 one-year cliff 差两个月 vesting——“两个月都不能待,因为等不了了。我已经到了觉得我不配再继续待下去的心理状态,它不是我能控制的。”
- 顺带的金钱观:“有必须性,没有重要性。它对我的意义是——如果有天我融不到钱,我自己还有钱,这是它给我的底气。”
16. Two Sigma 插曲:最 organized 的公司
- 哥大与斯坦福之间的半年 gap 在对冲基金 Two Sigma:去的理由是好奇金融、“喜欢跟聪明人说话”——外加一句现场名场面:“我有一任前男友是学金融的,这个剪掉。““我一定会发出来的。”
- 工作过的公司排名:第一 xAI,第二 Two Sigma。“我在的时候是它最好的时候,我每次在都是真的最好的时候”——当时的 Two Sigma 做开源项目、拥抱 AI 和 big data,“所有人都只是在做事情,非常 open”。
- 后见之明式的观察:“我当时不觉得它 organized,后来去了其他公司才发现原来其他地方这么乱。Two Sigma 不是大公司,但它的 infra 是我见过最稳定的——业务模式稳定、巨变不多,大家可以一直做大量 maintenance。” 但金融不是归宿:“天天在那玩钱没啥意思,我一开始就知道那不是我的 priority。”
17. RadixArk 在做什么:基座模型也是 infra
- 他的结构性思考是做一个 foundation 工具箱:按不同使用场景、data 形式、产品与 serving 目标(“模型解决简单问题但要很快,或解决难问题但可以慢”),“源源不断地产生适应你不同目标的最好的模型”。这个 foundation 不止推理、训练、post-training——“基座模型也是 infra”,还包括 codebase、toolbox、sandbox、environment 和中间 checkpoint。
- 当下 focus 在 inference 和 RL,因为它们是生产 pipeline 的末端:post-training/RL 是 fan-out 点——“不是一个模型解决所有问题,多个企业都想要自己的模型”,最适合做"给所有人 share 技术"的 infrastructure;inference 则是贴近用户的最末端。
- 同时做两者难吗?“还好,它俩非常相关。RL 里很大一部分挑战来自 rollout 的 engine——它就是 inference engine,再加一些 weight transfer 的胶水性工作和 scheduling 算法。系统层面它们有非常非常大的 overlap。"(RL 框架名为 MILES。)
18. RadixAttention 与被遗忘的 agent 初心
- 核心技术的通俗版:请求之间存在公共前缀时,无需重算对应的 KV cache——用 radix 树对前缀关系做 indexing,与 KV memory pool 做 mapping 后复用。对"用户每次问全新问题怎么办"的质疑,他的回答:“只要进入多轮对话,后面的对话都要复用前面的 history,前缀复用大量存在于几乎所有场景里。”
- 被后端挑战掩盖的初心:两三年前的 SGLang paper 就是以 agent 为入口设计的,front-end 是一个 language——“人与 AI 之间交互的 interface”。“发展到今天,大量开发精力移到了 backend runtime 的优化,但有一天我们会 revisit 这个部分——最终它还是应该是一个 language 的形式。”
19. Day zero 兼容:市场决定重要性
- 为什么 day-zero 重要?“是市场觉得它很重要,我们做事情还是很 practical……它满足的就是’你发布了产品我第一天就去抢购’的心态”——这个愿望从 user 传导到 inference provider,再传导到他们,再传到模型厂商。
- DeepSeek V4 的支持"花了特别大的精力”:架构创新多、与既有模型差异太大,“很多算子层实现要重写,大部分 code 基本上是重写的”,且 feature set 做得非常全,第一次支持了 RL 的 DeepSeek 大模型。反过来:“如果架构完全不变,甚至都不用适配;只做很小的更新的话几乎不用适配。”
- 对 latent space 推理(Meta 的疑似 Coconut、字节的 Kola DLM 等,均照原音)会否颠覆引擎:“如果成熟的话确实很多事情会变,但世界在变、结构在变,本来就是写推理引擎的一环——这不是真正的变革本身。尤其现在 AI 写代码这么快,技术上总是能做的。真正的难点从来都还是回归人、团队本身。”
20. Inference 赛道:一个没有输家的游戏
- 他的反常识观察:inference provider 从 Fireworks、Together 起已存在多年,新公司每年层出不穷,“但你会发现这个游戏里面没有输家——没有任何一个因为 competition 的存在而消减下去,所有人都是同步增长”。
- 陈倩补的行情单:疑似 vLLM 核心团队年初商业化成立 Inferact(音),融资 1.5 亿美元、估值 8 亿美元;Vast(音)最近完成 3 亿美元融资、估值 50 亿;Fireworks 估值 40 亿;Together 在寻求 10 亿美元新融资;AWS、Google 等云厂商同时在做托管推理。
- 他的两大趋势判断:“AI 变得更有用之后,开始需要让它盈利和兑现,市场的 effort 从 training 转向 inference”;同时 AI native 公司感受到用 existing 模型做 prompt engineering 的局限,需要用自己的 data 做 customization——“你会看到一些 established 的 AI 公司在往 RL 那边扩张”。
21. “我们不在这个赛道”:命脉在下一代 AI
- Baseten、Fireworks 既是用户也可能把他们当对手,他拒绝这个框架:“我们不把他们当竞争对手,希望这些都是我们的盟友。” 理由落在结构上:SGLang 全开源、归属疑似 LMSYS 的社区而非公司所有物,“没有 private fork,我们并没有想通过这个地方制造 difference 去获取利益——公司的命脉不在这里”。
- 真正的目标只肯给轮廓:“RadixArk 的最终使命是要做下一代 AI……也不一定是模型,我们将来想做的事情不是一个现在世界上已经存在的东西。inference 是前提条件、是起点,不是长远核心。” 陈倩追问能否透露:“不能。”
- 客户光谱从下到上:data center/neocloud/hyperscaler(“帮他们 sell GPU”)、infra provider(现在是 user 关系、希望变成客户)、要 train/serve 自己模型的 AI 公司、以及想用 AI 助力原有业务的传统大公司。
22. Infra 的浪漫:infra 本身是产品
- 对联创邦华"infra 的 taste 与 pre-training researcher 不同"的说法,他不轻易确认:“我其实不确定是不是真的不一样,本质可能是相通的。” 他给 taste 的定义:“你关注的不仅仅是 end goal,还有 end goal 的组成——我的系统不仅能跑,我知道它是怎么跑起来的:是 well-designed 的形态跑起来的,还是豆腐渣工程跑起来的。”
- 全场最个人化的命题:infra 人长期被 underestimated,被迫 support 其他 component、打 hacky 的 patch,“都在一个被拉扯的状态里”。“以我跟 infra 之间的这个浪漫的关系,infra 不是一个 support 角色,infra 本身在我眼中就是产品。没有人会说’我希望 infra 击中人性’,但从我的视角,infra 也是击中人性的——它的深远影响是从底层开始往上传递的。”
- RadixArk 把大厂的顺序反过来:“我们不是让 infra team 一直 support training job 跑得 on track。training job 被卡住时,focus 是把问题 systematic 地解决,而不是打一个 patch 让它必须跑。job 是可以 pause 的,我们刷分也不着急刷——benchmark 分数不是 source of urgency。” 文化关键词:“focus and humble,精益求精——RadixArk 的人都是对自己的作品特别挑剔的人。”
23. 开源像空气:被互联网教会的人
- 他先纠正提问里的"执着”:“我不是对开源执着,它是自然发生的。” 江西的"朴素教育"里没有编程资源,学习全部来自 CSDN 帖子和 online judge 题库、来自至今不知道是谁的人:“我是被互联网上不知道在世界哪里的人教会的……sharing open 的文化对我来说像空气一样。你做了一件事情不分享出来,那才觉得奇怪。”
- 开源社区的双向变化:好的是"人对开源的欣赏、资本对开源的认可都在上升”;坏的是"追捧中开始掺杂不纯粹的东西——开源里混进了一些功利主义者,使得本来不是功利主义的人分不清哪些成分是纯粹的。他们影响的不仅仅是他们自己。"
24. 开闭源终局:闭源可以存在,但不能 centralized
- 立场是双非:“我确实不觉得 AI 应该完全展现在所有人面前,它确实有 risk,我不否认;我也不站在 AI 应该完全被握在一小批人手上那一侧。AI 应该均等地被握在不同的人的手中。” 实现路径就是公司要做的事:“提供能创造最好闭源模型的 tool chain——让所有人都拥有制造属于你自己的 AI 的等能力,但你制造出来的 AI 属于你自己。”
- 对"大家都停止 AI 研究"的呼吁(主持人引某大佬,ASR 作"Andre Big"):“这件事很难发生,它是违背人性的。如果有一个强力的上帝下来安排每个人做什么,事情是可以发生的——我不认为’大家都停、一家领先’是极度差的世界结局,但世界不可能停在那里,一定会有人起义。”
- 远期推演分两段:可见的未来里"AI 还没有强到真的完全控制和威胁掉人类",它取代的是人的功能性,带来"比以往的工业革命更加工业革命"的社会与权力结构动荡,但可理解;若 AI 真能 dominate 人类,“我们是阻止不了的,我觉得那天就会来”——出路不是呼吁停止,而是"发明另一条路径,使得你允许 AI 继续前进,而人类还不会输",前提是"先让所有人类平等共处、团结一致,然后才能再寻找人类与 AI 共存的 solution"。
25. LMSYS 与平权:托举没有背景的人
- 疑似 LMSYS 是他与连敏成立的 non-profit,分量给得极重:“如果 RadixArk 有一天不是走到底的话,疑似 LMSYS 是那个我终生会做的事业。” 使命:孵化优秀人才的项目,“即便他们没有充分的背景、没有后台、没有 branding”,让 credits 分到做事情的人身上、“保护未 establish 的真实开发者对项目的掌控权”。
- 动机来自亲历落差:“同样是我做的一件事情,高昂时期做的非常容易被关注、被记住甚至被夸大;低谷时期做的有些也不错,但很难被看见。这个 difference 没有必要存在,而且破坏社会公平竞争结构。”
- 他承认自己也是身份红利的获益者:“有些 paper 我觉得也就一般,但因为是我发的、是斯坦福伯克利发的,大家就觉得它是标准。当我是获益者的时候,我终于有力量把这个事情往外推动一点。"(LM Arena 本是疑似 LMSYS 时期的 fun project,“意外得到挺多关注”,后交给韦林等人做成商业级规模。)
26. 性别不平等:每一场赢都要被解释
- 他的标本级例子:“如果我是男生,大家就会说我是天才;如果我是女生,就会说她很努力、很听话、运气好。” 竞赛年年成绩顶尖,“但我的每一场赢都要被解释——‘他对手最近状态不好’‘这个题她压中了、以前做过’(其实我并没有做过)。正常情况下一个人赢是不需要被解释的:他厉害呀。” 甚至"一旦有一个 establish 的男性合作方,别人就会觉得这个 idea 会不会不是他的”。
- 杀伤力在量级而非单例:“每一个例子单拎出来都非常小,但它是每天、每分每秒在发生的平凡小事——把那一件小事的冲击乘上一亿倍,才是对那个人生的真实冲击”,且"你根本没办法跳出这个框架,一旦跳出,别人就会觉得你小气、格局小"。
- 解法只有一个:“通过 education 是达不到任何目标的。你要让所谓的弱势群体——在这个例子里是女性——真正拥有权利:人类真正 top 0.001%、0.01%、0.1%、1% 里面全部平权,这个事情才会被改变。” 过去十年"肯定有好一点点,社会在向前,但价值观是波动的状态"。
- 传递机制的方法论值得单独记:“哪怕你培养更多学生成为老师都不够,你要培养的是’想要去培养把学生培养成老师的老师’——把 recursive 的链条建起来才有用。它非常慢,但它不是会回退的改变:你往前推了,它就是往前推了。” 一位姓名不清的人曾问他"你觉得你改变得了吗",他的回答:“我不能改变。但如果我能改变百分之一,我愿意用我的一生去改变这百分之一。”
27. 从没听说过 term sheet 的融资,与 authority-responsibility 的第一课
- 融资起点是零:“我不知道什么叫 term sheet、什么叫估值、什么叫 seed 轮,pitch deck 这个词我都没听说过——有人问我’你们有没有拿 term sheet’,啥是 term sheet?” 过程"挺曲折的,具体我就不讲",但打完交道后"我对投资人有更多的 respect……Sand Hill 有一套游戏规则,但归根结底都是人性,你把东西做好、追求一个真的东西"。呼应他的发 paper 论:“所有 common 的事情都是有套路的。”
- 为什么三大半导体公司罕见集体投资?他拒绝代言:“我也很想问投资人这个问题,我不替他们回答。” 自己的 sell 版本:“我们是这个赛道里一个跑出速度的玩家,可以 enable 更多 AI 公司、或想进入 AI 的公司制造 AI 的能力。” 第一轮"因为有开源的基础在,肯定是人和事一起看的"。
- 管理第一课来自 xAI 的 Tony 和国栋,两人分别对他说过同一句话:“你的 authority 和 responsibility 要 match。” 在 xAI"我不能决定事情,我就负不了责";现在"我必须做决定,做好了是 team 的功劳,做坏了所有责任全部在我头上"。他坦承正处在"从我一个人能看清所有事情、到看不清"的阶段:“我还没有找到答案,我现在看到的都是挑战。”
28. 结尾:书本没有骗我
- 他主动加的一段:本来差点推掉采访,看到团队准备的 doc 被打动——“很多投我的投资人都没有这样看过我的经历。我后来发现,一个人只要能把职业里该做的事情做完,其实就已经非常稀有——很多事情在定义里该发生的其实不会发生。”
- 三段波折的终点论:PhD 找导师不顺→“教科书般完美的导师”;开源项目被打击→“这么有能量、这么团结的团队”;融资曲折→“教科书般完美的投资人”。“书本里写的都是美好,现实总是复杂很多——但书本也没有骗我们。好的人都存在,只是你要有耐心,让那些不是理想状态的沙粒自己剥落掉。你要相信到你身边没有这样的人,你还相信,有一天那个跟你一样相信的人会跟你相遇。”
- 对"世界是草台班子"能否自洽:“我其实很 emotional,很微小的事情会对我造成非常大的情绪影响,但我能把情绪影响跟价值观构建分离开——我仍然会坚信那个我没看见但我相信的东西。” 正反馈循环拉长了他的等待半径:“第一次我等了几个月被验证,下一次等了几年,再下次等了十年——我就知道它总是能被验证,下次我可以等二十年。”
- 最后的边界感:“就算我整个人生都很割裂,我也不想妥协。唯一重点是你是不是按照自己的想法去认知和行动,还是被别人牵着走。只要你不觉得自己在妥协,哪怕你真的错了,就错了吧,也没关系。”
Verification Notes
- 原音对 LMSYS、vLLM、Ion Stoica、LaMDA、Coconut 的名称均存在不同程度的听辨不确定,已按要求软化或保留“疑似”。