为何提出正确问题,是 AI 时代最重要的能力
为何提出正确问题,是 AI 时代最重要的能力
摘要
- 传闻中的 200亿美元 NVIDIA 合作,从第一次通话到资金到账只用了约 3周。 Jonathan Ross 找到 Jensen Huang,原本是想买约 100,000块 GPU,部署 Groq 已经搭建好的 GPU-LPU 混合系统;Jensen 看到成果后,反而认为不如让所有 NVIDIA 客户都能用上。Ross 纠正了“走投无路才卖身”的叙事:Groq 这次并不缺现金,协议价值只比上一轮估值高出略多于 2x,而且 Groq 本可以按许可交易的金额融资。
- 技术核心是,LPU 与 GPU 是互补关系,而不是替代关系。 “18轮卡车还是最后一公里的面包车,你会选哪个?答案是两者都要”:受算力约束的矩阵乘法交给 GPU,受内存吞吐约束的交给 LPU,因为不存在“唯一完美的架构”,两者结合才能“击穿瓶颈”。很多人误判在于把 prefill 与生成拆给不同硬件,但这不是正确的切分方式,因为“生成 token 才是难点”。
- 速度让模型变得更聪明,而不只是更快——Ross 用自己在 Google 参与创造的 TPU 上运行 AlphaGo 证明了这一点。 Ross 给出的近似 Elo 是:AlphaGo 在 GPU 上约 3,200,Lee Sedol 约 3,550,同时提醒自己可能把首位数字记错了;对话中 TPU 的结果被描述为约 3,900 或 2,900。同一个模型只有在硬件支持更深层搜索后,才找到了概率约为 1/10,000 的第 37手棋。“思考得更快,就能思考得更聪明”,在 AI-to-AI 的代理流量中,速度还会以指数方式放大。
- 就在 3、4年前,快速推理还不受待见,Groq 内部也不例外。 有人一边说它没有价值一边离职,客户会问“为什么我需要一个比我阅读速度更快的 LLM”,Ross 还曾两次被团队劝退 LLM 机会,包括 GitHub CEO 直接打电话来询问用于代码补全的芯片。最终奏效的办法是让人亲自试用:一段 LLM 在 Groq 上运行的 X 病毒视频,做到了多年第一性原理论证都做不到的事。
- 正如 Senra 通过 Ross 的融资故事和凯恩斯选美竞赛所框定的那样,资本已经不再是 AI 里的制胜押注。 过去,创投机构抱团下注有其合理性:融资最多的创业公司看起来可能更占优势;但“历史上第一次,创业公司不再缺现金……投入更多资金不再构成优势,可人们仍然表现得好像它是”。反差在于,典型的西海岸 VC 放弃了 Groq,东海岸 crossover 基金却投中了 Senra 所称、规模几乎是 NVIDIA 此前最大交易 3x 的一笔交易。
- AI 时代真正决定成败的能力不是回答问题,而是提出问题。 “信息时代的成功,取决于能否回答问题;AI 时代的成功,将取决于能否提出正确的问题。” 每个人都要从 IC 转向“AI 的领导者”;Ross 认为学校课程应围绕真实社区问题展开,让学生把问题拆解成一组可以交给 AI 的提问。
- 代码的边际成本“正趋近于零”,软件创造将向更多创始人开放。 Ross 的 EA 不会写代码,却已经能搭建旅行应用;软件创作正像读写能力一样,开始向过去缺乏技术能力、但可能拥有良好品味的人开放。他预计,不依赖大型团队的个人创始人也能做出有价值的公司。
- Ross 目前刻意维持的不满,来自全世界的算力短缺。 “如果因为算力不够,治愈癌症要多花 1年,那就是我的错。” 这背后的经历是:Groq 曾在仍未有产品时距离现金耗尽只剩 3周,靠“Groq bonds”——以薪资换股权——留住了团队;80%的员工参与,其中约一半降到了法定最低工资。
精读
1. 从电话到汇款只用 3周:传闻中的 200亿美元 NVIDIA 交易如何落地
- Ross 的说法是,Groq 已经完成 GPU 与 LPU 的整合,于是找到 Jensen,想买约 100,000块 GPU 自己部署;Jensen 看到了这套成果,认为不如把它提供给所有 NVIDIA 客户。“第一次提出这个想法的那通电话,距离资金到账大约只有 3周。”Senra 感叹:“所以 Jensen 行动很快。”Ross 回答:“当然,领先别人就靠这个。”
- Ross 用物流作比喻:18轮卡车和最后一公里面包车,“答案是两者都要”。LLM 处理一个 token 时,会进行多次矩阵乘法,有时受算力约束,适合 GPU;有时受内存吞吐约束,适合 LPU。“瓶颈到处都是……不存在唯一完美的架构”,所以把两者配对,才能“击穿瓶颈”。
- Ross 驳斥资金告急的叙事:距离死亡只剩 3周的经历发生在“很多年前”,这一次“我们没问题”。他说,协议价值只比上一轮估值高出略多于 2x,而且 Groq 有能力按许可交易的金额融资。
2. AI 使用 AI:速度、微支付与可追问的每日简报
- 速度之所以会在今天形成复合效应,是因为“人类可以等 1、2秒……AI 却会一直等在那里,因为它生成 token 的速度快得多”。一个代理可以把任务交给另一个代理——“AI 很擅长使用 AI,这才是真正的 agentic”——于是任务呈指数级扩散,链条上的每一环都在意延迟。
- Ross 认为,代理支付目前还处在早期:“支付系统还没有真正为这个场景准备好,但如果能实现微支付,支付笔数就会暴增。”他举例说,自己做 Signal/WhatsApp 代理的业余项目时,需要电话号码,就得先在 Twilio 证明自己是人类;如果代理拥有一笔授权预算,AI 本可以在预算范围内自行支付,无需他介入。
- Ross 的业余项目会反过来塑造工作方式,其中一个是个性化的“总统每日简报”:它从长篇文字逐渐变成标题加追问。“我通过 AI 学习时,读的不是一段静态内容,而是在和它互动”,就像玩 20 Questions。Senra 也提到,Spotify 联席 CEO Gustav Söderström 做过类似的个人播客:过滤愤怒诱饵和政治内容,同时呈现他所关注的人正在讨论什么。
- Senra 从 Ross 的推文中提炼出的核心命题是:“信息时代的成功,取决于能否回答问题;AI 时代的成功,将取决于能否提出正确的问题。”所有人都要从 IC 转向“AI 的领导者”;学校过去训练我们记忆答案,但现在“你只要问 AI,它知道答案。你只需要想出正确的问题。这是根本性转变”。
3. 领导力首先意味着有人追随,然后找到适合自己的形态
- Ross 的第一个原则来自 Jon Levy 的一本书:“没有追随者,就不是领导者。”领导力和投资一样,有创投、债权、种子、crossover、PE 等无穷多种形态。新创始人的错误,是照搬别人给的建议,执行一套“并不适合自己”的方法。
- Ross 很了解自己:和 Senra 两档播客里的那些控制狂不同,他从 18岁起就没拿过驾照——“我不需要控制驾驶,我想控制的是思考”——因此会招聘那些在大多数公司环境里可能表现糟糕、但能够自主行动的人。对职业早期的人来说,应该去一家领导风格能教给你、且你真正用得上的公司。
- 他坦言:“刚开始创业时,我是世界上最差的领导者之一。”这让 Groq 浪费了 3、4年。他把任务交给无法自主运作的人,结果所有事情都停滞了;等他事后发号施令时,这些指令对他而言“太不自然了,以至于他们不接受”。
- 解决办法,是把目标简化到一枚挑战币上就能写下:每个 Groq 员工都带着一枚写有“每秒2,500万 tokens”的硬币,同时只设定极少约束。“给一个人的约束越少,他就越有自由用解决方案让你感到惊喜。”Senra 联想到 Skunk Works 的 Kelly Johnson:“极致表现往往来自一个残酷清晰的优先级。”Ross 进一步强调,团队只有在能够以一种好的方式让你感到意外时才可能创新,而这意味着你不能把目标限制得过死。
4. NVIDIA 内部经验:砍掉一对一,以及信心带来的解锁
- NVIDIA 是“你能见到的最不政治化的大型组织”,Ross 认为原因在于 Jensen 从不只对某一个人说某一件事。一对一会产生不同解读和小圈子,大型会议则能形成统一信息。他的规则是:讨论某人的指责性邮件,必须把被讨论的人抄送进去——“否则你就是在允许政治发生”。
- Ross 从 Jensen 身上学到的第二课,是自己“花太多心思玩 3D 国际象棋”,而 Jensen 只问:“客户需要什么?那就为他们把它做出来,其他事情自然会跟上。”这也意味着,不要向客户兜售你自己都不相信他们需要的东西。Senra 补充说,Jensen 曾把管理约 60名直接下属比作管理 AI 代理:每个人都在自己的领域比他更聪明,这本身就是一套管理范式。
- Ross 的信心故事发生在公司约 35人时:他跟随一位管理 2,000人组织的领导者,提前在心里做出每个决定,再看对方如何决策,结果一一吻合。“我的决定没有改变,但我的领导方式改变了。”人们会追随那些以信心传达出来的决定。至于规模,他说,一个 450人的创意组织在某些方面“更像是在管理 5,000人”;“人越优秀,就越难管理。”
5. 旅鼠、西海岸怀疑者与凯恩斯选美竞赛
- Ross 观察到的融资社会学是:“典型的西海岸 VC 更像旅鼠”——一个人拒绝后,所有人都会跟着拒绝;典型的东海岸 VC 则“都觉得自己比对方聪明”,会各自做分析。最终,Groq 由东海岸 crossover 基金出资;Senra 兴奋地指出,NVIDIA 这笔交易规模几乎是此前最大交易的 3x,发生在西海岸 VC 错过 Groq 之后。
- Senra 借用凯恩斯选美竞赛来解释这种行为:下注的不是最漂亮的模型,而是被下注最多的模型。过去,跟随其他投资人的选择似乎是理性的,因为最多人下注的创业公司看起来确实可能更有优势。但 Ross 认为,“历史上第一次,创业公司不再缺现金……投入更多资金不再构成优势,可人们仍然表现得好像投入更多钱就能给那家创业公司带来优势。”
6. 更快就是更聪明:AlphaGo 的证明与交易真正的起点
- 需要把功劳归给正确的人:芯片组合的想法来自 COO Sunny,这正是 Ross 自主性原则的体现;相关工作做了大概 3、4个月,“可能略长一些”。很多人误以为应该把 prefill,也就是读取,与生成拆到不同硬件上,但“生成 token 才是难点。读取比写入容易,AI 也是如此。”Groq 不介意把成果展示给 NVIDIA,因为它本来就想成为 GPU 客户。
- Jensen 之所以立即行动,是因为 LPU 就像“让现有模型瞬间接入宽带”。与现实中的宽带转型不同,这种提速不需要任何人重建网站,性能提升可以直接落地。
- Ross 从自己在 Google 参与 TPU 的经历中得出更深层的结论:DeepMind 在世界冠军围棋比赛前 30天发来邮件,AlphaGo 在 GPU 测试局中输掉后,团队把它移植到 TPU 上。Ross 给出的近似 Elo 是:AlphaGo 在 GPU 上约 3,200,Lee Sedol 约 3,550,同时提醒自己可能把首位数字记错了;对话中 TPU 的结果被描述为约 3,900 或 2,900。同一个模型获得了更多算力;GPU 没有找到第 37手棋这一万分之一概率的落子,是因为它在搜索链条中太深。
- Ross 也承认:“作为 TPU 的创造者,我必须承认 GPU 现在更强了。”胜负手在生态系统,但 LPU 可以让模型更快地搜索得更深。“思考得更快,就能思考得更聪明。”
7. 现实商、决定胜负的主游戏,以及把变革管理当成全部工作
- Groq 招人看重的是“现实商”(reality quotient),而不是 IQ:“有很多非常聪明的人,如果现实拍着他们的肩膀,他们也认不出来。”这种能力的极致表现,是找到决定胜负的主游戏:MySpace 最大化注册账户数,Facebook 最大化月活用户;“如果你最大化月活用户,就会击败那个最大化注册账户数的人。”
- 每秒2,500万 tokens 的目标,就是把这场决定胜负的主游戏变得人人可见:芯片速度、软件、电力成本、数据中心、制造和供应链,每个人都能把自己的工作与这个目标连接起来。
- Ross 从工程师转向创始人的关键转变是:“我的工作就是全职做变革管理。而变革管理的第一原则,是让它看起来不像变革。”只要员工的注意力锚定在目标上,方法变化就会被体验成一切照旧;领导者的职责,是提供足够背景,让他们相信“自己的工作其实没有改变”。
8. 运气回报,以及“我打算这么做”的修复
- Jim Collins 的观点是,最好的公司并不会获得更多运气,而是更善于抓住运气。Ross 用自己的反面案例说明这一点:GitHub CEO 曾打电话说需要用于 LLM 代码补全的芯片,因为 GPU 买不到;他的团队说“不行,做不到”,他还在两次机会中都让团队说服了自己,“尽管我内心深处其实知道我们应该做”。他反问:“如果我们当时成了 Microsoft 为 OpenAI 运行 LLM 的第一家推理引擎,情况会好多少?”
- 第三次遇到类似机会时,他亲自算了一遍,尽管所有人都认为不可能,Groq 最终“恰好达到了那些性能数字”。而在 3、4年前,快速推理还极不受欢迎,甚至有人因此离职。Ross 对那些茫然表情的解释是:“当人们不理解某件事的第一性原理,只是因为炒作才参与进来时,他们的理解不足以看出你做的事情为何不同。”
- 营销上的突破和 ChatGPT 时刻如出一辙。Ross 曾在 ChatGPT 发布约 3个月前看过 Anthropic 的演示,但现场反应平淡;只有当答案与自己直接相关时,魔法才会出现。Groq 把速度放到线上,有人在 X 上发了视频,Ross 在挪威做演讲时发现查询变慢了,因为使用量已经暴增:“我们突然病毒式传播了。”
- 管理上的修复来自 David Marquet 的《Turn the Ship Around》:意图式领导。问“我应该做这个吗?”会引来悲观意见;说“我打算这么做”,通常不会得到反馈,除非真的存在问题——就像那艘潜艇上的船员终于会说:“等等,舱门还开着。”第三次遇到机会时,Ross 说的是“我打算这么做”,结果“大家没有再说‘我们做不到’,而是纷纷加入进来,说‘我们应该这样做’”。
9. Groq bonds:让所有人都把手放在方向盘上
- Groq 曾在仍处于产品前阶段时,距离现金耗尽只剩 3周;当时公司正在开发一种此前从未尝试过的编译器,目标是消除人类手写 kernel 的需要。Ross 审阅拟议裁员名单后得出结论:“如果按这份名单裁员,我们就完了。”唯一的办法,是降低现金消耗,而不是裁掉员工。
- 于是,他召开全员会议,现场挂起二战时期的战争债券海报,并推出“Groq bonds”,即以薪资换股权。80%的员工参与,约一半员工把薪资降到法定最低工资;原本年薪数十万美元的工程师降到“50美元、60,000美元……是真正的痛苦”。这项计划节省了超过 3周的现金消耗,可能更接近 2个月;Groq 最终在只剩 3周现金时完成融资。
- 预期中的人员流失并没有发生:流失率低于 10%,或许更接近 5%。Ross 对此的概括是:“让所有人都把手放在方向盘上。”坐在车里的乘客会害怕蜿蜒道路,但驾驶者拥有更多控制感,也更愿意承担风险。
10. 按负面特征招聘,尽早锁定胜局,像 Jordan 一样挑衅
- Groq 维护一份带版本号的“people spec”:“如果你不把自己想找的人写下来,你就不可能按这个标准招聘。”候选特征包括运气回报和“诗性设计”——“诗歌就是语义密度,每个词都重要”——同时每个正面特征都有一个负面孪生项:挥霍运气、极繁主义设计。“你真正招聘的,是为了避开这些负面特征。”因为一个人可能把破坏性特质带进整个团队。Ross 最大的区分是:培养人才要展示正面特征,筛选人才要排除负面特征——这是“完全不同的思维模式”。他是在观察一位擅长清除问题的 HR 负责人后学到这一点的。
- 一项受重视的特质,是把损失厌恶转化为生产力。架构会议上,有人会说:“如果这么做,芯片速度会快一倍。”所有人都无动于衷,因为他们听到的是“下一代芯片”;Ross 听到的却是:“如果这代芯片不这么做,它的速度就会只有本来可能达到的一半。”他要招聘的是那些会“提前把胜利记到账上”的人。
- 对于 Senra 那期讲 Michael Jordan 的节目,Ross 怀疑 Jordan 沉迷下注和挑衅是有意提高赌注:公开输球会极其丢脸,从而逼出超人表现;创业者在成功前就宣布成功,使用的是同一种机制。Senra 引用了 Tim Grover 的说法:“一旦你告诉别人你会多么彻底地击败他,你就必须真的去做到。”
11. 制造不满、免费代码,以及教孩子提问
- Ross 在一群成功人士中观察到,有些拥有数亿美元财富的创业者仍然对财富不满,另一些人则对自己过去做出的产品不满。每个人都有某种驱动力来自不满。“如果你想持续推动事情向前,就必须拥有一种始终不满的性格。”Ross 现在的不满是算力短缺:“如果因为算力不够,治愈癌症要多花 1年,那就是我的错。”Senra 举了另一个例子:Edwin Land 会在白板上记录因每延误 1天而死于车灯眩光的人数。
- 乐观的一面是,“代码配给”正在结束——“边际成本正趋近于零”。软件创作正从技术专家控制的事情,转向更广泛的可及能力。Ross 的 EA 现在已经能搭建在线旅行应用;“很多人将获得创建软件的机会,他们过去可能永远不具备技术能力,但他们本来就有良好品味,也知道什么是好产品。”他预计,不需要大型团队的个人创始人也能做出有价值的公司。
- Ross 给父母的建议是:“不要再教孩子回答问题,开始教他们提出问题。”课程体系应围绕真实社区问题重建,比如许可证办理、地方活动,让学生写出真正有用的应用。如果学生只需上网查答案,或让 AI 直接解决问题,“你就没有教给他们真正需要的东西”;但如果给他们一个必须自己提出问题、再让 AI 解决的问题,“那你就教会了他们”。