Jensen Huang:末日论骗局、超级智能已至与 AI 的未来(嘉宾:President Trump)
Jensen Huang:末日论骗局、超级智能已至与 AI 的未来(嘉宾:President Trump)
摘要
- Jensen Huang 抨击 Dario 文章中缺乏依据的末日预测,同时将安全与领导力区分开来,并为 Kokotajlo whistleblower 辩护。 Radiology 原本被预测将在5年内实现全面自动化,但结果是 AI 接管了扫描阅片,“我们比以往任何时候都更需要放射科医生”;90%的代码将在6–12个月内由 AI 生成、半数入门级岗位将在6–9个月内消失的预测也都落空。“我们必须为那些愚蠢的预测承担责任。”
- President Trump 在节目中途打来电话连线,称 AI 接管世界的叙事“是一场骗局”,并表示中国是从反对数据中心的声音中获益的“最开心群体”。 数据中心是“未来20–25年的石油……比互联网更大”,“谁赢得 AI,谁就赢了”。他还声称,一年内将有20万亿美元投资进入美国,而 President Biden 任内4年获得的投资远低于1万亿美元,同时补充说“我们必须稍微谨慎一点”,采取审慎行动。
- Jensen 表示,迄今所有真正发生的 AI 问题都来自 frontier labs,因为它们拥有最多算力;解决方案是工程化的根因分析、更好的控制机制和多个独立评估者,而不是一刀切监管。 他“愿意拿钱打赌”,某家实验室的“4起事件”和另一家实验室的“1起重大事件”,未来都在这些实验室的控制范围内。
- Recursive self-improvement 不会失控式螺旋上升,因为产品仍然必须经过测试和评估。 针对主持人提到的消息——GLM 的开发者 Zhipu AI 将投入30亿美元推动 RSI,以及 David 提到其创始人刚融资50亿美元——Jensen 认为,RSI 是上下文学习、技能、反思、强化学习、合成数据和 LoRA 的合理组合。他“确信所有人都在某种程度上使用它”。
- 开放模型是这轮繁荣的基础:过去6个月获得4000亿美元风险投资的 AI 原生公司中,80%都在使用开放模型。 闭源模型是“瓶装水”,但“水是免费的”;中国模型一旦被下载,“它就是你的……我们可以 fork、改进,再把它变成自己的”。真正的竞赛是“谁能把技术利用得最好”,正如美国曾经最有效地利用一场由欧洲发明的工业革命。
- NVIDIA 的策略是“在必要范围内尽可能深入,同时把边界降到尽可能底层”:搭建赋能技术栈和基础设施,帮助客户成功,而不是从每一层都抽成。 NVIDIA 表示,如今全球每个模型都在其平台上运行,而18个月前只有 OpenAI;它支持区域性 neocloud,因为 hyperscaler 一年只规划一次,而市场波动下它们“几乎总是错的”,Jensen 则称自己“出奇地没有竞争性”。
- Jensen 预测,到2030年中国将实现自主先进光刻,随后大陆晶圆厂几乎会“立即”开始量产,并称从中国自身视角看,中国“已经在那里了”。 他还表示,AGI 已经到来;在自动驾驶等领域,狭义超级智能也已经存在——他引用了十分之一的事故率,同时还提到蛋白质合成和虚拟筛选。
精读
1. 末日论文章缺乏依据——Jensen Huang 给错判逐笔记账
- Jensen 对 Dario 文章的判断是:安全与领导力并不是一道非此即彼的选择题,公司完全可以在确保安全的同时快速创新、执行并保持领先。他认为 Kokotajlo whistleblower 一事很严肃,称 Kokotajlo 展现了“极大的勇气”,但提醒说,这篇文章把几个不同问题混在了一起。他不知道 Kokotajlo 具体看到了什么;如果实验室认为自己已经失控,暂停或放慢研发本来就是它们可以自主作出的选择。
- 预测账本上,Radiology 曾被预测将在5年内实现全面自动化,结果是 AI 接管了扫描阅片,但“我们比以往任何时候都更需要放射科医生”;90%的代码据称将在6–12个月内由 AI 生成,50%的入门级岗位据称将在6–9个月内消失。主持人还补充过 GPT-2 和 Llama 3 过于不安全、不能发布的预测。“我们必须为那些愚蠢的预测承担责任。”
- Chamath 提到母亲问起“这整套文明灭亡的说法”,并质疑人们如何量化10%的灭绝概率,Jensen 给出的回答非常直接:“我们不该量化,因为那是编出来的……这不负责任。”他说,这种所谓科学预测没有科学依据;如果危险真的存在,人们就应该花更多时间处理危险,而不是向那些无法采取行动的人制造恐慌。
- 对于公众实验室的讨论方式,Jensen 认为,这些影响重大的公司应当“像我们过去建立公司那样建立,也就是保持沉默”。在 NVIDIA,员工会被告知应如何代表公司行事,政治讨论则被留在公司之外:“带回家去说……公司是无党派的,我们两党都合作。”
2. 监管应当解决真实问题——而迄今的问题都来自 frontier labs
- Jensen 对算力集中与问题来源的判断是概率性的,而非绝对命题:迄今的问题来自 frontier labs,是因为它们拥有最多算力,也在尝试最困难的工作。高中生或初创公司不太可能制造同类问题,因为它们没有足够算力。与此同时,这些实验室正从研究转向工程阶段,“也许这个转变并不顺利”。
- 他的解决方案是工程纪律:对每起事件做根因分析,然后把沙箱、运行时、监控器和持续监控制度化。Jensen“愿意拿钱打赌”,某家实验室的4起事件和另一家实验室的1起重大事件,未来都在这些实验室的控制范围内。他不相信另一种可能——实验室最终会得出结论,认为自己完全不知道如何控制已经造出的东西,只能请求社会来解决。
- 他的治理模式是独立评估:引入多个第三方审计机构或评估者,“与财务控制没有区别”,通过多个评估者降低单一公司或评估者被收买、俘获或施加影响的风险。
- David 提到,GLM 的开发者 Zhipu AI 宣布将投入30亿美元推动 recursive self-improvement;他还说,Zhipu 的创始人刚刚融资50亿美元。Jensen 则为 RSI 去戏剧化:它由上下文工作、技能、反思、强化学习、合成数据生成和低秩适配(LoRA)组成。他认为这很合理,并确信所有人都在某种程度上使用它。RSI 不会简单地螺旋式突破控制,因为“当你发布一个产品时,必须对它进行评估”,检查回归问题,再次验证。
3. Trump 现场连线:“这一切都是骗局”
- 谈话进行到一半,Jensen 的电话响起,President Trump 通过免提向现场听众讲话。Trump 说,反对数据中心的声音“几乎是一场阴谋”,中国是“最开心的群体”,并称数据中心是“未来20–25年的石油……比互联网更大”。他说,机器人不会接管世界,AI 也不会接管世界其他部分,“这一切都是骗局”(the whole thing is a hoax);但他同时表示,美国必须审慎行事,而不是让产业停摆。
- Trump 的说法和抱怨包括:一年内将有20万亿美元投资进入美国,而 President Biden 任内4年获得的投资“远低于1万亿美元”;Google 因无法获得许可,想在 Finland 建设大型数据中心;以及“谁赢得 AI,谁就赢了”这句口号。他还说,数据中心让此前正在衰败的社区重新焕发生机。
- 会后有人问,Jensen 认为 Trump 如何能看穿一个他称为“民调减80分”的叙事,Jensen 回答说自己也不确定,因为很多人确实被它说服了。他表示,这套叙事最初建立在国家安全之上,如今又转向安全问题;眼下最紧迫的任务,是确保实验室仍然能够控制系统,并建立可靠的测试和独立评估机制。
- 电话结束后,Jensen 说,他原本想对 Trump 和现场听众强调的是,AI 正在创造就业,包括软件岗位。他指出,近期 AI 风险投资规模约为4000亿美元,由此带来了对算力和数据中心的需求;他还单独提到,Governor Abbott 要求行业更认真地倾听小型社区的声音。
4. 开放模型是美国取胜的方式——即使它们来自中国
- Jensen 用“瓶装水”来比喻闭源模型:即便“水是免费的”,在合适的场景中瓶装水仍然有用;他自己在周末就使用了4个闭源 frontier models。但过去6个月获得4000亿美元风险投资的 AI 原生公司中,80%都在使用开放模型:“如果没有开放模型,它们怎么实现自己的梦想?”
- 中国来源是否重要?Jensen 说,模型一旦被下载,“它就是你的”:用户可以 fork、改进,再把它变成自己的模型。他将其与 Linux 和 Kubernetes 相比较——这两套软件的大量代码都曾由中国工程师参与。他认为,中国的贡献部分来自其通过 Tsinghua 等大学大规模培养理工科学生的能力。
- 在他看来,竞赛的核心是“谁能把技术利用得最好”。Maxwell、Volta 和 Ampère 都是欧洲人,而不是美国人,但美国比任何其他国家都更有效地利用了上一次工业革命。Jensen 还表示,中国的宣传口径更务实,因为它强调经济和社会进步,而不是文明终结式的预测。
5. NVIDIA 的策略:搭建瓶颈,做到“在必要范围内尽可能深入,同时尽可能降到底层”
- Chamath 先从资本链条切入,提到 Cloverleaf 在土地、电力和厂房主体方面的工作,以及涉及 BlackRock、Goldman 等机构的融资尝试。Jensen 描述的是一套瓶颈策略:早在需求激增之前,NVIDIA 就与 Corning、Lumentum、TSM 以及内存供应商合作;如今则继续向下游推进,覆盖土地、电力、厂房主体、施工和发电能力。
- 为什么不接管应用层?Jensen 说,NVIDIA 的策略是“在必要范围内尽可能深入,同时把边界降到尽可能底层”。公司建设 cuDNN、Megatron Core 等赋能技术,然后让“一千朵花竞相开放”。他说,如今全球每个模型都在 NVIDIA 上运行,而大约1年半前还只有 OpenAI,因为相比从中抽取一部分收益,他更愿意帮助所有人成功。
- Neocloud 的逻辑在于:hyperscaler 一年只规划一次,但市场环境波动很大,因此它们“几乎总是错的”。区域 NCP 可以更快行动,在本地拿下土地、电力和厂房主体。Jensen 提到 Australia 的 Firmus、Southeast Asia 的 IOH 等公司;随着各国越来越把算力基础设施视为战略资产,更多吉瓦级产能正在上线。
- 主持人提到 Hugging Face、Poolside、Llama、Nemotron 以及 NVIDIA 的开放自动驾驶技术栈,并问 NVIDIA 是否在争夺开源领域的“金牌”。Jensen 回答说,NVIDIA 做这些是出于需求:“我们在5个领域都是 frontier model。”他称 Alpamayo 是全球首个具备思考能力的自动驾驶汽车,目标客户包括无法自行构建完整技术栈的汽车、卡车、厢式货车和农业科技制造商。他还提到 ESM-2、ESMFold、OpenFold、AlphaFold 2 和 Proteina-Complexa——NVIDIA 开发这些生物学工具,是因为 Lilly、Merck 等公司需要它们。“我做任何事都是出于需求”,而不是为了扰乱竞争对手。
6. 中国“已经在那里”,Elon 无法被阻挡,狭义超级智能已经到来
- 对于 Elon Musk 宣布的1亿平方英尺 Terafab,Jensen 说:“如果有人能做到,那就是他。”两人曾在一次共同乘坐的航班上长谈此事。他补充说,NVIDIA 对工艺技术了解很多,拥有深厚的内存技术能力,同时是一家系统公司,但没有表示 NVIDIA 自己会在那里制造芯片。
- 对于中国自主先进光刻技术,Jensen 预测:“他们将在2030年实现。”当被问到一旦具备能力,量产是否会几乎立即转移到大陆晶圆厂时,他回答:“几乎立即。”他还说,从中国自身视角看,中国已经在那里,因为高产量制造最终只是时间问题。主持人据此总结,放慢脚步会是错误策略。
- 当主持人将 AGI 定义为达到人类水平的智能时,Jensen 回答:“我认为我们已经在那里了。”被问及超级智能时,他表示同意,但将判断限定在具体领域:一辆不需要制作煎蛋、却能以十分之一事故率行驶的自动驾驶汽车,就是“超级智能”;他还说,蛋白质合成和虚拟蛋白质筛选也已经达到这一水平。
- 他的收尾信息是降低戏剧化叙事,支持 frontier labs,并让全体美国人参与这场转型:“未来是美好的”,人类完全可以共同取得巨大成功。