主题 先锋 趋势 方法 作者
返回

亚马逊CEO:2200亿美元仍满足不了AI需求

·The a16z Show

正在生成长图…

本篇主题 AI万亿资本开支与泡沫风险 AI算力基建投资与尽调测算 大模型推理成本优化 GPU折旧年限与算力云洗牌 头部模型护城河之争 AI如何重构企业组织与流程 消费级产品UI与创新管理
本篇先锋 Andy Jassy Ben Horowitz

摘要

  • 亚马逊预计2026年资本开支约为2200亿美元,仍无法满足眼下可见的AI需求。 Jassy称,2026年的算力已售罄,2027年大部分也已售罄,2028年相当一部分容量同样售出,另有部分容量留作按需使用。AWS AI业务在3年内突破250亿美元年化营收;“我们仍有相当可观的需求无法承接”。
  • 基础设施的现金回收周期意味着,容量尚未产生回报前,自由现金流就会先承压。 数据中心要在变现前约2年投入建设,使用年限约30年;服务器和网络设备只需提前几个月采购,需求可见度更高。这类设备通常约3年盈亏平衡,使用年限约5至6年,客户合约期限通常约5年。
  • Jassy认为,企业生产应用将成为AI绝对用量最大的部分,而推理成本是普及的一大障碍。 他认为,放眼5至7年后,相当多、甚至大多数现有企业应用都会广泛使用推理,普及过程则会逐步展开。在他看来,推理成本仍“贵了一个数量级”;Trainium宣称的30%至40%性价比优势,有助于降低应用重写的门槛。
  • 即使AI实验室愿意为稀缺算力支付高价,AWS也打算保护现有客户。 Ben Horowitz追问,是否有经济动机把既有工作负载换成出价更高的实验室客户;Jassy回应:“我们不会挤压现有客户。”AI与非AI需求都在快速增长,他预计未来几年不同组件都会短缺,企业必须在HBM和DRAM等资源之间做取舍。
  • 亚马逊对AI实验室的投资,加深了其在模型、分发渠道和定制芯片上的合作关系。 Jassy谈到Anthropic使用Bedrock、与亚马逊合作开发Trainium,也提到OpenAI此前因商业安排限制,直到现在才登陆AWS。OpenAI还承诺多年采购数吉瓦级Trainium算力,并共同开发有状态运行时:“你需要状态。”
  • AI既改变了团队配置,也加快了软件自我防护的速度要求。 主持人提到,Bedrock仅用6名工程师、76天就重建了推理引擎,而原本估计需要40人干1年;Jassy称这次经历令人警醒。他预计,未来会由更少的人承担今天的工作,团队规模也会缩小;模型发现漏洞后,应用必须能在“几分钟内”接收由智能体驱动的更新。
  • Jassy认为,如果只是渐进式地改进AI,3至5年后很可能仍做不出胜出的用户体验。 亚马逊正在重新构想Alexa、零售、Prime Video、Fire TV和Prime Music,但尚不确定成果应该做成新应用,还是融入现有产品。组织上的障碍在于团队对过往工作的依恋;Horowitz回忆老板曾说,写下第一行代码后,“这就成了宗教”。

精读

1. 亚马逊的履约危机催生更快的零售模式

  • Jassy称,2021年以来,亚马逊营收规模增长约80%,AWS接近扩大至原来的3倍,广告收入约为原来的2.5倍。Prime Video如今已是“一项规模可观且盈利的业务”。但他早期担任CEO时,工作的重心是扩张过猛后修复零售业务的经济效益。

  • 亚马逊在约18个月内,把过去25年建成的履约网络规模翻了一倍;随后又在约20个月内,建成了规模相当于UPS的最后一公里运输网络。成本因此承压。Jassy如今称,这段艰难的起步经历“真是因祸得福”:它迫使公司重新审视既有假设,包括把覆盖全美、布局单一的履约网络改为区域化运营,从而缩短运输距离、降低成本、加快配送。

  • 主持人追问,如何容忍这些低效,又不牺牲运营标准。Jassy称,亚马逊的16条领导力准则中本就存在张力:疫情期间,客户和卖家急需运力,因此速度优先于优化。公司的防线是“讲真话的文化”、坦诚讨论,以及能够暴露问题的指标;事后整顿时,再区分小幅提升效率与架构性调整。

2. 2200亿美元的建设计划回款周期长,需求却已清晰可见

  • Jassy对比称,AWS早期在成立3年后年化营收约为6000万美元;AWS生成式AI业务在头3年年化营收已超过250亿美元。他所谈及的最新季度,AWS整体同比增长36.7%,年化营收达到1690亿美元。

  • AWS最初的构想,是让亚马逊产品团队不必再自行操心基础设施。Jassy称,当时团队有70%至80%的时间花在不具差异化的基础设施工作上,只有约20%用于打造差异化产品功能。外部正式推出前,内部团队对共享基础服务的需求已经验证了这个构想;但他称,公司没想到外部业务会增长得这么快。

  • Horowitz问亚马逊如何判断建设是否过度,并提到金融市场的担忧,以及CoreWeave在债务和股权市场的融资。Jassy坦言:“我希望能有一个公式。”即便2026年资本开支预计约为2200亿美元,仍有大量需求无法满足;他认为,从中长期看,进一步投资可能仍有经济效益。

  • 融资逻辑要区分数据中心建筑与设备。数据中心要在服务器到位、开始变现前约2年投入建设,但使用年限约为30年。服务器和网络设备则只需根据具体组件,提前几个月承诺采购。如果需求没有出现,亚马逊可以暂缓采购这些设备。

  • 服务器和网络设备通常约3年盈亏平衡,使用年限为5至6年;大多数合约期限约为5年。因此,同时建设大量站点会在早期带来自由现金流“逆风”,要等运营容量和设备回本逐渐跟上。

3. Jassy将数据中心视为关键基础设施,也强调地方责任

  • 被问及政治阻力时,Jassy先谈到社会对数据中心的既有依赖:银行、医疗、购物、教育及其他数字服务都已离不开数据中心。他将AI基础设施建设比作1950年代修建高速公路和桥梁,认为美国“不能不建”,否则可能让中国等其他国家取得领先地位、制定行业规范。

  • 针对资源消耗的批评,Jassy称,高尔夫球场的用水量是亚马逊数据中心的200倍,而且高尔夫球场2天用掉的水,比亚马逊数据中心1年的用水还多。谈到污染,他表示,场地登记时披露的排放量,是按备用发电机全年持续满负荷运行估算;实际运行时间约占全年0.1%,相当于约10小时的维护时间。

  • 对于电价,Jassy承认部分地区电价上涨、另一些地区则有所下降。他将问题归因于电网投资不足,认为AI正在推动早该进行的扩容。待新增供电能力到位后,他称大多数地区的电价会持平或下跌,并以Indiana、Georgia和Mississippi为例。

  • 当地社区也应受益。Jassy称,亚马逊已在Indiana州St. Joseph County缴纳约30亿美元税款,并通过Built Together承诺在5年内再投入10亿美元。他主张继续推动公私合作,同时承认行业的建设方式仍有改进空间。

4. 企业生产工作负载,是AI需求尚未充分释放的中间地带

  • Jassy称,当前AI需求呈“两头高、中间低”的格局。一端是大量消耗算力的实验室客户,以及ChatGPT和Cloud Code等少数爆发式增长的应用。另一端是主要将AI用于提升生产力、降低成本的企业场景,例如客服、欺诈检测和业务流程自动化。

  • 中间地带是现有企业生产应用。Jassy称,绝大多数这类应用目前仍未广泛使用推理;他认为,这会成为AI绝对用量最大的部分。普及速度难以预测,但展望5至7年后,“相当多、甚至大多数”应用会广泛使用推理;在此之前,变化也会逐步累积。

  • Horowitz提出了一个值得保留的问题:为什么不买下既有客户的容量,再转售给几乎愿意支付任何价格的实验室?Jassy称,AI和非AI业务都在快速增长。现实中的资源取舍包括将存储器产能分配给加速器所需的HBM,还是核心工作负载所需的DRAM;但“我们不会挤压现有客户”(“We’re not gonna squeeze our customers”)。

  • Jassy称,疫情期间,即使会减少自身短期和中期收入,AWS仍主动帮助客户优化成本。扩容也遵循同样的长期合作逻辑。2026年容量已售罄,2027年大部分已售罄,2028年也有相当一部分售出;他预计未来几年不同组件都会受限,同时保留一部分容量供按需使用。

5. 定制芯片降低企业推理的经济门槛

  • 亚马逊2015年收购Annapurna Labs,并非为了押注AI芯片。公司最初想要一款NIC,把虚拟化、网络、安全和存储工作从服务器卸载出去,让服务器几乎100%的能力都用于客户算力。Jassy称,这项能力如今已部署在每一台服务器上。规模扩大后,公司看到了垂直整合的机会,团队的人才储备也让亚马逊相信自己能开发其他芯片。

  • Graviton源于亚马逊对CPU性价比提升缓慢的不满,当时Intel几乎占据全部市场份额。Jassy称,Intel的激励机制可以理解,但与希望以更低成本迁移上云的客户需求并不一致。他表示,AWS排名前1000的EC2客户中,99%都在广泛使用Graviton,其性价比较其他x86处理器高约40%。

  • Trainium针对的是类似的加速器市场格局,宣称相较同类处理器能提升30%至40%的性价比。这一点很关键:企业若要把CPU应用改写为基于加速器的推理应用,在成本大幅上升时,就需要更显著的增量收益。Jassy认为,推理成本仍“贵了一个数量级”;降低推理成本,能让更多应用达到值得重写的门槛。

6. 投资AI实验室,也是在加深业务合作

  • Horowitz初步估算,亚马逊对Anthropic的投资约为180亿美元,对OpenAI的投资约为500亿美元,并追问投资客户是否像互联网泡沫时期一样过度冒进。Jassy提到这些公司的团队、技术、应用和惊人的营收增长。他相信两家公司都会成为AI领域长期成功的企业,同时强调成功者不止这两家,但也不会人人都赢。

  • 谈到Anthropic,Jassy强调客户通过Bedrock运行其模型,以及Anthropic与亚马逊在Trainium上的合作。他称,双方都从芯片合作中学到了很多。亚马逊的投资,既基于这层合作关系,也源于公司对AI和Anthropic发展前景的信心。

  • OpenAI的合作,解决了AWS客户想用其模型、却因过往商业安排而无法接入的问题。双方合作包括通过Bedrock提供模型访问、共同开发有状态运行时,以及像Anthropic一样,承诺多年采购数吉瓦级Trainium算力。Jassy对智能体架构的判断十分明确:“你需要状态”(“You’re gonna need state”)。

7. 小团队需要让软件具备几分钟内自我修复的能力

  • 主持人提到,Bedrock用6名工程师、76天重建推理引擎;原先估计则是40人工作1年。Jassy称这段经历“令人非常警醒”,亚马逊也在内部分享了这个案例,用来挑战大家对专业分工和团队规模的固有假设。

  • Jassy预计,未来会由更少的人承担今天的工作,团队规模会更小,职能责任也会更宽;模型可以先行完成多个领域的大量工作。新岗位也会出现,其中一些现在还无法预见。在他看来,适应缓慢的老牌公司会更容易受到冲击,因为创业公司从一开始就在用AI构建业务。

  • 他预计,公司几乎必须重写所有代码,才能支持智能体运行,同时还要设定更新权限和约束。网络安全是迫切原因之一:模型能够发现过去人类没发现的漏洞,而现有漏洞分类、补丁开发和部署流程耗时太长。应用必须能在“几分钟内”响应;如果不具备支持智能体更新的能力,他称企业将“毫无胜算”。

  • Horowitz称网络安全威胁“迫在眉睫”,并将其与假设性的灾难区分开来。Jassy称,AWS正通过专业服务和Continuum提供帮助;后者能识别漏洞并生成补丁。模型与自动化也能测试更广泛的应用范围,弥补安全人员不足的问题。面对重要数据保护,等出事再行动不是好办法。

8. AI体验要胜出,既要彻底重构,也离不开人的判断

  • Jassy认为,如果企业把AI主要当作渐进式改进,3至5年后很可能仍做不出胜出的用户体验。Alexa需要新的“大脑”这一点显而易见,但落地并不容易:团队为过去的工作感到自豪,也不愿放下那些来之不易的经验——哪些方法有效、哪些无效。

  • Horowitz回忆,自己以前的老板曾警告:“第一行代码写下之前,一切都可以讨论;写下之后,一切就成了宗教”(“it’s religious”)。客户也可能喜欢现有体验。Jassy将这次转型比作基础设施领域的领导者抗拒云迁移:即使技术和经济效益有足够吸引力,仍需要大量变革管理。

  • 亚马逊已有团队在重新构想零售、Prime Video、Fire TV和Prime Music。Jassy不认为公司一开始就能把所有事情做对。尚未解决的问题之一是:成功的创意最终会成为全新应用,还是逐步融入现有产品,并在未来几年改变整体体验。

  • 他给年轻建设者的建议,是广泛使用AI,同时继续保持批判性思考。过去商学院学生每天要研究、批注和分析3个案例;如今AI能让所有人从更高的起点出发。但把材料整合成战略、产品和企业,仍需要判断力与不断试验;他不认为AI会“在大多数时候替大多数人做到这一点”。

9. 单线程负责制支撑亚马逊的更广泛布局

  • Jassy将AI、机器人和太空开发视为亚马逊同时参与的3场重大变革。Amazon Leo的低轨卫星网络,瞄准全球约5亿个没有宽带接入的家庭;零售机器人、Zoox自动驾驶网约车、医疗和杂货业务,则拓展了亚马逊希望解决的客户问题范围。

  • 对于业务铺得是否过宽,Jassy的回答落在组织架构上:采用彼此独立、分权运作的单线程团队,而不是让同一批领导者同时管理多个业务。新机会需要有能力的领导者和建设者、具差异化的构想、尚未得到满足的市场需求,以及足以产生实质影响的规模潜力。除此之外,业务广度取决于亚马逊愿意投入多少。