开发者
1 场深度对话收录
Bill Jia
观点集合
从算力到规模 AI基础设施的未来｜对话 Google 工程副总裁 Bill Jia
Bill Jia称AI需求仍早期，或增长10倍、100倍乃至1,000倍；现金流转正依赖持续降本。推理算力长期或占六至八成，软硬件组合难靠人工优化，推理优化agent因此有规模化空间；电力短期受限，氢能与核能较现实，Bill预计明年上线大量GW级数据中心算力。
查看摘要（7段）
- Bill Jia 的核心判断：AI 发展仍处“很早期”，未来需求会“10 倍、100 倍、1,000 倍”地增长，因此当前为 AI 建基础设施是必要的。 他的投资逻辑是：如果需求上来时自己没有投入、而别人能满足需求，就会面临问题。
- 针对主持人关于谷歌 balance sheet 为负、CapEx 与收入错配的担忧，Bill 提到三条降本路径：模型提高 intelligence、减少 FLOPs；软件持续优化 networking、memory caching、compute 等；硬件本身也可以更便宜。 他认为，持续优化后最终可以实现 positive cash flow；如果继续优化，暂时的 cash flow negative 不用怕。
- 创业机会方面，他概括说会看 devices，以及能高效、可扩展地做事的 agents；具体到 inference，他会投资开发推理优化 agent。 模型与硬件的 N×M 组合很多，靠人力逐一优化“very, very unscalable”，而 agent 可以更便宜、可扩展地优化 performance、reliability 和 scalability。大厂也会做，但创业公司有时能做得更快、更好。
- 供给侧瓶颈是电力：主持人提到明年新增 40 GW 算力，Bill 不确认具体数字，但认为明年会有很多 gigawatts 的数据中心算力上线。 目前发电主要靠 natural gas、coal、crude oil；solar 和 wind 还不够 scalable、高效，能提供这类电力的地方也有限。较现实的方案是氢能与核能，moonshot 是太空数据中心；选址应去能源充足的地方。
- Bill 认为推理算力长期会占更大比例，当前是否五五开“很难说”，推理有可能已经超过 training；若现在五五开，长期可能走向四六、三七、二八。 Agentic era 下 memory 仍会很短缺，CPU、flash 和 hard drive storage 的需求也会上升。
- 几个关键判断：TPU 与英伟达不是“全面竞争”，而是不同商业模式下的相互学习；训推一体目前还早，pre-training、post-training 和 inference 全部做成一体没有必要且技术不成熟。 模型格局则会是 frontier 大模型与垂直模型并行、百花齐放。
- 安全风险不只在推理阶段：Bill 说模型本质上是 black box，我们不理解它为何如此运作，因此行为难以控制；经过训练、排障并处理安全隐患后，推理阶段目前“还不算太糟糕”，更值得关注的是新训练好的模型在测试、评估和 sandbox 中可能出现不可预测行为。