硅谷坐标 x Ion Stoica教授（Databricks、Anyscale、LMArena 联合创始人）｜开源vs闭源、基础设施创业的机会

摘要

• AI 基础设施初创公司的机会在于锁定新兴工作负载的核心问题并做到极致。 Ion Stoica 认为硬件、应用与效率优化日益耦合，但初创公司仍可从后训练、多模态数据、机器人，以及跨云训练与数据搬运切入：“解决这些问题，并在这些方面做到卓越。”
• 后训练可能继续扩张，因为它能把现有模型针对特定任务显著增强。 大量具竞争力的开放模型——其中不少来自中国——提供了现成底座；经过后训练，它们在部分任务上甚至可能超过最好的专有模型。
• 算力稀缺正在把多云可移植性和数据传输变成基础设施机会。 即使大公司也可能需要拼接多家云厂商的 GPU 与自建数据中心；训练数据达到“数万亿甚至更多”时，SkyPilot 式的跨位置调度与数据传输都很重要。
• 闭源实验室目前最明确的竞争因素是资本，而非已经被证明的其他技术因素。 尚无公司证明自己能凭资本之外的某种因素构建这类模型；资本之外还需要收入。模型排名几个月就轮换一次：去年年底可能是 Gemini，随后又是 Claude，Ion 据此判断“还没有一个实验室完全占据主导地位”。
• 开源模型不必全面追平 Frontier Lock 模型，只需跨过具体任务的可用阈值。 Ion 用汽车作比：如果只需要一辆车在圣克拉拉和旧金山之间以每小时 100 英里的速度安全行驶，能开到 300 英里并不重要，除非任务本身是比赛；因此更多任务会被“足够好，甚至绰绰有余”的开源模型覆盖。
• 模型的“品味”确实影响使用体验，但更像 UX 与沟通质量，而非稳定的实验室护城河。 同一概念，有人 10—15 分钟就能讲懂，另一人讲 3 小时仍令人困惑；可如果实验室的差异真由少数高品味人才决定，模型排名便不应“每两个月左右”重排。
• Arena 的愿景是用来自真实任务的人类偏好帮助构建更好的 AI，而不是只依赖静态榜单。 Ion 的目标是让 AI 更准确、可靠、可预测且具成本效益；静态 benchmark 仍重要，但“只要我们为人类构建系统，最终的衡量标准就是人类本身”。

精读

1. AI 基础设施正在成为一个整体系统问题

• Ion Stoica 的第一层判断是，硬件与应用的创新都在加速，而昂贵的 AI workload 又迫使每一层追求极致效率。组件因此“紧密耦合，高度集成”，越来越需要作为一个庞大系统共同开发。

• 在这种复杂性下，初创公司的机会仍在于“识别一些核心问题，解决这些问题，并在这方面取得卓越成就”，尤其要集中精力处理新兴问题和新兴工作负载。

• 面对 AI 入侵各种系统、网络安全乃至人类风险，他主张先“冷静下来”：AI 是复杂且可能出现意外行为的工具，正如互联网和大型分布式系统。应从攻击中学习、提高安全性并引导系统，但也别忘了这些工具最终应提高生产力、改善生活。

2. 后训练、机器人和数据移动构成近期创业楔子

• Ion 最看好的新兴工作负载之一是后训练。它能有效提升既有模型在特定任务上的能力，而开放且具竞争力的模型供给，为这类工作提供了现成基础。

• 中国开放模型尤其扩大了这一空间：公司可以在其上做后训练，并可能在特定任务上超过最好的专有模型。

• 多模态数据是第二个瓶颈。随着模型同时处理视频、图像、文本、声音与音频，如何更好地处理这些数据会成为更大的基础设施挑战。

• 机器人把模型、数据与开放堆栈三个问题连在一起。行业尚早，许多公司仍在构建模型；Ion 认为，一个适合机器人应用、无需构建数万亿参数模型的开放堆栈，“非常重要，也是一个机会”。

3. 开源无需赢下总榜，只需跨过任务阈值

• 曹卿云追问 Frontier Lock 模型与开源模型的长期差距。Ion 的回答带着明确立场，但也有现实依据：“我坚信开源精神”；只要竞争者拥有足够资本，即使资本更少，也可能造出有竞争力的模型。

• 模型排名的快速轮换削弱了永久技术壁垒的说法。Ion 提到去年年底 Gemini 一度可能最好，几个月后又明显轮到 Claude；在编码方面，某些模型可能稍微领先，Oppus 5.5 也很好；尚无实验室长期统治。

• 更重要的并非开源能否在所有维度追平，而是任务是否存在能力阈值。Ion 的汽车类比最直接：“如果你需要一辆车以每小时 100 英里的速度安全行驶”，能开到 300 英里并不重要，除非任务本身是比赛。

• 曹卿云转述 Versel 的观察，并明确说自己“不记得确切的数字”：几个月前专有模型占比约 70%，近期开源模型占比也约 70%。这被用来说明模型选择格局正在变化。

4. 品味决定体验，却还不是持久护城河

• Ion 接受“品味”对模型使用体验的重要性，但把它具体化为沟通与 UX：模型如何组织答案、何时要求澄清任务，会决定用户能否利用更多能力。“只要你为人类构建系统，就需要考虑人类的需求。”

• 曹卿云进一步提出，各实验室的差异或许来自更有品味的人才。Ion 的回应是：若真如此，排名不应每两个月变化；目前多个实验室能力相近，资本还能吸引人才，而人才本身也在实验室之间流动。

5. 开放贡献与真实人类评估决定模型迭代速度

• Ion 认为，开源运作良好时的结构性优势，是让创新扩散到实验室边界之外。他以 Linux 为参照，希望 AI 不只开放模型，还尽可能开放数据、软件、训练所用的全部软件与评估，让“世界各地的人都可以参与贡献”。

• Arena 的愿景是帮助人们构建“更准确、更可靠、更可预测，当然也更具成本效益”的 AI。要回答某项任务最适合哪个模型，评估不是附属功能，而是必要的选择机制。

• Ion 认可静态 benchmark 的价值，却不把它当最终尺度。最好的评估方法是让真实用户运行真实任务、解决自己的问题，再以显式或隐式偏好评价模型或 agent：“最终的衡量标准就是人类本身。”