企业家
1 场深度对话收录
Ramin Hasani
前沿洞察
Ramin Hasani押注后Transformer时代的设备原生智能，以零托管、低延迟与高隐私重塑车载及边缘市场。他借AFMD硬件搜索构建轻量高能效模型（如入驻奔驰的微型LFM），开辟独立于云端的新赛道。关键警示在于：产业正面临严峻落地转化瓶颈；硬件高度定制易陷入深度耦合风险；前沿监管亦可能遭遇巨头俘获，反噬开源与架构创新。
观点集合
边缘智能：Liquid AI 的 Ramin Hasani 探索设备原生基础模型
Liquid AI押注手机、汽车和工厂的边缘推理，隐私、延迟、能源与成本让设备端成为独立于云端的市场。AFMD在真实硬件上搜索50–100种算子，产出以70–80%双门控一维卷积为主的LFM2，Shopify与Mercedes-Benz提供商业验证。关键风险是硬件定制模型能否在避免过度耦合的同时，继续逼近前沿能力与大脑级能效。
查看摘要（8段）
- Liquid AI 的商业判断是，边缘硬件是一个尚未被充分开发的推理市场，而不只是云端 AI 的低价复制品。 Hasani 估算，仅智能手机每年的市场规模就约为5000亿美元；Labenz 则将手机与笔记本电脑合计视为每年出货约1万亿美元算力的市场，而节目开场采用的数字约为8000亿美元。能源限制、隐私、延迟和工作负载经济性，都支持 Liquid 的目标：在已经存在于口袋、汽车、工厂及其他设备中的多样化硬件之上，“构建一层智能”。
- Liquid 的核心技术发现是，最佳架构取决于规模、专业化程度和硬件约束。 Attention 仍是最丰富、结构约束最少的机制，在前沿规模上或许值得承担其 (n^2) 成本；较小或更窄的模型则能从递归、卷积、门控或领域特定动力学中受益。“网络越大，架构就可以越不结构化”（“The larger the network becomes, the more unstructured you can make it”）；反过来，受约束系统可以牺牲通用性，换取显著更高的速度和内存效率。
- Liquid 的科学脉络始于受生物学启发的微分方程，并用仅几十个神经元实现了令人瞩目的控制系统。 Liquid 网络用12个神经元让小车完成平行泊车，用19个神经元驾驶小车，用30个神经元操控无人机；后续工作又扩展到喷气机和其他预测系统。它们的优势在于输入依赖的动力学和分布外适应能力，而不是魔法或持续学习：“天下没有免费的午餐”（“There’s no free lunch”），训练好的参数仍保持固定。
- Liquid 的自动化基础模型设计系统，把架构选择转化为一个以硬件为基础的搜索问题。 AFMD 用进化策略评估约50–100种算子及其混合组合，将实际目标处理器、内存和延迟约束，以及约100项下游基准纳入目标，而不是只看困惑度。在覆盖约1000万至720亿参数的搜索后，结论是“必须把决定权交给算法”（“You have to give it to the algorithms”），即使这意味着算法会舍弃 Liquid 创始人偏好的机制。
- LFM2 胜出的 CPU 架构出人意料地简单：70–80%为双门控1D卷积层，另加少量 Attention。 门控让计算依赖输入；卷积则提供低成本、低结构约束的算子，以较低的内存和二次复杂度成本替代大部分 Attention，而不需要许多替代架构中复杂的人工调参机制。Hasani 对搜索结果的直白总结是，当额外门控和人工选择的特征无法通过完整效率目标时，“这一切都必须删掉”（“All of this has to go away”）。
- 商业验证表明，Liquid 已经不再只是一次架构实验。 Hasani 表示，Liquid 在 Hugging Face 上每周下载量超过100万，在美国机构中排名第5，仅次于 Google、Meta、Microsoft 和 NVIDIA；超过50个模型实例已被企业使用，而公司内部只有约1000块GPU。Shopify 已在商业工作负载中将 Liquid 模型投入生产，Mercedes-Benz 签署了部署约600MB车载音频和视觉系统的合同；Labenz 还发现，10亿参数的 Apollo 模型在 iPhone 上运行足够快，可以用于私密的本地文档搜索和分类。
- 芯片厂商可能需要掌握一层可调节的智能，而不能止步于芯片和内核。 Liquid 正与 AMD、Qualcomm 等公司围绕处理器路线图合作；Hasani 则将 NVIDIA 的 Nemotron 项目视为硬件优化模型能够改善企业价值主张的证据。Labenz 质疑这是否会造成过度的模型—硬件耦合；Hasani 的回答基本是：“为什么要改模型？”前提是默认模型足够快、可调节，且不阻碍更广泛的开源生态。
- 眼下本地 Agent 的机会在于编排，而真正实现每瓦智能的小型化仍需要新的学习范式。 拟议中的本地 LFM2 24B A2B 系统可以路由请求、过滤 PII、调用专用模型，并将困难任务升级到云端；但 Hasani 表示，目前没有任何本地模型在不经过微调的情况下达到前沿质量，未来工具则可能以几十美元至数千美元出头的成本生成生产级模型。长期看，现有架构无法接近大脑约20瓦的效率，因为“智能对我而言是一种涌现属性”，需要能够诱导出多种学习方式的目标，而不只是下一词预测。