105: 潞晨尤洋争议中谈三方云平台 DeepSeek 成本:为何我不做 MaaS 了?
摘要
DeepSeek 公布的 24 小时实测数据,把第三方部署争议推到了约 46 倍的输出吞吐差,但两组数据并非同一测试口径。 其间输入 608B、输出 168B token,平均使用 226.75 个八卡 H800 节点、合计约 1,814 张卡,支撑两三千万日活;按 R1 价格计算的成本利润率为 545%,即约 84.5% 毛利率。不过 V3 调用和夜间折扣意味着这只是理论上限,访谈也没有完成双方同口径复算。
尤洋坚持,自己的结论针对倒卖 DeepSeek API、夸大加速能力的中小云厂商,而不是 DeepSeek 本身。 潞晨用四台八卡 H800 机器测试时,每台机器实际输出约 300 token/s,DeepSeek 披露的数据则为 14.8K token/s;他据此前估算称第三方 MaaS 月亏可达 4 亿元,甚至称“中小云厂商投入一百块钱只能收回一块钱”。面对官方数据,他拒绝评论 DeepSeek 的技术细节,只强调线上混合负载与离线 benchmark 不同。
尤洋认为 MaaS 的结构性死结是计费错配:上游 GPU 按时间收费,下游应用只为实际 token 付费,全部闲置风险被夹在中间的平台吸收。 他估算,为保证每天输出 1,000 亿 token,平台可能要准备 5,000 亿 token 的容量;主持人提出足够多用户、跨时区流量和夜间离线任务或可把冗余降至两倍,他仍认为瞬时需求“不可预测”。五倍只是他的个人估算,却是这套亏损判断的关键且有争议的容量假设。
开源推理框架能提高全行业效率,却未必给第三方 MaaS 留下可收费的技术壁垒。 尤洋判断,SGLang、vLLM、TensorRT 等方案已经足够强,99% 的中小云厂商很难形成显著领先;即使采用更多优化,结果也可能是能力重新拉平、竞争继续落到价格。“所有的亏损都来自于机器的闲置率”,而非某一次漂亮的吞吐测试。
潞晨短暂上线 DeepSeek API 后决定停服,把资源重新押回私有模型、Post-Training 和专属 serving instance。 公司曾在 2 月 4 日宣布与华为昇腾合作提供 DeepSeek API,3 月 1 日又宣布一周后暂停;尤洋承认 MaaS 能带来收入,但“代价有点太高了”,创业公司更应“细分细分再细分,专注专注再专注”。专属实例或一体机由客户包下整台机器,客户可以直接控制自己的容量和资源成本。
在尤洋的商业框架里,MaaS 更适合拥有独家模型定价权的公司,或拥有超级 App 和巨大流量池的大型云厂商。 他引用一则关于 ChatGPT-4.5 相比 GPT-4 好很多倍、价格贵 500 倍的消息,把超额利润称为“对创新的奖励”;主持人随后将问题表述为 GPT-4.5 相对 V3 贵约 500 倍,并追问市场是否接受,节目未澄清两种比较对象。投资含义不在于垄断应否成立,而在于没有模型差异化的 API 转售商几乎没有议价权。
潞晨选择的替代路径是“AI 版 Databricks”:国内做大企业私有化交付,海外用低价 GPU 云服务中小客户。 其目标客单价约 10 万至 100 万元,海外面向东南亚、中东等客户提供 H200、甚至 B200,尤洋称 GPU 价格可比 AWS、微软云低 70%—80%;开源 Colossal-AI 负责获客,企业版、算力和交付负责变现。下一步还在试视频大模型:效果好则形成现金流,效果不好便作为基础设施使用并开源。
精读
1. 争议始于两套成本账,却没有完成同口径对账
主持人先摆出 DeepSeek 的 24 小时数据:输入 608B、输出 168B token,平均 226.75 个节点,每节点八张 H800;合计约 1,814 张卡,被描述为支撑两千万至三千万日活。
DeepSeek 按 GPU 市价和 API 定价算出的成本利润率为 545%,换成常用口径约为 84.5% 毛利率。主持人同时保留两项限制:流量中包含价格更低的 V3,夜间调用也有折扣,所以实际利润率可能低于这个理论数字。
尤洋反复划清对象:“我不太想把自己置于和 DeepSeek 对立的位置。”他称自己 1 月 2 日就公开判断 DeepSeek 是中国最好的模型,真正批评的是中小云厂商倒卖 API、同时宣称推理比英伟达快十倍。
主持人没有回避舆论层面的矛盾:尤洋一面说不是在和 DeepSeek 对抗,一面又以“我现在就一个人跟 DeepSeek 在对抗”为关闭知乎评论辩护。尤洋解释,那是“在键盘侠眼里”的处境,并非他对争论对象的定义。
2. 300 对 14.8K 的差距,尤洋把重点放在负载与利用率
潞晨此前用四台八卡 H800 服务器测试开源部署,尤洋给出的实际输出约为每台机器 300 token/s;DeepSeek 披露的平均输出吞吐为每节点 14.8K token/s、输入约 73.7K token/s,输出侧相差约 46 倍。但这两组数据来自不同测试场景,节目没有给出同口径复算。
尤洋展示的序列实验中,输入 1K、输出 1K 时性能最好;保持输入 1K,把输出增加到 2K、4K、8K,吞吐持续下降。输入 32K、输出 8K 时,两台机器每秒只能输出一百多个 token。
他的线上负载画像是翻译、摘要、多轮对话和论文阅读同时到来,因此输入和输出长度都高度不整齐,“真实的 MaaS,利用率应该是非常震荡的”。即使某家方案比 vLLM、SGLang 快两倍,他仍认为利用率问题不会消失。
主持人试图把 DeepSeek 的 prefill、decode 负载均衡与这种序列波动对应起来,尤洋仍选择 “no comments”,并以“就当我用的 SGLang 或者 vLLM 太烂了”收口。节目保留了巨大数据差,却没有拆出框架优化、序列长度和业务分布各自贡献多少。
3. MaaS 把固定 GPU 成本和按量收入之间的缺口留给了平台
尤洋对产业链的拆解是:IaaS 或数据中心按机器和时间收费,一台服务器即使利用率为零也照常计价;MaaS 下游却只按实际生成的 token 付款,应用既不关心机器是否空闲,也不知道平台是否已满载。
他举例说,IaaS 可能按每台机器 8 万元收费,利用率为 0% 时价格也不变。机器满载时,新请求继续进入就可能导致服务崩溃;机器空闲时,用户不用便没有收入。尤洋由此归纳:“AI 的中间层或者算力层,核心就是降低算力闲置率”,“所有亏损都来自机器闲置率。”
他的容量估算是,若承诺每天输出 1,000 亿 token,就应准备可输出 5,000 亿 token 的机器;前提是平台不限制上层 App 的调用,因为限流等于限制客户增长。尤洋明确称五倍是个人估算,而非精确测得的行业常数。
4. 主持人挑战五倍冗余,尤洋仍把随机性视为不可消除
主持人转述另一家 infra 创业公司的反驳:如果用户足够多、覆盖中美欧不同时区,再把夜间空闲资源用于离线任务,额外一倍容量可能已经够用;DeepSeek 自身也会在夜间减少推理节点,把资源切回训练。
尤洋不接受这一推演。他认为即便每小时用户总数接近,MaaS 又不限制每个 App 的调用量,瞬时利用率仍由不可控请求决定;应用越多,实际波动幅度越大,两倍在他看来“非常不靠谱”。
这场分歧没有落到历史流量、并发分布或服务等级数据上。主持人的削峰填谷机制与尤洋的五倍安全垫并列存在,也使“月亏 4 亿”的结论必须连同容量假设一起理解。
5. 推理优化可以普及,但普及本身会削弱平台溢价
尤洋的基准不是潞晨自研技术,而是直接采用 vLLM、SGLang、TensorRT 等开源方案。他“敢打赌”99% 的中小云厂商不可能比这些方案明显更快;某些十倍加速更可能来自参数设置或 corner case。
对 DeepSeek 开源的 PD 分离等方法,他只谈一般原则:“计算机系统有一个词叫 trade-off,你加速了十倍,你肯定是要牺牲什么东西的。”离线机器上的理想结果,不一定完整迁移到混合序列和随机流量的在线服务。
他预期未来几个月到一两年会有人借助量化、剪枝、蒸馏等手段展示更漂亮的数据,也会有人宣布通过 DeepSeek API 盈利;但站在他所说的 2025 年 2 月初这个时间点,他仍断言中小云厂商很难赚钱。他还提醒,标为“满血版”的服务可能已经经过剪枝或量化。
6. 潞晨试过 MaaS,结论是收入存在但不值得烧钱
DeepSeek 热度起来后,潞晨曾重新验证 MaaS:2 月 4 日宣布与华为昇腾合作推出 DeepSeek API,3 月 1 日又宣布服务将在一周后暂停。尤洋承认它“确实可以获得一些收入”,但亏损率高、取得收入的代价过大。
这次试验并非第一次怀疑该模式。尤洋提到 Fireworks.ai、Lepton AI、Together AI,也提到伯克利老师 Ion Stoica 相关的 Anyscale;在他的观察里,Anyscale 放弃 MaaS 最早触发反思,Together AI 的主要收入也不是 MaaS,而是算力平台和 GPU 租赁服务。
DeepSeek 带来的需求热度让团队“非常想试一下”,结果与旧判断接近。尤洋的资源配置原则是:“创业公司应该细分细分再细分,专注专注再专注”,先扩大已有主营收入,等定价体系和 GPU 利用率更成熟后再考虑 MaaS。
对此前“月亏可达 4 亿元”的激烈表述,他最后进一步限定:原话针对中小平台,甚至称其投入 100 元只能收回 1 元;大厂同样投入 1 元,也许能收回三五十元,并非所有服务商都承受同一亏损率。
7. 专属实例和一体机把容量责任交还给客户
潞晨更认可 serving instance:一台优化好的机器由客户包下,100 个用户用一台、200 个用两台、400 个用四台。平台不再把多家随机请求汇入同一资源池,客户也能清楚控制自己的容量。
尤洋把阿里云、火山云等厂商推出的一体机视为更稳妥的形式,因为机器完整归客户控制。相较按 token 收费,专属实例、一体机或私有集群能让客户自行承担包下资源的成本。
主持人以早期云计算作类比:弹性资源曾同样被怀疑,但最终形成成熟市场。尤洋的区分是,大多数成熟云客户会包下一块资源,没有机器便无法使用;若未来应用客户也按时段租用模型能力,他认为“那很好啊,那就不是今天这种 MaaS 商业模式了”。
8. 没有模型壁垒的 MaaS,最终只能比较价格
尤洋认为,阿里云、火山云等拥有超级 App、庞大用户池的大厂,亏损率可能低于中小平台;DeepSeek 这类模型开发者也能围绕自家模型做更深优化。两者不能与纯第三方转售商用同一成本结构推算。
他给出的判断是,MaaS 可能唯一能赚钱的是 ChatGPT 这种情况:模型能力独一档、不会立即受到同质模型价格战约束。第三方既没有模型壁垒,软件优化又难超过顶尖开源方案,最后只剩“卷价格恶性竞争”。
主持人追问,既然官方 API 和大型云都能供应,第三方 MaaS 当初为何存在。尤洋的回答并不神秘:“反正大家都探索嘛,其实都是想找一些生存的机会嘛。”试错能解释入场,却不能自动形成长期壁垒。
9. “创新奖励”论把模型定价权推向了垄断
尤洋把 Google 称为当前 AGI 浪潮的最大贡献者,列举其收购 Hinton 团队的公司、支持 Google Brain,以及 Transformer、BERT、Switch Transformer、AlphaGo 等工作。他的因果解释是,搜索业务的高利润给了公司长期探索非核心前沿课题的空间。
撇开政治问题、从商业角度看,他引用一则消息称 ChatGPT-4.5 比 GPT-4 好很多倍、价格贵 500 倍,并据此为 OpenAI 的闭源与高价辩护:“我的模型就是比别人好,我就应该多赚钱。”研发投入若无法转化成利润便难以持续;市场是否接受,则是“愿赌服输”。
主持人随后将问题表述为 GPT-4.5 相对 V3 约 500 倍,并追问市场是否接受;高定价只有在市场接受后才能转化为利润。尤洋认为这取决于模型是否“实质上好很多”,但仍把超额利润视为“对它创新的奖励”。节目没有澄清尤洋所引消息中的 GPT-4 与主持人提问中的 V3 这一比较对象差异。
当主持人提出 DeepSeek 开源最强模型可扩大下游探索时,尤洋将其归入带有“宏大理想”的外部效应,而非纯商业行为。他主张 AI 长期需要一两家高利润巨头,同时补充中国也应有自己的公司,并非鼓吹 OpenAI 独占。
10. 潞晨押注的是私有模型全流程,而非公共 API 转售
潞晨把自身定位为 PaaS 和 Post-Training 平台:企业处理私有数据后,通过强化学习、蒸馏、SFT 完成垂直模型,再部署到内部系统或自己的 App。尤洋的比喻是,GPT-3 是“一个很聪明的孩子”,仍要学习专业知识。
理想流程是企业持续上传报表、PDF 等数据,系统自动更新参数并替换线上模型。很多行业场景不需要超大模型;尤洋称,具备类似 Llama 7B 的基础能力,再结合“珍贵的私有数据”,就可能满足需求。
尤洋的背景是伯克利博士,曾在新加坡国立大学任教并建立研究组;他认为团队天然更擅长 infra。国内大客户购买企业版并部署在自己的集群,潞晨需要派人交付,但要控制人力成本。他举例称,一家世界 500 强客户购买了约 1,000 张 A100、A800 卡;海外则主要用自动化云平台服务中小客户。
产品边界被归纳为三步:处理私有数据、完成 RL/蒸馏/SFT、部署推理。第一步可依赖成熟外部工具,后两步由潞晨打通;尤洋认为这种足够细分、功能清晰的产品,才适合资源有限的创业公司。
11. 开源获客、低价 GPU 与视频模型组成下一阶段下注
潞晨希望复制 Databricks 的开源转企业版路径:Colossal-AI 的 star、fork 和 dependents 用来证明能力并导流,销售再把使用者转成付费客户。尤洋也承认,对大企业而言,开源影响力和主动销售“两者都很重要”。
他用“大宗商品交易”解释网站流量不高:平均客户每年约付 10 万元,1,000 个客户就是 1 亿元;公司客户大概在 10 万至 100 万元这个量级,不与微软、AWS、阿里争夺数千万元级项目。
海外平台由新加坡公司运营,面向东南亚、中东等中小客户提供 H200、甚至 B200。尤洋称,借助优化和区域成本,GPU 价格可比 AWS、微软云低 70%—80%,再用 Colossal-AI 的功能与易用性提高利润;他明确限定,这套逻辑不适用于大型客户。
潞晨还在开发视频大模型。尤洋判断,在 AI infrastructure 领域,大语言模型能做的事情已经基本做完了,下一次重大突破可能来自多模态;视频又能直接交付产品,市场上“一分钟的视频就要一万块钱”。模型效果好便做现金流,效果不好则作为 infrastructure 使用,也可以开源,让更多人使用其基础设施。
回看 2021 年创业起点,他说 GPT-3 在 AI 圈已足够火,只是没有出圈;公司从一开始就选择擅长的 infra,而非正面做基础模型。新加入的新加坡国立大学博士生正补充算法和数据能力。面对争议,他最后的态度是:“无所谓啊,这不就是我的看法吗?”但也表示不再回应人身攻击,只继续讨论技术事实和商业模式。