AI能预测未来吗?——与Gensyn联合创始人兼CEO Ben Fielding 对谈 | EP 171
摘要
Ben Fielding 的核心判断是,前沿实验室已被困在一场资本密集型扩模竞赛中,而这些模型很可能仅靠使用收入无法收回开发成本。 蒸馏和开放权重发布会迅速复现以数百亿美元开发的能力,几乎「没有可防守的护城河」(no protective moat)。因此,持久价值应归属于拥有大量付费且长期留存客户的产品,而不是暂时领先的基准测试成绩。
AI的约束条件已从算力转向及时、可信的信息。 2021年,互联网数据供给充足,瓶颈在算力;如今实验室可以搭建超大规模集群,却在「几乎把整个地球翻遍」寻找新的训练材料和可靠的真实信号。Jastremski 将不断上升的赌注概括为每GW约500亿–700亿美元,今年可能新增20 GW产能,明年30 GW,2028年50 GW。
Gensyn 已证明去中心化训练的若干关键环节可行,但 Fielding 不再认为分布式算力是最高杠杆的业务。 其验证技术可以在 NVIDIA、AMD、x86和MacBook硬件上复现并检查机器学习操作,RL Swarm 据称还协调了约40,000台设备。但集中式预训练仍然更快,算力供给也已扩张,目前没有哪类天然客户需要去中心化训练所要求的那种截然不同的模型架构。
公司的「中间道路」保留去中心化的优势,却不要求每次计算都经过去中心化网络。 Open1B 在集中式数据中心高效训练完成,但任何人都可以复现并审计每一步操作,而不只是查看开放权重或训练配方。Fielding 的关键区分是:在必要之处去中心化验证和信任,同时把算力放在最适合完成任务的地方。
Fielding 认为,预测可能成为AI的下一轮大浪潮,尽管它获得的关注度「大概只有10%」的LLM水平。 LLM能够压缩并重排信息,但涉及重大后果的决策仍需人类判断;预测系统则可以进一步估计这些决策的结果。他对产品的比喻是「一台扑克式的万事赔率计算器」(a poker-like odds calculator for everything)——一台比人类更擅长预测未来、并持续改善决策的机器。
预测最难的部分,是在结果揭晓前收集证据,再在现实落地后对证据进行奖励。 事后重建历史会受到 hindsight、编辑和搜索结果更新的污染,因此 Gensyn 的 Deli 项目采用不可篡改的区块链记录、无许可市场和可靠且经过测试的AI裁决机制,把带时间戳的主张与之后的结果连接起来。证据市场还可以直接购买预测背后的信息,而不只是观察一笔10美元的押注。
Fielding 认为,只有在去中心化能换来不可替代的东西时,crypto与AI才会真正汇流。 预测市场交易量、代币叙事或哲学信念都不够;「哲学付不了账单」(philosophy doesn’t pay bills)。真正有护城河的交集在于全球信任、自动结算、微支付,以及直接奖励充当信息传感器的人类——他认为这些能力无法由中心化运营者复刻。
精读
1. Fielding走向去中心化,起点是并行搜索。
Fielding 于2015年进入深度学习领域,当时GPU加速正把神经网络从理论上可扩展的机制变成实用系统。他的第一篇论文描述了一款配备摄像头的3D聊天机器人,但目标识别大约需要5分钟,因此系统讨论的其实是5分钟前出现在视野里的内容。这是一个很糟糕的系统,却展示了这项技术的潜力。
他的博士论文从计算机视觉转向神经网络架构搜索。与其让研究人员一次手工寻找一套更好的层级组合,他使用进化算法和群体算法并行探索大量候选网络;论文背后的信念是,机器学习应被视为一组计算原理,而不应被简化成「我们永远使用反向传播」。
这种框架自然导向去中心化:地理上分散的机器能够提供规模最大的并行工作环境。Fielding 的现实动机同样朴素——他桌下有几块GPU,想要更多,却很难获得使用权限。这说明资源约束本身就是研究障碍,而不只是基础设施不够方便。
2. 横向扩展要求改变算法,而不是把机器做大。
Fielding 描述了人们熟悉的纵向扩展路径:从 GeForce GTX 980 到 GTX 1080,再从1块GPU扩展到4块,最后进入集群节点阶段。由于算法保持不变,每一步起初都几乎感觉不到成本;但很快,内存、主板总线、互联带宽和散热会依次成为新的瓶颈。
他偏好的类比,是 Google 早期从纵向扩展 PageRank 转向 MapReduce。把任务重写成彼此可分离的部分,可以使其「近乎无需协调即可并行」,让新增机器并排扩展任务,而不是继续把越来越昂贵的能力堆到单台系统上。
机器学习同样包含大量可并行化问题,架构搜索就是 Fielding 直接熟悉的例子。他认为,分布式数据中心可以共同容纳比任何单一设施大10倍、100倍甚至1,000倍的模型,但要兑现这一上行空间,需要新算法,也需要解决集中式集群中根本不存在的问题。
Jastremski 的观察值得保留:现代机架、NVLink以及400Gb、800Gb乃至Tb级互联,正是为了让集群表现得像一台机器。Fielding 重申,纵向扩展能带来更快的即时回报;只有当效率下降到迫使架构改变时,横向方案才真正有吸引力。
3. 可验证的执行,比验证GPU身份更重要。
Gensyn 最初的问题是:能否协调全球各地闲置的消费级GPU。Jastremski 用一台声称是B300的设备与一台Mac mini作对比,说明其中的信任难题;Fielding 的答案是,支付体系和经济网络都不能建立在不可信的执行之上。客户必须确认所要求的工作确实完成了,而不管服务提供者声称使用了什么硬件。
因此,他偏好的信任原语是证明操作确实发生,而不是证明硬件规格、服务商声誉或服务等级协议。定期检查服务商是否真的拥有其声称的GPU,只会制造不断作弊的「打地鼠」激励;证明精确执行则会消除欺骗的价值,同时让服务商可以自由优化基础设施。
Gensyn 表示,它可以在 NVIDIA GPU、AMD硬件、x86机器和MacBook处理器上复现机器学习操作。这一精确复现基础支持乐观证明,并进一步支持速度更慢的零知识证明;正是这一技术结果让真正的无许可算力成为可能,尽管公司后来改变了商业重点。
4. 集中式算力赢得了短期市场,迫使Gensyn转向。
Fielding 明确改变了看法:去中心化训练在技术上可行,但集中式AI吸引资源的速度太快,要证明去中心化的决定性优势极其困难。即使前沿系统面临边际回报递减,实验室仍可以用去中心化竞争者无法匹敌的投入规模突破障碍。
Gensyn 2021年的判断之后,算力市场也有所改善。芯片数量增加、neocloud供应商增多、竞争加剧,都缓解了资源瓶颈;与此同时,大多数GPU消耗集中在执行特定任务的中心化超大规模云服务商手中。
因此,去中心化算力网络面临的是客户缺位问题。任何要搭建这类网络的团队,都必须同时成为一家设计全新模型的研究实验室;但 Fielding 尚未见过去中心化AI公司筹集到他认为参与前沿竞争所需的数百亿美元。业余爱好者、小型GPU用户和部分主权工作负载只能构成细分市场,不是Gensyn想要的规模。
只要预训练在速度和成本上仍有实质优势,就应继续保持集中式。Gensyn 的 Open1B体现了这条「中间道路」:模型在数据中心训练,但每一步训练操作都可以由任何人独立重复和检查。它提供的远不只是开放权重或公开配方,而是把审计去中心化,而非把执行去中心化。
5. RL Swarm已经跑通,但分布式后训练仍需要合适的产品。
Fielding 认为,强化学习后训练是去中心化算力剩下的最强机会。一个产品可以基于获得同意的客户在各自设备上的活动进行训练,让用户群同时成为信息来源和分布式学习网络。
RL Swarm 已经用约40,000台设备共同训练同一任务上的模型,证明了这条研究路径的可行性。尚未解决的是产品设计:编程助手或 Hermes kernels 这类开源项目可能受益,但应用和学习系统必须一起构建。
这种组合「有点像奇迹」,因为同一家公司必须同时解决产品问题和研究问题。Gensyn 认为自己并不适合两头兼顾,于是把基础设施转向去中心化更有把握解锁的资源:信息。
6. 开放模型让研究领先变成易逝优势。
Fielding 将机器学习的约束分为算力、数据,以及真实度或标注。互联网提供的文本多到研究人员处理不过来时,算力是主导瓶颈;随后,自监督的下一词预测缓解了人工标注瓶颈,而强化学习则通过奖励函数生成标签,不再依赖大批标注人员。
如今约束条件再次转移。实验室增加算力的速度快于寻找有用信息的速度,因此开始在全球范围内搜寻数据。Fielding 提到,有报告称有人把书籍实体拆开后扫描;与此同时,Lean这类基于规则的环境可以充当奖励函数。
蒸馏意味着,任何通过可访问模型暴露出来的能力,都比当初创造它更容易被竞争者复现。Fielding 预计,开源仍将是战略均衡器:落后的实验室可以通过发布模型削弱领先者的优势;不过他怀疑,如果今天的开源倡导者成为前沿领导者,立场可能会反转。
在他看来,持久护城河是「庞大的客户群」,并且这些客户会反复为有用的产品付费。他认为 OpenAI 和 Anthropic 从研究向更广泛业务扩张,正是对这一现实的承认;他也反驳 Meta 输掉只是因为 Llama 4令人失望的说法:Meta 仍然拥有规模庞大、深度嵌入用户生活的生态。
7. Neocloud经济学可能把公司困在昨天的瓶颈里。
Fielding 承认,neocloud运营商可以利用算力市场的阶段性低效,其中一家也可能成为大赢家。但他的战略异议是:归根结底,这类供应商仍是「大宗商品的经销商」,会暴露在规模效应之下,而规模效应最终应使价格逐步正常化。
Gensyn 曾考虑通过半集中式算力市场创造收入,同时为研究提供资金,最终放弃了这一方案。收入一旦到手,投资人就会追问如何扩大收入,公司也会围绕服务这项收入进行优化;5年后,团队可能发现自己已经非常擅长一个从未真正想做的细分领域。
Fielding 用「掉进沼泽」来比喻这种结果。他关注的是能够扩展机器学习的变革性机制,而不是一个看起来很有吸引力、却会让未来转型更困难的过渡业务,尤其是在产品分发比增量式研究优势更重要的情况下。
8. 预测可以让AI从信息检索走向判断。
Fielding 将今天的LLM描述为一名能力极强的图书管理员:它压缩海量多模态信息,重新组织后返回一个听起来很有说服力的结果。但涉及重大后果的输出仍需人类验证,因为模型还没有足够的机制去理解现实世界中的因果影响。
预测获得的关注度「大概只有10%」的LLM水平,但在 Fielding 看来,它所处的位置大致相当于2021年的下一词预测。实现规模化所需的要素已经存在,剩下的是工程和资源问题,这为把学术预测任务转化为通用的「决策与判断智能」创造了机会。
他最有力的类比是线上扑克与现场扑克:前者的软件会持续显示每手牌的概率,后者则要求玩家自行计算。一个充分规模化的预测系统将成为「扑克式的万事赔率计算器」(a poker-like odds calculator for everything)——它不只是预测事件,还会展示日常选择可能带来的后果。
9. Deli把带时间戳的人类证据变成预测飞轮。
预测数据无法在事件发生后安全重建。研究人员1个月后进行搜索时,无法知道某个页面是否以原始形式提前存在,还是在结果出现后被编辑过;唯一可靠的方法,是在当下捕捉信息、保存信息,并在未来到来时进行评分。
Jastremski 把这一过程比作奖励周期异常漫长的强化学习。系统记录关于一个事件可能如何影响另一个事件的连续主张,等待终局结果出现,再返回这段序列并发放奖励。
Gensyn 的 Deli 是一个无许可信息市场:任何人都可以为未来事件创建市场,参与者可以用资金押注自己的判断,再由可靠且经过测试的AI模型自动裁决。不可篡改的账本记录了某项主张在何时出现,而押注本身提供了信号:一个理性的人如果愿意押上10美元,想必认为自己掌握相关信息。
传统预测市场往往围绕交易量展开;Jastremski 指出,手续费让这种模式在商业上顺理成章,但 Fielding 认为,某些鼓励交易量的机制反而会主动损害信息聚合。Gensyn 提出的证据市场,则购买预测背后的信息,并在预测兑现时奖励提供者,让人成为获得报酬的「现实世界传感器」,而不是无偿贡献训练数据。
10. Crypto与AI将在信任无法被中心化消除之处汇流。
Fielding 区分了对去中心化的哲学支持与可行的商业模式。去中心化系统通常成本更高,因此创业者必须明确回答「你到底买的是什么」;那些为了关注度或资本而采用crypto的公司,最终都会在发现「哲学付不了账单」后离开。
Gensyn 的标准是现实中的必要性。全球市场结算、不可篡改的主张,以及陌生参与者之间的信任,需要去中心化,而普通企业采用往往不需要。钱包、微支付和链上支付流也都是有价值的额外收益,但信任才是用户真正付费购买的核心价值。
这种系统可能把模型训练的经济利益还给用户。某人提供的信息如果后来被证明正确,就可以直接获得部分强化学习价值,从而形成一个大型离策略训练闭环,让人类和机器共同贡献、共同分享奖励。
Fielding 最后的预测是确定的,尽管落地仍然困难:一个能比人类更准确预测未来的「盒子」可以存在。正如2021年的聊天机器人后来演变成能够完成大量知识工作的工具,他相信LLM会成为更大预测系统的组成部分,而预测将成为AI的下一轮重大浪潮。