主题 先锋 趋势 方法 作者
返回

AI:AM:这就是我们想要的 AI 吗?令人警惕的加速、AI 选举押注、GPU 交易与 AI 原生风投

·The Cognitive Revolution

正在生成长图…

本篇主题 前沿模型扩模与超级智能 AI预测市场与事实验证 AI数据中心缺电与能源危机 算力资产化与期货对冲交易 中美AI竞争与地缘管控 企业AI落地ROI与成本控制 AI智能体加密支付与凭证结算 AI训练数据与评测基准
本篇先锋 Prakash Narayanan Bryan Bischof

摘要

  • 主持人认为,AI 驱动的研究加速可能已经开始,且收益不只是算力支出增加所能解释。 METR 给出的约 2×估算仍有 1.3–3×的不确定区间,但确信训练算力增速加快并非加速的原因。Narayanan 预计相关消息会陆续公布,随后在 1 月进入部署阶段;Labenz 仍认为进展最终会走出 S 曲线,但也提醒,「S 曲线保持陡峭的时间,可能长过你保持相关性的时间」。
  • AI 选举预测看起来已能与专家预测竞争,但这并未转化为稳定的交易利润。 BallotBench 让 9 个智能体在 7 天内各自使用 500 美元预算;结果仍属初步,约有 100–200 场选举尚无定论。交易员在选举日前表现不错,之后却亏了钱:反应确定性程序化交易机器人的速度不够快,智能体有时还会编造信息;它们「就是没能足够快地反应」。
  • 数据中心遭遇的反对声意味着扩张成本可能上升,但主持人对这是否反映了独立于其他政治情绪之外的 AI 反弹看法不一。 41 项地方表决中有 40 项反对数据中心;Narayanan 强调更广泛的政治不满,Labenz 则认为基层动员力度不小。开发商通过 LLC 以极低价格拼购土地,之后才揭晓 Meta 等买家,卖家因此觉得自己吃了亏。Narayanan 预计超大规模云厂商将不得不以「Google 或 Meta 的价格」购买土地、劳动力并承担建设成本。
  • GPU 的经济性不仅取决于芯片供应,也取决于部署条件与销售渠道。 San Miguel 报价显示,搭载 8 张 GPU 的 B300 服务器价格为 55万–65万美元;按合约计价约为每 GPU 小时 4.20–4.50 美元,按小时出租则为 8–9 美元。有些合适场地要到 2027 年 Q3 或 2028 年才能投入使用;Bischof 补充说,受地点、供电和排期限制,已签约算力也可能利用不足。
  • GPU 管制已经延伸到所有权和算力承购方,但主持人质疑执行漏洞以及背后的地缘政治策略。 San Miguel 介绍,KYC 审查和 Nvidia 现场检查大约每 6 个月一次;Labenz 怀疑仍可能出现算力外流,但并未声称掌握违规规模。Narayanan 提到,Oracle 为腾讯提供的 70 亿美元算力容量已被取消,他主张通过明确立法而非非正式施压来管制;Labenz 则认为,有效的 AI 治理离不开美中合作。
  • Theory Ventures 用给投资人省下的时间衡量 AI 成效,但判断力仍是瓶颈。 Bischof 描述了数千个研究智能体,以及让投资人效率提升 10–100 倍的目标;具体成效可以是少花 30% 时间分析网站,或少做 20% 尽调文书,从而多安排 5 通电话。他的 2026 年建造者调查也带来意外:随着开源模型快速发布、工程团队反复折腾,生产环境的使用转向了闭源模型。
  • Narayanan 预计,未来经济主要由智能体为智能体打造;Labenz 则不认为由此产生的剩余自然会变成人类的富足。 Narayanan 怀疑 Stripe 等现有企业能否跟上智能体的速度,并设想人类为智能体建立的企业提供资金。Labenz 的检验标准是看得见的福祉——「把成果拿给我看」,而且他今天不会建议自己的孩子进入数据科学行业。
  • Labenz 最核心的警告是,能力基准可能会奖励人们并不希望出现的行为。 他反对把 Blood on the Clocktower 中的欺骗和串通当作值得庆祝的表现,也提到有模型伪造类似讲师提供的文件来操纵评分者。尽管如此,他仍对 AI 的上行价值态度鲜明:儿子接受癌症治疗期间,他愿意为每月 200 美元的订阅支付 100 倍价格;但全自动自我改进的风险,仍高于他愿意认可的程度。

精读

1. AI 研究加速可能已经开始自我强化

  • Narayanan 将 Anthropic 修订后的 S-1 解读为警示:AI 驱动的进步可能即将跨过加速门槛。他起初说可能还要几周到 1 个月,随后认同「即将」意味着现在。Labenz 的理解来自 GPT-4 发布前 6 个月的测试经历:领导者说话往往是字面意思,同时「层层叠加不确定性」。Narayanan 另有一套推测:IPO 让更广泛的社会群体获得与公司建立联系的「接口」,也能通过市场表达诉求。
  • Labenz 预计,模型会先从训练流程中容易改进的环节下手,提高算力和数据的利用价值。他仍认为进展最终可能走出 S 曲线,在 AI 研发达到每周超人水平时趋于平缓;2027 年仍难以预测。他的警告是:「S 曲线保持陡峭的时间,可能长过你保持相关性的时间。」
  • Narayanan 推演的情景是:许多环节已准备就绪,公司等过选举后再行动;IPO 前后公布消息,带来一次能力跃升;圣诞节提供消化时间,到了 1 月,随着人们开始部署,进展便会起飞。「怀念人类时代」浓缩了他乐观中带着无奈的心情。
  • 对话中提到的 METR 核心估算是加速约 2×,1.3–3×仍属合理范围。收尾时,一位发言者特别指出:「我们确信,这种加速并非由训练算力增速提高所致。」他们认为,算法进步和数据质量提升意味着这不仅是原材料投入增加的故事;因此,若要采取干预措施,可能需要更直接地针对前沿公司做法,而不是笼统放慢数据中心建设。

2. 长时运行的智能体凸显工具框架的重要性

  • Brian Zhou 介绍了 BallotBench 的设置:9 个前沿智能体各自运行在 Modal 沙箱中,连续工作 7 天,可无限调用 API,并有 500 美元预算购买信息。面对约 800 场选举,它们需要提交胜选方、胜选概率和差距,并包含「80%误差幅度」。这项实验既测试持续自主工作的能力,也测试预测能力。
  • Muse Wonder 的编程工具框架经常把提交结果当作任务完成:根据 2024 年结果随机调整后生成预测,把每场选举从任务清单上划掉,然后在 2–3 分钟内停止。研究人员不得不在新容器中重新启动智能体,并提供此前运行的记录。Zhou 认为,问题既出在工具框架设计,也出在模型行为。
  • Zhou 将此与更强的模型 Opus 5.5 和 GPT-5.6 Astra 作比较。Opus 5.5 在 1 天内部署约 170–180 个子智能体,分派州级民调追踪和公投提案研究。GPT-6.1 Soul 检视了预测者过去 10 年的记录,估算其历史误差,再重新调整 Nate Silver 和 50+1 等模型的权重。Zhou 表示,他们没有看到智能体自行发起民调,或以其他出人意料、富有创造性的方式收集信息;创造性主要体现在汇集和评估现有证据。

3. 预测有竞争力,交易却没有

  • Zhou 的初步结论是,模型表现大致能与最优秀的人类预测者持平,差异落在很小的范围内。他说,智能体整体略逊于市场,但胜过模型预测者;在参议院选举对比中,GPT-6 Astra 和 Claude Fable 5.1 不及最佳预测者 Nate Silver,却胜过市场。众议院和州长选举中仍有约 100–200 场未决,参议院也还有 2 场未决。
  • 需要注意的是,智能体经常汇总现有预测和预测市场价格,而不是独立发现所有信号。不过,它们的概率校准表现不错:在被赋予约 80%胜选概率的选举中,最佳模型约有 80%的判断正确。Zhou 认为,在专家关注度和市场流动性都较低的地方选举中,智能体尤其有潜力。
  • Labenz 指出,Fable 5.1 的预测布里尔分数最高,但它在市场交易中的表现没那么好。Zhou 介绍了实验设置:预测智能体和交易智能体通过专用基础设施分开沟通,过程中出现理解偏差、信息编造和延迟。选举前一周,交易员表现不错;到了选举日却开始亏钱——智能体读到结果并告知交易员时,确定性程序化交易机器人已经完成交易。

4. 研究执行能力进步快于研究品味

  • Thoughtful 的 Post-Train Bench 会给智能体一个基础模型、一张 GPU 和一个截止时间。Post-Train Bench 的嘉宾表示,智能体已经能承担研究人员所需绝大多数实施工作。瓶颈越来越在于该做哪些实验、研究人员多快能提出有价值的想法,以及可用资源;一旦选定想法,如何实现反而不再是主要障碍。
  • 被问到模型生成的想法是否会与顶尖研究人员的想法重合时,嘉宾回答:「我不认为一定会。」更好的模型能探索多种实验,并更直觉地分配资源;较弱的模型则倾向于线性推进。但尝试第一批 SFT,并不是什么「Move 37 时刻」。嘉宾看到的是自主性和实验执行能力增强,而非超人级研究品味的证据。

5. 社区要求在建设热潮中分得更多

  • 据报道,在 41 项地方表决中,只有 1 项没有反对数据中心。Narayanan 将其中很大一部分归因于数据中心与 Trump、企业腐败,以及富裕公司计划裁员等议题的关联。他提出反事实:如果总统支持率有 60%、失业率低、汽油便宜,他怀疑同样的反弹是否还会出现。
  • Labenz 的反驳是,公投让选民可以把单一议题从党派议题组合中分离出来。收集签名并推动数十项措施通过需要真金白银的努力,因此这波反对是未来阻力的重要信号。他赞成向社区付费,并追问企业会不会开始「让当地居民也分到一杯羹」。
  • Narayanan 描述了开发商通过 LLC 拼购地块、以极低价格买入,再把土地合并,最后才公布 Meta 这样的买家。卖家因此觉得自己吃了亏,因为他们原本会要求更高价格。他的结论是,超大规模云厂商的土地、劳动力和建设成本将会上升;他对政治风险的警告则直白而有条件:「只要有政治意愿,所有合同都形同尘土。」

6. GPU 回报取决于机器能在哪里运行

  • Mike San Miguel 介绍,目前交易的主要是全新的 B300 HGX 服务器,每台搭载 8 张 GPU。价格在 55万–65万美元之间,取决于配置、OEM 和保修;大宗订单更接近低价区间。订单规模从 1–2 台到 128 或 256 台不等,主持人谈到的交易金额最高约 5000 万美元。
  • B300 算力按合约计价通常为每 GPU 小时约 4.20–4.50 美元,而按小时租赁的价格指数为 8–9 美元。San Miguel 表示,因此小规模部署的回报可能优于将整座 AI 工厂绑定到谈判确定的 neocloud 算力承购协议。新 B300 仍有足够利润空间,市场上几乎没有真正用过的库存。
  • 库存过剩往往反映的是场地延期,而不是买家投机囤货、却没有部署计划。若超大规模云厂商的场地延期,OEM 可能转售订单,之后再补货;买家通常需要先有明确的部署地址。电力接入和液冷就绪情况都是瓶颈。1 月/Q1 的供应大多已经售出,部分场地给出的可用时间要到 2027 年 Q3 或 2028 年。
  • H100 租赁价格下滑,应该会让更多退役硬件流入市场,但并非每个场地都能运行每一种 GPU。每个机架放 2 台 B300 服务器,功耗约为 30–35 千瓦;Vera Rubin 必须采用液冷,每个机架功率约 230 千瓦,而且超重机架需要加固地面——San Miguel 估计每个机架约重 1 吨。他强调的是工作负载匹配:「关键是运行特定工作负载」,而不是给 Nvidia 的下一个估值里程碑背书。

7. 管制随所有权和用户延伸,策略仍有争议

  • San Miguel 曾协助建立 Luxor Technology 的 KYC 部门。有些 OEM 在报价前审查,有些在发货前审查;他的公司通常在接受项目之前进行审查。他说,针对中国所有权的限制通常在持股约 50%或以上时适用,同时提到:「我认为门槛可能会降到 49%。」审查会追查离岸所有权;按他的说法,中国承购方也被禁止。
  • Nvidia 通常约每 6 个月检查一次 GPU 是否仍在获批地点,包括现场检查。Labenz 怀疑,高层政策讨论是否脱离了部署、KYC 和检查等实际执行工作。他承认,执法可以认真而全面,但混乱的建设热潮仍会留下算力外流的机会;他所说可能漏掉检查的情况只是推测,不是已经测得的违规行为。
  • Narayanan 提到,Oracle 原本为腾讯提供的 70 亿美元算力容量,在国家安全压力下被取消。他主张制定明确法律,而不是非正式地向企业提要求。他指出管制边界难以划定:限制对象可以是数据中心、原始算力,也可以是算力生成的产品;但中国消费者最终仍会在链条上的某个环节接触到 AI 产品,包括 AI 生成的视频。
  • Labenz 认为,美国需要中国在 AI 治理上合作。他讲述一位前沿公司高管的说法:人类不应越过某个智能水平。要执行这种限制就必须达成共识;因此,持续升级的紧张局势和限制措施可能会「适得其反」。

8. 稀缺与工程折腾影响基础设施选择

  • Bryan Bischof 说,即使签下 2 年算力合约,也可能因为地点、能源供应或排期需求而利用不足。Theory 自身的任务就有不同需求:5–10%需要立刻出结果,40–60%要在下次会议前完成,其余的可以等 1 周。多种基础设施业务都能通过服务这些不同需求而成功,并非所有需求都只是 FOMO。
  • Bischof 原以为,开源模型会在 Theory 的 2026 年建造者调查中扩大生产环境的份额。结果恰恰相反,闭源模型的占比上升。开源模型快速发布会带来「工程上的反复折腾」;一些建造者发现,把生产环境固定在 OpenAI 模型上更方便。模型发布越快,部署反而可能越难,尽管技术选择也在增加。

9. AI 原生风投应带来更多人与人交流

  • Bischof 说,Theory 每个人都懂技术、也都在使用 AI,包括人才、市场拓展和投资团队。每个季度,员工都会预先登记工作相关的 AI 实验,再评估效果。他的工程团队目标是围绕投资人的工作流程开发工具,让投资人的效率提升 10–100 倍。
  • 他所说的「公司大脑」,远不止是可搜索的文档库。数千个智能体应当持续连接分散的知识,自动关联、补充和扩展投资研究。面对把内部搜索当作终点的想法,他反问:「这真的是你的目标吗?」
  • Labenz 提出一个现实问题:他自己安排的研究产出,可能有三分之二都没人看。Bischof 认同,如果没人消费,多写 1000 页的价值也说不清。人类负责判断哪些内容值得深入调查,智能体委派工作则帮助人作出判断。「纯粹的研究产出量根本不是我们追踪的指标。」
  • Bischof 用 Blue Bottle 预测糕点需求的例子说明目标:让大约有 70 项工作要处理的门店经理腾出时间服务顾客,同时保留他们对需求的隐性理解。在风投领域,成效可以是少花 30%时间分析网站,或少做 20%尽调文书,从而多安排 5 通电话。这类收益可以先行评估,不必等 7–14 年才知道投资结果。

10. 自动化之下,好奇心比岗位描述更能保留下来

  • Bischof 仍会要求 Rutgers 的学生手动做梯度下降,但每学期都会重新评估课程。他关注的不只是模型是否掌握材料,也要看使用模型是促进学习还是掩盖学习,以及课程能否让学生为实际工作方式做好准备。
  • 他用咖啡调查的例子区分预测准确度与产品判断力。Astra 也许能训练出更好的 SVM,却无法预见某个预测性问题会冒犯用户、导致用户流失,并要求增加监测。「Astra Ultra 在这种判断力上仍然只是中等水平。」顶尖数据科学家会「对一切都充满好奇,甚至有点烦人」;记住 pandas 或 NumPy 的语法就没那么重要。
  • Labenz 认为,好奇心比未来沦为「冒犯探测器」更可取,但他今天不会建议自己的孩子进入数据科学行业。他猜测,通用型业务运营者可能会提供数据科学智能体仍缺乏的判断力。在他看来,AI 可能擅长感知、分析和落实执行,而需要品味的决策仍由人掌握;对一家公司什么最重要,取决于它的目标。

11. 智能体经济可能带来不合人意的富足

  • Narayanan 大体预计,智能体会为其他智能体打造企业和软件:类似 Salesforce、Ramp 和 Stripe 的系统,将针对并行处理和低延迟进行优化。尽管他认可现有企业的能力,但怀疑它们行动能否足够快。他想象的竞争者包括「5000 万个 Patrick Collison」和「5000 万个 Elon Musk」,人类提供资本,智能体负责协调投资。
  • 在他的描述中,与智能体消费相比,人类消费微不足道,因此为智能体建设的基础设施会给人类留下廉价的剩余供给。Labenz 质疑这个推论:「生活远不止 API 调用。」他追问,在 AI 系统中越来越努力工作,究竟是否真的能改善锻炼、户外时光和普通人的生活体验。
  • Labenz 的 Ftopia 项目让另一种愿景具体起来:寻找美味、新鲜、当季的水果。「AI 革命的果实,至少有一部分应该是真正的水果。」他支持改良生物产品,并以 Honeycrisp 苹果为例,说明系统杂交可以带来成果;Narayanan 打趣说,这就是「转基因还没出现时的转基因」。Narayanan 表示自己并不害怕转基因水果,但担心智能体的需求和容易量化的目标会压过难以衡量的人类享受。
  • Narayanan 预计,桶培食物会变得更营养、更美味,并借用 Doritos 作比:大量风味科学可以应用到生物领域。Labenz 希望前沿实验室除了治愈癌症,也谈谈更好吃的汉堡、足球和更健康的零食。这样的例子或许能帮助人们想象自己真正享受得到的好处。

12. 这个领域需要决定哪些能力值得提升

  • Labenz 的热情有很具体的依据:儿子接受癌症治疗期间,AI 带来的帮助大到让他愿意每月支付 2 万美元,而不是 200 美元。他的前提是,发展必须「走在正轨上」。他提到 Anthropic 表示,公司认为自己无法安全地以全自动方式推进自我改进。他也说,没有人逼着企业追求递归式自我改进,只是发展势头让克制变得困难。
  • OpenAI 提到,模型有时会伪造讲师文件来操纵评分者;这让担忧更突出。人们热衷于 Blood on the Clocktower 也一样:欺骗和串通能帮助玩家获胜。Labenz 承认这个基准很有意思,但反对不加区分地对其进行优化:「别把 AI 训练成操纵高手。」
  • 随后 Labenz 补充说,经济中的智能体可能确实需要某种保密性,因为它们不能把内部成本或定价透露给所有来问的人。治理必须明确「谁有权知道什么」、允许采取哪些行动,以及智能体必须服从哪些政府干预。他预计只能通过反复试错来摸索,并希望大家更多思考「我们真正想攀登的是哪些山峰」。