先锋 趋势 方法 投研 作者
为什么人类仍在驱动 AI [赞助内容] - Phelim Bradley
返回节目精读

为什么人类仍在驱动 AI [赞助内容] - Phelim Bradley

摘要

  • 前沿 AI 的底层输入,仍是隐形的人类专业能力。 Prolific 联合创始人兼 CEO Pádraig Ó Céileachair 将公司定义为人类数据基础设施,并表示数据标注、后训练和评估都依赖一个“复杂的人类环节”;因此,尽管行业叙事把一切包装成整洁的 API,人工智能归根结底仍“建立在人类智能之上”。
  • Prolific 的护城河不在于获得廉价劳动力,而在于验证、行为数据和激励设计。 参与者经过身份核验,再根据研究人员反馈排名,并接受网络分析筛查;持续的合作关系也会降低作弊动机,因为“最高质量的数据,来自得到适当激励的人”。
  • 专家匹配正演变为推荐与流动性问题。 Prolific 将任务语境与人的语境结合起来,类似“双塔”算法;同时把每个专家细分市场作为独立的原子化市场从零做起,目标是在“几小时而不是几天或几周内”完成数据采集。
  • 即使 AI 自动化专家部分工作,对专家的需求也可能扩大。 Pádraig Ó Céileachair 预计,初级工程师可以借助 AI 教练更快成长,正在一线工作的专业人士则会复核高影响输出;即使人类提供的训练数据占比下降,模型使用量的爆发仍可能推高其绝对“规模和重要性”。
  • 前沿模型的集中化,正在制造一个地缘政治分配问题。 劳动力冲击可能波及全球,但效率增益主要流向美国平台所有者,这使能源、数据中心、本土生产的模型和训练能力成为英国与欧洲的“警钟”。
  • 人类专业能力可能演变为可授权、持续产生收益的资产。 Pádraig Ó Céileachair 设想,当专家数据改进集中式模型或个性化“数字孪生”时,专家可以持续获得报酬;这更接近 Spotify 版税,或主持人所说的把太阳能发回电网。

精读

1. AI 的整洁界面,掩盖了复杂的人类底座

  • Pádraig Ó Céileachair 是 Prolific 的联合创始人兼 CEO,他将 Prolific 定义为一家人类数据基础设施公司。他开场提出的判断是:“人工智能建立在人类智能之上”(“Artificial intelligence is founded in human intelligence.”)。在数据、算法和算力构成的技术栈中,人类数据是最不光鲜的输入,因此也最容易被系统性忽略。

  • 数据标注只是露出水面的部分。人类还提供 RLHF 和后训练数据,并评估模型是否真正完成任务;这条看似自动化的流水线,一再回到人的判断。

  • Mechanical Turk 的类比揭示了这种隐藏:观众看到的是一台自主下棋的机器,幕后实际操控者却是一个人。Pádraig Ó Céileachair 表示,Prolific 希望“通过 API 按需提供人类智能”,同时建立研究人员与参与者之间的直接沟通和反馈,而不是抹去这一层人类参与。

2. 数据质量来自关系,而非商品化劳动力

  • 主持人结合自己创办代码审查公司的经历指出,自动化往往本质上是编排:一个 pull request 需要真正理解相关代码的专家,而不是“表面盖章式审查”。把合适的专业能力匹配到具体问题上,才是底层的商业挑战。

  • 当活跃参与者或评审员达到数十万人规模后,Prolific 首先核验身份和所在地,再把研究人员的质量反馈纳入参与者排名。网络分析能够识别行为良好的群体,以及试图钻系统漏洞的参与者;平台会下调后者排名,必要时最终将其移除。

  • Pádraig Ó Céileachair 的激励模型把数据采集视为一场重复博弈。在一次性的囚徒困境关系中,双方都有动机窃取;多次接触、沟通和相互反馈,则会在研究人员、平台和参与者之间形成“共赢、共赢、共赢的动态”。

  • 他的运营原则非常明确:“最高质量的数据,来自得到适当激励的人。”这些人理解自身工作的影响,动机也不止于眼前的报酬。研究人员与参与者之间的直接沟通,则补足了背景信息和同理心。

3. 任务定义与流动性,是市场的瓶颈

  • 主持人针对 Upwork 的反驳值得保留:定义一个专家任务,成本可能高于自己动手完成。Pádraig Ó Céileachair 认同,任务设计和参与者群体质量同等重要;仅仅要求“生物学博士”远远不够,还要区分遗传学、生物信息学和医疗健康等方向。平台既覆盖边界清晰的单项任务,也承接需要数周或数月培训、并持续反复采集数据的项目。

  • 每个专家群体都像一座新加入 Uber 的城市:即使美国或英国的一般人群已经达到规模,每个被需求的技能细分市场仍必须从一个“原子网络”起步。随后,Prolific 会根据任务语境和人的语境为候选人排序,这类似推荐系统把最相关的内容推到用户面前。

4. 下一代工作流:把专家嵌入智能体循环

  • 相比已经离开行业、转而成为职业标注员的人,Prolific 更倾向于让仍在医疗一线工作的人员评估医疗聊天机器人。目标是还原“真实世界用户”,同时把普通参与者训练成技能更强、偏差更小的“高判断力评估者”。

  • Pádraig Ó Céileachair 不认同“资深工程师加智能体就不再需要初级招聘”这一绝对判断。Prolific 仍在积极招聘初级软件工程师,因为模型可以成为“极其强大的老师和教练”,在软件需求保持弹性的情况下,加速他们成长到资深工程师水平。

  • 主持人设想有一个按钮,可以直接询问专家:“这靠谱吗?”Pádraig Ó Céileachair 将这一设想延伸到深度研究智能体:它们会在工作流中自动把高影响输出交给人类复核。由于模型在 Goodhart 定律下会极度追逐被指定的目标,评估必须尽量接近“真实世界用户的真实表现”,而不能依赖过于简单的偏好评分。

5. 智能同时成为地缘政治基础设施与资产

  • Pádraig Ó Céileachair 认为,前沿模型正集中到少数几家、且主要位于美国的公司手中。这些公司的员工或许抱有全球化目标,但如果超级智能引发广泛的劳动力冲击,承担代价的将是各国社会,而效率收益则主要由平台所有者获得。

  • 他呼吁英国和欧洲展现更多“活力与加速主义”:更深度参与训练体系,发展本土生产的模型、数据中心,并为耗电量巨大的系统提供充足能源——即使这一地区已经落后。

  • 合成数据和人类数据是互补关系,而非二选一。更便宜的 AI 辅助专业能力应当刺激需求;因此,Pádraig Ó Céileachair 预计,人类数据的占比可能下降,但其绝对规模和重要性反而上升,并有望支持类似 Spotify 版税、或把能源回输电网的持续性专业能力授权收入。