先锋 趋势 方法 投研 作者
AI 在巴黎提速 + AI 能修复你的爱情生活吗?
返回节目精读

AI 在巴黎提速 + AI 能修复你的爱情生活吗?

摘要

  • 巴黎将国际 AI 议程从安全转向机会,向 Kevin Roose 发出信号:国家竞争正在取代人们对合作的期待。 第三届峰会从安全转向机会:Emmanuel Macron 推介法国投资和 Mistral,JD Vance 则宣称,“AI 的未来不会靠对安全问题忧心忡忡赢得,而会靠建设赢得。”就连一份弱化后的声明也未获美国和英国签署,Roose 因此预计国家竞争加剧、美国政策“全油门、不踩刹车”,联邦层面几乎不会有实质性监管。
  • 美国的加速议程没有回答:如果各大实验室实现了它们宣称的目标,接下来会发生什么。 行业领袖暗示 AGI 或类似技术可能在1年、2年或可能3年内到来,但政治应对仍像是需要数年的委员会和就业转型报告。Casey Newton 称之为“伪装成乐观主义的技术悲观主义”,而 Roose 的专栏把美国安全方案概括为“先看看会发生什么”。
  • 劳动力替代可能把抽象的 AI 风险争论,迅速变成眼前的政治和经济问题。 据报道,信息技术行业失业率从12月的3.9%升至1月的5.7%,整体失业率则为4%;创业者告诉 Roose,如今1名配备 AI 的资深工程师,可以完成过去可能需要3、4人才能完成的工作。Anthropic 经济指数显示,观察到的 AI 使用中57%属于增强、43%属于自动化——这已经很难与 Vance 所说的 AI 只会帮助、不会替代劳动者相容。
  • 持续加速 AI,安全投入可能是前提,而不是它的意识形态对立面。 一名与会者把 AI 比作核电:切尔诺贝利和三里岛事故让核能应用推迟数十年,因为早期系统“不够安全”。按这一逻辑,一场灾难性的 AI 事故可能引发远比预防性安全措施更严厉的反弹;最快的路径,或许是避免那场令整个行业停摆的事故。
  • Hinge 的首个 AI 教练提升了可测量的提示词质量,也暴露出粗糙优化如何抹平人的吸引力。 Justin McLeod 表示,提示词反馈让高质量回答增加3倍,并使低质量的单字回答减少逾三分之一;Rachel Cohn 也表示,采纳这套强调具体性的建议后,收到的回复更多了。但模型否定了她原本已经很成功的“找一个能一起躺在床上看书的人”,直到这句话变成主持人所说的“在约会 Goodreads”和“很 LinkedIn”,说明更高的互动率不等于更好的化学反应。
  • McLeod 预计,AI 对约会的改变将超过移动互联网,最主要的两个机会是更深度的匹配和辅导。 Hinge 的路线图将从协同过滤延伸至解读照片、提示词、个人经历、价值观、目标和关系科学,再去辅导那些不擅长展现自己的人。其核心判断是,外貌只能让人“迈进门槛”;更丰富的信号或许能减少这样的高成本发现:3个月后才知道两个人在根本上并不匹配。
  • 公司的产品边界是:让 AI“站在我们身后,而不是介于我们之间”。 Hinge 会建议用户改进个人资料、提供对话话题,但 McLeod 拒绝让代理替用户约会;其非 AI 功能 Your Turn Limits 已经会在约8段对话无人回复后阻止用户继续匹配,并让回应率提升约20%–30%。他更深层的结论也限制了匹配技术能够许诺的东西:人们应该停止寻找一个完美的“唯一”,学会通过承诺“创造那个唯一”。

精读

1. 巴黎将峰会从安全转向机会

  • 前两场国际会议分别在英国和韩国举行,明确聚焦 AI 安全;布莱奇利园峰会更直接以 AI Safety Summit 命名。巴黎则有意将第三场会议改名为 AI Action Summit,把机会置于生物、化学、核能、网络、宣传和生存级风险之前。

  • Grand Palais 汇聚了 Sam Altman、Anthropic 的 Dario Amodei、Google DeepMind 的 Demis Hassabis、政府官员、学者和非政府组织。公开展区重点展示保护濒危语言、改善福利发放,以及将 AI 用于气候变化和灾害救援,呈现“AI 能帮助人们的所有方式”。

  • Macron 借峰会主张,法国不应让美国和中国决定这项技术的未来。他宣布对法国本土生态系统进行大规模投资,推介 Mistral,并将法国定位为不同于欧洲其他地区监管导向形象的力量:目标是“加速”迈入 AI 领导者行列。

2. 华盛顿选择加速,却没有解释终点在哪里

  • Vance 的“美国优先”表态极为绝对:“我今天早上不是来谈 AI 安全的。”他认为,面对技术突破,通常的反应过于自我审视、过度规避风险,最终总结道:“AI 的未来不会靠对安全问题忧心忡忡赢得,而会靠建设赢得。”

  • 创业者和加速主义者欢迎这一转向,认为“末日论者”夸大了 AI 风险。重视安全的与会者则认为这是一场错失的机会;Roose 总结 Amodei 的回应称,先进 AI 到来的速度已经快到政府不能简单忽视其风险。

  • Casey Newton 认为,这一政治转向主要源于 Donald Trump 当选。Kamala Harris 和 Biden 政府曾对安全关切持同情态度,Biden 白宫也推出过 AI 行政命令;Trump 阵营则包括 AI 加速主义者 Marc Andreessen 等人,以及其他将安全运动视为非理性末日论的力量。

  • Roose 追问,Vance 认为美国实验室创造出超级智能后会发生什么。Newton 认为,加速主义者似乎要么不相信各实验室关于 AGI 的预测,要么没有后 AGI 时代的愿景:“这是一种伪装成乐观主义的技术悲观主义。”

3. 劳动力数据可能迫使安全争论进入当下

  • Newton 描述了两种互不相容的时间表。实验室领袖和技术圈内部人士讨论 AGI 或类似技术将在1年、2年或可能3年内到来;传统政策制定者却在提出可能“几年后”才发布劳动力转型报告的委员会。最接近这些系统的人要求紧迫行动,政府却把 AI 当成又一轮普通技术周期。

  • Newton 提到,信息技术行业失业率从12月的3.9%升至1月的5.7%,显著高于整体4%的失业率。一些经济学家将其解读为 AI 自动化正在造成实质性失业的初步信号,但节目并未声称因果关系已经确定。

  • 软件行业可能是第一个显现压力的领域。创业者告诉 Roose,他们不再需要那么多初级工程师,因为1名配备 AI 的资深工程师,可以完成过去需要手下3、4人才能完成的工作。

  • Anthropic 经济指数发现,观察到的 AI 使用略偏向增强人类工作,但优势很窄:57%用于增强、43%用于自动化。这一证据与 Vance 所称 AI 只会帮助劳动者,以及 Sam Altman 所说企业可以招聘“即插即用的员工”之间存在明显张力;Newton 警告,大规模失业会造成深刻的政治不稳定。

4. 安全可能是持续加速的前提

  • 一名 AI 安全领域的与会者提出,核电是一个有用的类比。切尔诺贝利和三里岛事故让核能大规模应用推迟数十年,不是因为社会一开始过度重视风险,而是因为第一代核电站“没有把它们做得足够安全”。

  • 套用到 AI 上,这一论点认为,不受约束的加速可能制造一场灾难,触发公众更严厉的反应。因此,认真对待极端风险,反而可能让技术长期走得更快;Newton 希望当下坚定的加速主义者能看懂这一机制。

  • 峰会那份弱化后的声明仍然对美国和英国过于严格,可能是因为其中包含了关于包容性 AI 的措辞,但中国签署了声明。Elon Musk 还另行介入,提出以约974亿美元收购 OpenAI 的非营利机构,而 Altman 当时坐在 Vance 身旁;主持人认为这是法律层面的 trolling,可能让 OpenAI 转为营利机构时更难确定公平价值。

  • Roose 对巴黎峰会的最终判断,对多边治理并不乐观:人们期待的联合国式安全架构不太可能出现,因为各国想赢,而不是合作。他预计 Trump 任内不会有实质性的联邦 AI 安全监管,州一级可能采取行动;至于这场“行动峰会”,真正的操作性决定是:“我们不会采取任何行动。”

5. 约会应用正把 AI 卖给用户信心危机

  • Newton 描述了一笔不断恶化的消费者交易:用户觉得约会应用收取更多费用,却带来更少约会,也无法带来持久伴侣。究竟是匹配质量下降,还是约会本身变得不那么受欢迎,目前并不清楚;但应用 CEO 们正在提供科技行业如今的标准答案——“往里面撒点 AI”。

  • Cohn 选择 Hinge,是因为作为一名30岁、住在纽约的异性恋约会者,她认识的每个人都在用 Hinge;Tinder 规模更大,但 Hinge 是增长最快的应用之一。它有意将自己定位为认真发展关系的场所,因此如果合成式功能损害“有意义的人类连接”,声誉代价也更高。

  • 在 Match Group 12月的投资者日上,Hinge 将 AI 分成两类:预计稍后推出的改进匹配,以及帮助“约会困难者”。Cohn 约会活跃了2年半,只符合后一标签的一半:她约会漏斗顶部的约会供给很充足,但“我们得把它转化掉”。

6. Hinge 的提示词教练把具体性误当成化学反应

  • AI Prompt Feedback 会将每一条必填文字回答评为“Great answer”“Try a small change”或“Go deeper”。Cohn 将最后一类理解为要求袒露脆弱,但模型最稳定的偏好其实是具体性;正如 Newton 所观察的,它似乎从不建议“浅一点”。

  • 系统正确认可了 Cohn 关于“简单快乐”的回答:录下地铁里的搞笑对话、跑步时稍微跳一跳,以及画“非常普通的水彩画”。主持人一致认为,这段回答具体、自嘲、有辨识度,还能自然引出关于幽默或艺术的对话。

  • 对于她所说的长处——“让人分享他们通常不会或不该分享的事”——模型就没那么敏锐了。为了满足模型要求增加细节,她补充了一个故事:一名婚礼上的陌生人透露自己的薪水,以及自己为何觉得受困于这段关系。AI 接受了这个答案,但主持人认为,它可能会让第一次约会听起来像审讯。

  • Newton 的人工修改是说,人们会“无意中”向她透露这些事,把 Cohn 描绘成一个有魅力到能让秘密自然浮现的人,而不是一个喜欢刨根问底的人。Cohn 承认,这种说法更有吸引力,但“并不完全符合真实的我”,精准呈现了吸引人的定位与真实筛选之间的张力。

7. 听起来更糟的个人资料,反而带来更多互动

  • 模型最大的明显错误,是否定了 Cohn 最成功的一句话:“我想找一个能一起躺在床上看书的人。”这句话的战略性模糊,允许潜在对象把自己投射进场景;主持人觉得它甜蜜、亲密、富有邀请感,还方便男性借机聊自己正在读什么。

  • Hinge 不断要求她补充类型、书名和推荐提示,直到答案变成:“找一个能一起躺在床上读历史小说的人。欢迎推荐!尤其喜欢以纽约市为背景的爱情故事。”模型的评价十分残酷:“突然间我在约会 Goodreads”“这很 LinkedIn”“删掉。”

  • 但改写后刚过1周多,互动反而更多了。男性开始推荐具体的历史小说或爱情小说;其中一人直到与她匹配后,才告诉她那本普利策奖获奖作品的书名。Newton 由此认为,模型确实发现了一个规律:邀请男性推荐某样东西,往往能稳定引出他们的观点。

  • Cohn 将这一结果与大学申请辅导相比:申请者会被推入一个生动、连贯的故事,这个故事“有一点简化,也不完全真实”,因为筛选者更容易对它作出反应。类似地,这幅更狭窄、由 AI 塑造的画像,或许能改善筛选,即使它感觉没那么自然迷人。

8. Hinge 预计 AI 对匹配的重塑将超过移动互联网

  • Cohn 强调,教练从不直接写出替代答案;它只提供“展示,不要陈述”这类初中英语水平的建议。这保护了作者身份,却限制了可及性:完成一条提示词就花了她30分钟,这让人怀疑那些不愿投入精力、也不愿袒露脆弱的“约会困难者”,是否会积极回应“再多分享一点”。

  • McLeod 仍预计,AI 将带来“一次比移动互联网转型还大的转变”。他的两大支柱是个性化匹配——在配对前更深入数层理解用户——以及有效辅导,从个人资料建议到应对约会带来的情绪压力。

  • Hinge 在2015年前后的算法主要使用协同过滤:用户喜欢谁,以及拥有相似品味的人喜欢谁。计划中的基于内容的层,将解读照片和提示词,再要求用户更完整地讲述背景、关系经历、价值观、目标和期待——这些无法塞进宗教或身高下拉菜单的信息。

  • McLeod 还希望纳入关系研究,判断哪些性格适合彼此,以及什么因素会带来持久的兼容性。Roose 用一个讽刺性问题检验这套逻辑:所谓“90%”,是不是只是在找一个长得可爱的人?McLeod 表示,外貌是最容易产生的瞬时判断,但它只是“迈进门槛”,之后还要看对话、出席约会以及第二次约会时的匹配程度。

9. Hinge 想让 AI 辅导行为,而不是冒充用户

  • McLeod 表示,提示词反馈让高质量回答的出现率增加3倍,并使低质量的单字回答减少逾三分之一。Hinge 优化的是“脆弱性的效率前沿”:透露自己喜欢哪首卡拉 OK 歌很容易,却永远不会带来约会;改变自己与母亲的关系或许能暴露价值观,但对大多数公开个人资料来说又过于私密。

  • 主持人担心,普遍化的辅导会把下限抬高,直到普通人看起来都像被人为修饰成原创——相当于给人格打磨皮肤。McLeod 的区分是辅导与代笔:Hinge 要求用户用自己的声音透露更多,而不是把润色好的文案交给他们,因为很多真正有活力的人,只是写出了“完全无法体现”自己的个人资料。

  • McLeod 表示,辅导路线图还包括一个照片筛选器,用来学习哪些照片在 Hinge 上表现更好。Hinge 也在防御性使用 AI,通过比对 IP 地址、历史照片、应用内行为和行为模式识别情感诈骗者;他说,Hinge 专门的信任与安全团队能足够快地抓到这些账号,因此加密货币式的信任诈骗并不是 Hinge 的主要问题。

  • 在对话方面,公司计划于下一季度测试开场提示:不是可直接复制的消息,而是“你注意到对方资料里的这个了吗?”之类的问题。McLeod 的核心原则是,AI 应该“站在我们身后,而不是介于我们之间”——推动人们真正约出来,而不是替他们经营关系。

10. 持久的爱情是在匹配之后创造的,不是由代理发现的

  • Hinge 用规则而不是生成式 AI 对付 ghosting。Your Turn Limits 会在约8段对话等待用户回复后,阻止用户继续发送新的喜欢或收集匹配;McLeod 表示,回应率提升了约20%–30%,甚至一名最初给出1星评价的用户后来也在体验这一功能后改了口。

  • McLeod 拒绝让 AI 礼宾代表用户与其他代理约会,这不同于 Bumble 讨论过的概念,或 Grindr 计划在2027年推出的 wingman。Newton 称这是讲给股东听的科幻故事;Roose 则反驳说,人们已经在约会资料中使用 ChatGPT Operator。McLeod 更狭义的反对理由是结果导向的:当前代理无法可靠复现一个人的声音、价值观或个性,也就无法替用户选出他们真正会喜欢的人。

  • 这份克制也来自他的个人情感经历。与大学恋人分开8年后,在她即将嫁给别人约1个月前,他飞往瑞士,请她取消婚礼。她回到纽约;2个月的美好时光过后,他却想:“我的天,我是不是犯了个错误?”但两人坚持了下来,10年后拥有了他所说的深厚而美好的关系。

  • McLeod 自2011年创办 Hinge 以来最大的变化,是放弃了人们只是在“找到唯一”的想法,转而认为人们是在“创造唯一”。Newton 补充说,算法可能无法判断一个人是否真正理解一段关系,或是否真的想要一段关系;他的约会经历直到遇到一个准备好投入的人才发生改变,而那之前他决定再去“约一次线上约会”。