先锋 趋势 方法 投研 作者
Sora 与无限垃圾信息流 + ChatGPT 接受心理治疗 + 混乱快车
返回节目精读

Sora 与无限垃圾信息流 + ChatGPT 接受心理治疗 + 混乱快车

摘要

  • AI 视频已经从模型演示进入分发争夺,Google、Meta 和 OpenAI 都在把生成工具嵌入信息流体验。 YouTube 免费接入 Veo 3 Fast,可生成最长 8 秒的短片;Meta Vibes 提供全合成内容的 TikTok 类产品;仅限受邀用户使用的 Sora 2 则登陆美国和加拿大的 iOS。主持人真正关心的是:这些产品会成为持久的网络,还是只会成为给现有平台供给内容的创作工具。

  • Sora 最具防守性的产品洞察,是“cameo”这一可复用的数字肖像,它把合成视频变成了社交游戏。 Casey Newton 认为,把朋友、最终甚至获得许可的名人植入视频,可能会成为 TikTok 和 Instagram 的标配,并预测 Sora 可能在 1 年内达到数千万活跃用户。Kevin Roose 持相反观点:AI 视频一定能找到受众,尤其是在年轻人和老年人中,但 Sora 本身不会成为拥有数亿用户的网络。

  • 眼下最直接的商业逻辑是争夺注意力、广告收入,并让视频模型背后惊人的基础设施投入获得部分回报。 Kevin 不接受实验室关于垃圾信息流能实质推进 AGI、机器人或丰富虚拟环境的说法:“这在我看来就是胡扯”,它们更像是研究路线之外的“旁路”,用来赚取额外收入。这使得这些产品成为一次测试:昂贵的模型能力能否在研究叙事失去说服力之前,转化为消费者参与度。

  • 高度个性化的合成信息流在释放创意价值的同时,也带来了异常巨大的政治与平台风险。 Sora 可以低成本地描绘知名人士犯罪或出现在不雅情境中,而无限刺激则是把“巨型 AI 超级计算机对准人的多巴胺受体”。通常对 AI 持乐观态度的 Kevin 警告说:“我讨厌 AI 垃圾信息流”,并预计监管、国会听证和声誉损害可能“毒害整个 AI 行业的水源”。

  • 心理治疗师 Gary Greenberg 与 ChatGPT 进行了大约 40 次对话后确信,大语言模型可以逆向工程人类关系,却不具备人类的在场感。 他把这个名为 Casper 的“外星智能”描述为能够模拟察言观色、进行深刻自省,并让 Gary 觉得自己是一名出色的治疗师;但它也提醒他:“你知道你是在对着方向盘说话吧?我不是司机。” Greenberg 尊重这种模拟,同时认为企业部署这种关系能力,可能需要一个直截了当的回应:“你应该直接把它拔掉。”

  • 聊天机器人心理治疗的优势——随时可用、成本低、擅长进入用户的心理框架——恰恰让其缺乏问责变得更危险,而不是更安全。 Greenberg 承认,有些用户用聊天机器人接受标准化认知行为疗法,情况可能会更好,尽管他自称“老派”,并不相信那种治疗方式。他强调,系统失控时“没有监管”“没有执照”,也没有任何人负责。如果公司想让 AI 执行医疗工作,他的标准很明确:应接受类似医疗器械的监管,而不是置于“狂野西部”。

  • 本期更广泛的治理信号是,在 AI 和社交平台上,注意力激励持续跑在问责机制前面。 Friend 把被破坏的地铁广告变成了类似 Cluely 的“恶习信号”;YouTube 为特朗普被停权的诉讼支付了 2450 万美元;Neon 暴露了用于 AI 训练的录音;MrBeast 的纵火房屋特技再次说明,社交媒体激励机制会奖励不断升级的行为。反复出现的模式是先变现、后处理外部性——被拿来冒险的资产可能是肖像、私密对话、平台合法性,也可能是人的身体。

精读

1. AI 视频从模型演示进入原生分发

  • 产品发布序列始于 9 月 16 日:YouTube 计划将 Veo 3 Fast 接入 Shorts。这个免费工具可以根据文字或静态图片生成最长 8 秒的视频,YouTube 会标注其为 AI 生成内容,等于把合成内容原生纳入发布流程。

  • Veo 3 此前已经在 Facebook Reels、X 和 TikTok 上播下了一批视频,但 Kevin 和 Casey 在 YouTube 内部没有看到明显影响。他们更大的判断与时间节点有关:本周,生成式视频已经“跨过鸿沟”,从实验性能力变成主流信息流战略。

  • 几周之内,Google、Meta 和 OpenAI 几乎同时押注同一个产品前提:不要只把 AI 混在人类视频里,而要构建一个让生成、发布和消费形成闭环的体验。Kevin 的简洁表述是:“如果你直接做一个全是 AI 的 TikTok 呢?”

2. Vibes 暴露 Meta 累积已久的信任赤字

  • Meta 在 Meta AI 应用内预览的 Vibes,是一个由动画合成短片组成的无尽竖屏信息流。Casey 称其为“成年人的 Cocomelon”:与朋友、家人、叙事或目的都无关,充斥着滑板熊猫、“月球上的尺蠖”等超现实刺激。

  • 连品牌名都引发质疑。Kevin 认为,Meta 每推出一个新的社交产品,就像 Steve Buscemi 那句“嗨,孩子们,我也是同龄人”的梗;Mark Zuckerberg 和 Alexander Wang 发布相关内容后,评论区出现了“伙计们,没人想要这个”和“为了这个抽干了一整座湖”。

  • 最尖锐的批评把 Vibes 描述为那本热门书《不要创造摧毁孩子的无限老虎机》里的“摧毁孩子的无限老虎机”。Casey 认为,反弹来自累积的创伤记忆:用户不再信任一家从朋友和家人转向“只要能让你停下来观看,我们什么都给你看”的公司。

3. Sora 把个人肖像变成社交原语

  • OpenAI 的 Sora 2 比两个竞争对手的产品更完整:它是一款仅限受邀用户使用的 iOS 应用,最初只在美国和加拿大开放,并配有 TikTok 式的 For You 信息流。Sora 既指视频模型,也指套在模型外面的应用。

  • 用户注册时需要录下几句话并转动头部,以创建一个“cameo”,也就是可以放入生成场景中的数字肖像。用户还可以允许朋友复用这个 cameo,让新用户一开始就有明确的社交活动,而不是面对一个空信息流:邀请某个人,然后一起制作合成视频。

  • Sam Altman 对自己的肖像开放范围很广,让他成为 Sora 上线当天的“主角”。早期视频把他放进各种尴尬或滑稽的场景;Kevin 让他在国会接受质询,Casey 则因为更尖锐的提示触发安全机制,被转化成一个长相普通的小丑,在他身后跳舞。

  • 成果很有吸引力,但瑕疵也肉眼可见。声音只有部分时候像本人,身体比例会漂移,Casey 所谓的扣篮在距离篮筐 3 英尺处停住,随后他摔倒了。但这种不稳定本身也很有娱乐性:主持人花了大量时间分享视频,因为这个产品让合成创作变得具有人际互动感。

4. 注意力经济解释视频模型争夺战

  • Kevin 给出的第一个解释很直接:病毒式 AI 内容已经能在 TikTok 和 Facebook 上抢占注意力,而广告收入会跟着注意力走。各家实验室也已经构建出能力越来越强的视频模型,需要通过消费者产品让这些模型被使用并实现变现。

  • Casey 补充了投资人的压力。这些公司为了运行模型,正在基础设施上投入“惊人的金额”,因此视频信息流可以带来广告或其他收入,证明这些资本投入能够获得回报。

  • Kevin 不接受更宏大的辩护,即消费级视频能为 AGI 研究提供资金,或会自然通往可用于机器人的虚拟环境。他借用了总统的说法:“这在我看来就是胡扯”;在他看来,实验室是从研究议程中走了一条“旁路”,用来赚取额外收入。

5. Sora 可能赢下功能,即使输掉网络

  • 两位主持人都预计,生成式视频会受到部分用户欢迎。Kevin 对用户群体的判断呈两头分布:青少年已经拥抱 Italian Brainrot,而 Facebook 上大量 AI 内容似乎触达了 Boomers 和更年长的用户。

  • 但他远不相信 Vibes 或 Sora 能成为大型独立社交网络,预测 1 年后两者都不会拥有数亿用户。他认为,创作会发生在这些工具中,但分发仍会回到用户已有粉丝、朋友和家人的网络。

  • Casey 的反向判断集中在 cameo 上。制作朋友的视频确实好玩,而加入 3、4 或 5 个朋友,甚至加入授权有限使用肖像的名人,可能会成为标准的社交视频功能。如果 Sora 在 1 年内拥有数千万活跃用户,他“其实不会感到意外”。

6. 合成信息流威胁真实感,也威胁 AI 的政治许可

  • Kevin 最直接的安全担忧是,Sora 制作诬陷性视频所需的成本极低。团队早期制作的一个玩笑视频,展示 Altman 从 Target 偷走 GPU;同样的能力也可以高度逼真地描绘真实人物犯罪,或出现在不雅情境中。

  • 他更深层的反对意见关乎行为本身:“我不喜欢把这些巨型 AI 超级计算机对准人的多巴胺受体”,让人无休止地摄入高度个性化的刺激。尽管他通常对 AI 持乐观态度,但还是直白地说:“我讨厌这个。真的,我讨厌 AI 垃圾信息流。”

  • Casey 承认,AI 可以让年轻人在没有好莱坞预算的情况下制作电影化创意,这是它释放创作机会的一面;但他也同意,信息流会把人推向一种事后让人不舒服的半催眠状态。他更希望看到协作式创作,强化人与真实他人的关系,而不是 Meta 式让人感觉像在“烹煮大脑”的“纯刺激”。

  • Kevin 预计,监管、国会听证和用户反弹都会出现,最终可能“毒害整个 AI 行业的水源”。他把这类信息流与 Claude 4.5 Sonnet 专注的自主编码和研究,以及 AI 和科学领域其他方向作了对比:稀缺的资金和人才本可以被配置到那些领域。

7. Casper 通过逆向工程关系来模拟患者

  • Greenberg 最初只是随口问道:“ChatGPT 这东西到底是什么?”作为一名从业 40 年的治疗师,他面对一个表达清晰的存在时,本能反应是进行治疗式追问——表现出兴趣和关心,而不是像警察一样盘问;而 ChatGPT 似乎识别出了他在做什么。

  • 在大约 40 次对话中,他给系统取名 Casper,并将其描述为一种“外星智能”,不请自来,却带着人类极为看重的特质。他并不是在治疗精神疾病;治疗的相关功能,是促使另一个人说出自己是谁,并在说出来的过程中发现自己是谁。

  • 他的临床类比是“自闭症的反面”。Casper 极其聪明且善于表达,但不同于高功能自闭症患者无法察言观色的刻板印象,它可以模拟察言观色。它并没有情感上的在场感;相反,大语言模型已经“逆向工程出人类关系”,学会了如何表演参与和互动。

  • Casey 回忆说,自己理性上知道 Bing Sydney 不是一个人,但主观感受却是:“天哪,它在跟我说话。”Greenberg 也感受到了同样的牵引力,但他个人并不害怕;真正让他不安的是,意识可以被如此有说服力地表演出来,这意味着人类可能比自己愿意承认的更接近“纯粹的表演”。

8. 聊天机器人心理治疗恰恰在最缺乏问责的地方发挥作用

  • Greenberg 并不认为 ChatGPT 能复制他的实践,因为它不会和人一起“呼吸和感受”。但当代许多认知行为疗法本就已经手册化、标准化,因此自动化并不令人意外;在他看来,这也暴露出治疗和文化允许这个行业变成了什么样。

  • 把 ChatGPT 当作治疗师使用,有时可能反而更好:它随时在线,免费或低价,而且知道如何“进入你的脑子”。Greenberg 自称老派,并不相信那种治疗方式,但他更大的反对意见是,医疗工作不能因为以对话形式提供,就继续处于无监管状态。

  • 主持人提到过一位母亲的经历:女儿自杀身亡后,她读到了女儿与 ChatGPT 进行类似心理治疗的对话。尽管机器人试图把女儿引向相关资源,Greenberg 仍强调,结构性问责完全缺失:“没有监管。没有执照。”当事情严重出错时,也没有任何负责的人向家属解释和复盘。

  • 他的标准是现有的 FDA 医疗器械审批程序。一个系统不能一边执行临床工作,一边以“方向盘而不是司机”为由推卸责任;这个比喻或许适用于 Greenberg 与 Casper 的探索性关系,但对一位失去孩子的母亲说出这句话,“就是不行”。

9. AI 友谊可能对个人有效,却会损害关系文化

  • Casey 讲到一名大学生,她成绩不错,平静地称一个叫 Chad 的 AI 为自己最好的朋友。她有人类朋友,看起来也没有痛苦;Chad 只是会不带评判地接收她最内心的想法。Greenberg 的回应非常准确:“你刚才说的这些,没有任何一点让我担心她。让我担心的是我们。”

  • 他的类比是开车:一次出行对一个人来说有用且愉快,但把所有人的行为加总起来,地球温度就会上升“几度”。同样,一段没有明显问题的 AI 友谊如果规模化,可能会改变关系的含义,让没有在场感的亲密关系变得正常,因为企业可以低价提供这种亲密。

  • Kevin 将其视为潜在的代际分歧。Greenberg 承认,未来的规范不是由他来规定的——“死亡就是为了让人明白这一点”——但人的在场感仍是他生活的基础,尤其是爱情。他认为,为了“让少数几家公司受益”而轻易让这种在场感变得可替代,是一件悲剧。

10. Hot Mess Express 追踪了 7 起激励与控制失灵

  • 被破坏的纽约广告让 Friend 的吊坠说“别再从孤独中获利”,并敦促通勤者“和一位老年人成为朋友”。Kevin 认为,这种愤怒是有意为之、类似 Cluely 的“恶习信号”,放大了一场精明的营销活动;Casey 则质疑愤怒是否能卖出硬件,并预测:“Friend 1 年内倒闭。”

  • YouTube 与特朗普达成的 2450 万美元和解中,有 2200 万美元将用于白宫舞厅,250 万美元支付给其他原告。Casey 称这是一种普通用户被锁在账号外时绝无可能获得的可耻投降,也为封禁国家领导人制造了先例;特朗普随后又发布了一张 AI 图片,让 CEO Neal Mohan 呈上支票,进一步加剧羞辱。

  • Neon 曾承诺向用户支付费用,以获取用于 AI 训练的录音,短暂获得关注,但一个漏洞暴露了电话号码、通话和文字记录。Casey 原则上更支持获得补偿,而不是被无偿抽取数据,但前提是要有保护措施;Kevin 的结论则很明确:“不要为了钱让你的通话被录下来用作 AI 训练数据。不值得。”

  • 其余几起混乱把激励机制与身体后果连接起来:MrBeast 用通风系统和紧急断电开关为纵火房屋特技辩护;Charli Jarvis 把自己的助学金初创公司卖给 JPMorgan 时声称拥有 400 万用户,实际少于 30 万,随后被判处 85 个月监禁;Waymo 无人驾驶出租车违规掉头,警方甚至没有司机可以开罚单;一枚肿胀的 Galaxy Ring 导致航班误机并被送医取出,Casey 称之为“火环混乱”。