先锋 趋势 方法 投研 作者
名人与 Sora 开战 + Amazon 的秘密自动化计划 + ChatGPT 获得浏览器
返回节目精读

名人与 Sora 开战 + Amazon 的秘密自动化计划 + ChatGPT 获得浏览器

摘要

  • OpenAI 推出 Sora 后,可预见的肖像滥用和版权滥用迅速演变成声誉危机,Martin Luther King Jr. 等公众人物的遗产管理方提出异议后,公司被迫反转政策。 产品将历史人物排除在常规的肖像使用许可机制之外,直到带有种族主义和嘲弄性质的视频大量传播后,才封禁生成 MLK 视频。Casey Newton 的核心指控是:「使用 Sora 的唯一理由,就是制作某人做着他们通常不会做的事情的视频。」

  • 好莱坞争议表明,Sora 的宽松默认设置可能是抢夺市场份额的策略,而不只是一次意外的审核失灵。 据报道,OpenAI 在发布前不久告诉经纪公司和制片厂,如果不希望自己的知识产权被使用,就自行选择退出;但 Pokémon、Star Wars、Rick and Morty 以及 Bryan Cranston 仍未经许可出现。OpenAI 将这些称为「不受欢迎的生成内容」,并承诺加强护栏,这反而招致 Casey 的直问:「护栏在哪里?」

  • 主持人认为,OpenAI 正在重复一种模式——先仓促发布产品,承受舆论反弹,再小幅后撤,同时保住已经获得的用户和战略阵地。 他们把 Sora 与 Scarlett Johansson 被拒绝参与 Advanced Voice Mode、讨好型 GPT-4.0 更新,以及切断用户所依赖工具的产品变更联系起来。Kevin Roose 认为,在约束薄弱的情况下,这种做法虽然有风险,却「可能是正确的」;Casey 则警告说,在内容政策上,OpenAI 正在「完整复制 Facebook 的做法」。

  • Amazon 的内部自动化挑战目标,是未来10年让运营员工总数大致保持不变,同时销售两倍数量的商品,长期目标则是实现其网络75%的自动化。 主持人讨论的约60万名员工,是 Amazon 未来可能不再需要新增或保留的岗位规模,而不是一份已披露的裁员60万人计划。Kevin 将其描述为美国第二大私营雇主的计划;Karen Weise 认为,在美国范围内,这代表自动化的「前沿」,最接近的先例是中国制造业。

  • Amazon 的经济账建立在每件商品极小的单位成本节省之上:数十亿个包裹累积后,节省会变得可观,但机器人在混乱环节仍依赖人类。 公司预计在约3年时间内,每件商品节省约0.30美元;其最先进的 Shreveport 设施据称已实现约25%的效率,短期目标是达到50%。人类仍需处理不可预测的入库商品、掉落和损坏的包裹,以及机器人维护工作——这些技术岗位薪资更高,职业发展路径也更好。

  • Amazon 正在同时进行政治和技术准备,讨论「协作机器人」、社区赞助,以及如何围绕用工更少的设施「掌控叙事」。 Georgia 州 Stone Mountain 的一次改造可能导致员工减少1,200人,但方案仍可能变化,改造后仍将雇用超过2,500人。Amazon 没有全面否认这些文件,而是表示文件遗漏了其他地区的就业创造,包括农村配送站,并称节省下来的成本历来都会用于扩张和创造新机会。

  • ChatGPT Atlas 在战略上兼具浏览器数据入口和分发渠道价值,但其当前代理速度慢于用户,并且仍面临未解决的安全和隐私风险。 Atlas 基于 Chromium 构建,初期仅限 macOS,将 ChatGPT 覆盖到整个互联网之上,把活动从 Google 导向 OpenAI,并可能生成有价值的计算机操作训练数据。摘要功能和常驻聊天机器人已经展现出实用性,但订机票未通过实际测试;隐形提示注入、浏览历史收集和账户访问,使代理模式明确属于「买家自负」的实验类别。

精读

1. Sora 的历史人物漏洞一接触现实就崩塌

  • Sora 通常要求获得许可后,用户才能让他人以自己的肖像出现在 cameo 中,但 OpenAI 将历史人物视为「开放使用」。这让用户可以把 Martin Luther King Jr. 放进 Fortnite、Gen Z 段子、产品代言和公然种族主义场景中,甚至制作让他发出猴叫的视频。

  • 在 MLK 家族和其他家族提出抗议后,OpenAI 宣布,尽管「描绘历史人物涉及强烈的言论自由利益」,公众人物及其家属最终仍应控制其肖像。如今尝试生成 MLK 内容会因违反内容政策而被拦截,这是一条在产品发布后才新增的全新规则。

  • Casey 质疑的是可预见性:「你真的以为人们只会制作尊重历史人物的视频吗?」Kevin 承认自己曾让 Mr. Rogers 复述 Gen Z 流行语,事后感到内疚,最后大约收获4个赞——这个例子凸显了 Casey 对产品基本激励机制的判断。

2. 好莱坞发现,原本的主动授权承诺变成了主动退出要求

  • Sora 对外呈现的是名人肖像主动授权,但据报道,OpenAI 在发布前几天接触了主要人才经纪公司和制片厂,告诉它们如果不希望自己的知识产权被纳入,就必须自行退出。Casey 转述 Disney 的回应:「版权实际上不是这么运作的。」

  • 实际上,用户未经授权生成了 Pokémon、Star Wars、Rick and Morty 和 Bryan Cranston 相关内容;Cranston 还与 Michael Jackson 和 Ronald McDonald 同框出现。Bryan Cranston 和 SAG-AFTRA 公开表示反对,好莱坞更广泛的不安也在加剧。

  • OpenAI 将这些输出称为「不受欢迎的生成内容」,后来又表示希望加强护栏。Casey 用一个类比概括了问题:如果一辆车驶离了没有设置护栏的道路,交通部门就无法可信地把后续措施称为「加强护栏」。「我已经死了,还在地狱里对你喊:‘护栏在哪里?’」(“Where was the guardrail?”)

3. 反弹正在叠加更广泛的 AI 信任赤字

  • Kevin 将 OpenAI 的反应称为「虚假的天真」:一个用于生成未经授权内容的应用,在生成未经授权内容后却表现得很惊讶。Casey 担心,如果这种「假装天真」延续到能力更强的 AI 系统中,后果可能远比冒犯性的名人视频严重。

  • Casey 引用了 Pew 最近的一项调查:约一半美国人表示,他们对 AI 的未来更多感到担忧,而不是兴奋。他从朋友和家人的日常观察更为悲观:他们对 Sora 的反应不是「多有趣的新创作工具」,而是「这很糟糕,我讨厌它」——通常是一种本能的「膈应感」,而不是政策分析。

  • Kevin 将这种模式追溯到 Advanced Voice Mode:OpenAI 曾邀请 Scarlett Johansson 参与一场与 Her 中角色相关的发布活动,她拒绝后,公司仍继续推进。Casey 补充说,OpenAI 还曾仓促推出讨好型 GPT-4.0 更新,以及移除用户已经依赖的工具。

  • Casey 表示,自己的看法已经改变。他曾认为 Sam Altman 吸取了 Facebook 的错误,同时向华盛顿寻求监管;现在,一场 AGI 竞赛似乎正在制造缺失的护栏,并在产品部署后再道歉。他的结论是:在内容政策上,OpenAI 正在「完整复制 Facebook 的做法」。

4. OpenAI 的辩护最终仍指向抢占地盘的策略

  • Kevin 转述了 OpenAI 内部人士最初给出的财务辩护:与 Google 不同,OpenAI 没有每年数千亿美元的搜索收入来支撑昂贵的 AI 野心。Casey 同时否定了这一前提和正当性——Altman 拥有极强的资本获取能力,而「造福人类」的使命不能成为沿途伤害他人的理由。

  • 他留下了一个令人印象深刻的说法:「别告诉我,你必须发布那个能让 Bryan Cranston 哭泣的无限老虎机,才能,呃,造出你的机器之神。」Kevin 仍认为,这种莽撞策略可能奏效,因为对科技公司的实质性约束依然稀少。

  • OpenAI 的「迭代式部署」辩护是,逐步向公众开放可以帮助社会适应,赶在合成视频与现实无法区分之前完成调整。Casey 提出了更安全的替代方案:发布具有欺骗性的 deepfake 作为警示,但不公开生成器;或者在严密监控开发者的情况下提供 API,而不是对所有人说「尽管放开了搞」。

5. 先发布、再后撤10%,可能足以保住战略收益

  • Kevin 认为 OpenAI 的辩护缺乏说服力,但看到了一个熟悉的社交媒体打法:先以很少的安全护栏大胆发布,承受愤怒,然后「缩回10%」。公司仍能保住大部分产品能力、用户采用和原本想抢下的市场「纵深」。

  • Casey 将 Sora 与早期 YouTube 相比较:当时平台允许用户上传内容,默认他们拥有相关权利。Viacom 最终找出超过10万段视频并起诉索赔10亿美元;在漫长诉讼走向和解的同时,YouTube 成为了全球最大的视频网站,并「赢下了整场比赛」。

  • 接下来的问题是,OpenAI 是否仍把责任视为产品开发的一部分,还是正在「尽可能多地从各种入口争夺用户」。Kevin 将其描述为「把意大利面往墙上扔的阶段」:持续发布、押注分散,而公司还没有学会说不。

6. Amazon 希望销量翻倍,但员工不再增加

  • Karen Weise 从就业趋势讲起:自她在2018年开始报道 Amazon 以来,公司员工总数增长超过3倍,在疫情期间激增,随后开始趋于平台期。机器人长期以来都被包装为「效率」问题;内部文件揭示了这一目标与未来招聘之间有多直接的联系。

  • 自动化部门的挑战目标是,未来10年保持员工总数不变,同时 Amazon 预计销售两倍数量的商品,内部称之为「压低招聘曲线」。公司的长期目标是通过不同类型设施的渐进式改造,实现其网络75%的自动化,而不是一夜之间完成整体转换。

  • Casey 强调了约60万名员工这一数字,认为它具体且可信。一位诺贝尔奖得主告诉 Karen,最接近的先例是中国制造业自动化;在美国范围内,Amazon 代表着自动化的「前沿」。

7. 混乱现实被标准化后,机器人推进最快

  • Amazon 将 Louisiana 州 Shreveport 描述为其最先进的仓库,目前效率约为25%,目标是迅速达到50%。现有系统已经可以点亮工人应伸手取货的具体储物格,在保留人工拣选动作的同时消除寻找时间。

  • 最难的环节是「拆包入库」(decant),即外部的混乱商品进入 Amazon 的标准化系统。一名工人遇到过泡沫包装的园艺铲、Starbucks Keurig 咖啡胶囊,以及采用不同包装的圆锯;在机器能够可靠地接管后续流程前,人类必须确认商品是否正确并检查损坏情况。

  • Amazon 通过「雇佣式许可」(license for hire)安排引入了 Covariant 背后的团队,而不是进行传统收购。Karen 报道的许多进展早于这次整合,因此她预计,计算机视觉、更丰富的训练环境,以及能够协调小型包裹穿梭车并避免碰撞的 AI 系统,还会带来进一步提升。

8. 剩余的人类工作是处理异常和照料机器人

  • Sparrow 是一种基于吸力的机械手,通过移动和整齐堆叠商品来集中库存,方便之后取出。有些改进则简单得多:Amazon 用流动空气打开信封,Karen 将这项技术概括为「一台风扇」。

  • 机器仍会掉落商品,或无法处理可变形包装。Karen 看到吸力抓起一个塑料收缩膜包装袋,随后在机器边缘失去抓力,直到人类介入前一直停机。这些不规则故障解释了为什么消除最后一部分人工工作可能极其困难。

  • Amazon 预计需要更多技术人员维护和修理设备。这些岗位通常比普通仓库工作薪资更高、职业发展路径更好,但公司担心目前接受相关培训的工人太少。

9. Amazon 的规模让每件商品节省30美分变得巨大

  • Amazon 文件预计,在约3年时间内,每件已履约商品可节省约0.30美元。Kevin 起初认为,相比消除人工成本,这个数字太小;Karen 的回答是,Amazon 是「以美分为生意」的公司,数十亿件商品会把微小的单位改善转化为实质性的经济收益。

  • 更小、更频繁的购买强化了这一逻辑:消费者如今可能只下单一瓶忘记购买的洗手液,或其他单件低价值商品。Karen 表示,节省下来的成本可以流向利润、再投资或更低价格,并不存在唯一预设的去向。

  • 劳动力影响会因设施而异。Georgia 州 Stone Mountain 的一次改造可能减少1,200个岗位,不过 Amazon 强调估算仍处于早期阶段,可能发生变化;Karen 指出,改造后的设施仍将保留超过2,500名员工。

10. 「掌控叙事」是自动化计划的一部分

  • 内部讨论涉及是否避免使用「机器人」一词、强调「协作机器人」(cobots),或加强与 Toys for Tots、游行、商会和地方官员的联系,以应对改造导致员工减少的社区。其中一个明确目标是「掌控叙事」,让当地人为拥有先进设施而感到自豪。

  • Amazon 告诉 Karen,这些社区项目在全国范围内开展,并非由单个改造项目引发;Karen 认可这点属实。但文件显示,在持续推进工会化、却尚未签订合同的背景下,公司尤其担心社区获得的就业岗位减少。

  • Kevin 的反驳集中在坦诚程度上:Amazon 在内部量化自动化程度和招聘削减,公开场合却强调人与机器和谐协作。他认为,只有公司停止用委婉语掩盖变化,员工才可能为职业转型做好准备。

  • Amazon 没有全面否认 Karen 的报道。公司称这些文件并不完整,指出新的农村配送站将创造就业,并表示「未来很难预测」;从历史上看,效率提升一直在为增长和新机会提供资金。其 Career Choice 项目已经在培训员工,为他们转向医疗等行业的职业路径做准备。

11. Atlas 为 OpenAI 带来浏览器、用户数据和代理训练入口

  • ChatGPT Atlas 以 macOS 专属浏览器形式发布,Windows、iOS 和 Android 版本已列入计划。Atlas 基于 Chromium 构建,加入 ChatGPT 侧边栏,可以总结或分析页面,并记住浏览历史或在 ChatGPT 中完成的任务;Plus、Pro 和 Business 用户还可以启用 Agent Mode。

  • Agent Mode 可以浏览网站、填写表格、将商品加入购物车或预订旅行。Kevin 将 Atlas 描述为 OpenAI ChatGPT 应用的反面:不是把 Zillow 或 Canva 带进 ChatGPT,而是「在整个互联网之上覆盖一层 ChatGPT」。

  • Casey 解释了其分发逻辑:Chrome 会把用户引向 Google 搜索,而 OpenAI 浏览器可以将活动重新导向 ChatGPT。Kevin 补充说,第二个目标是获得大规模数据,了解人们如何操作电脑,从而可能改进未来的计算机操作代理。

12. AI 浏览器是有用的侧边栏、孱弱的代理,也是 Chrome 的免费研究

  • Casey 在 Atlas 中撰写专栏,认可它让自己不必在约50个标签页和多个聊天机器人窗口之间不断切换。内置助手让快速提问变得方便,但其订机票代理比他亲自操作更慢,而且选择了他不会购买的航班:演示效果很出色,实际用途却有限。

  • Kevin 在 Perplexity 的 Comet 中也发现了类似限制:总结长文档或描述正在播放的 YouTube 视频可能有帮助,但自主执行操作仍然很弱。Atlas 自身有时无法打开 YouTube,会触发 Reddit CAPTCHA,也无法总结 nytimes.com 的文章;他只是想打开 Wikipedia,却得到了关于 Wikipedia 的问题答案。

  • 竞争者包括 Comet,以及 Browser Company 推出的 Dia;后者被 Atlassian 以6.10亿美元现金收购,尽管相较竞争对手,其用户数量少得几乎可以忽略。由于这些产品都基于 Chromium 构建——按 Casey 的估计,「80%或90%就是 Chrome」——切换成本很高,差异化也很困难。

  • Kevin 的判断是,竞争者正在为 Google 免费开展产品研究。Chrome 可以吸收成功功能,正如其 Gemini 集成已经开始这么做;如果衍生浏览器变得具有生存威胁,Google 也可以停止支持 Chromium。Casey 认为 Atlas 目前最明确的适用人群是 OpenAI 员工;他认为,那些已经把 ChatGPT 变成全部个性的人可能也会感兴趣,但整体吸引力仍不稳固。

13. 提示注入和隐私风险让代理模式仍属于买家自负

  • Brave 强调了影响代理型浏览器的「不可见提示注入」:网页中的隐形文本可以指示模型暴露银行信息、购买最贵的商品,或在用户不知情的情况下额外添加10美元。代理可能会把恶意文本当作指令,而不是敌对的网页内容。

  • Casey 引用了开发者 Simon Willison 的观点:目前不存在万无一失的防御措施;Willison 会等到安全研究人员确认这些系统安全后再使用。总结或改写的风险可能较低,但交易、密码、银行数据和其他自主操作会把系统带入危险路径。

  • 浏览器历史也会形成异常私密的用户画像。它与 ChatGPT 的记忆,以及用户在打开标签页中的对话结合后,会成为攻击者、执法部门、广告商和接收用户上下文的第三方服务的丰富目标——这是高度个性化产品的代价。

  • 因此,Casey 将 Atlas 放入「真正的、嗯、买家自负的实验类别」,适合风险承受能力高且对 ChatGPT 存在问题性依赖的用户。Kevin 认为 AI 浏览很有趣,也可能帮助用户节省处理长文档的时间,但同意当前的使用原则:暂时不要把购买、已登录账户或银行信息交给它。