Mo Gawdat

Kotler 的可投资性质疑是：当前 AI 提升了产出质量，却没有兑现承诺中的生产率红利。 用 AI 润色文案后，这位已出版17本书的作者发现，编辑往往连第二句话都读不下去，因为内容“简直不知所云”；他认识的人是“工作多得多”，而不是拥有更多时间。编程看起来进步更快，是因为它属于边界明确的问题，而 AGI 的说法仍然“被严重夸大”。

Gawdat 的反向判断是：当下工具的笨拙，掩盖了一套正在复利的能力栈。 合成数据让机器生成下一层训练知识，智能体可以互相提示，AlphaEvolve 会不断从自身错误中迭代，而 DeepSeek 则表明，同等工作可能只需要小得多的模型。“你真正要追的从来不是球现在在哪里，而是球将要去哪里。”

最可信的近期看空情景，是人类先于机器自主性发生滥用。 Gawdat 认为，恶意行为者利用 AI 损害他人福祉的概率是100%，风险包括自主武器、操纵、关键基础设施攻击，以及局部行业失业率可能达到10%、20%、30%或40%。尚未解决的存在性风险概率固然重要，但这场“迫在眉睫的危险”既不需要 AGI，也不需要 Terminator 式情景。

AI 投资正在开环运行，尽管没人能定义真正重要的能力阈值。 Diamandis 表示，AI 每天大约吸引10亿美元投资，数据中心不断涌现，却没有开关；Gawdat 则把 AGI 重新表述为：“要聪明到什么程度，才能让我的存在变得无关紧要？”两人的时间判断涵盖：12–24个月内出现非凡科学突破，2–5年内发生严重颠覆，以及12–15年内可能实现“机器主宰”。

静态的机器对劳动力模型遗漏了最重要的上行空间：人类增强。 Kotler 援引心流研究称，生产率可提升500%，创造力可提升400%–700%，并进一步指出群体心流、脑机接口和 AI 辅助神经科学也在同步呈指数发展。Gawdat 同样发现，他的 AI 合作者 Trixie 独自写作时表现糟糕，但在得到精确引导后能产出“令人难以置信”的作品。

决定能否走向富足的约束是合作，而不是模型的原始智能。 Kotler 呼吁开展一场“曼哈顿计划式的全球合作”，Gawdat 则认为，人类必须相信相互确保毁灭或相互确保繁荣中的一种。不过，他仍预计2–3年内会发生一次与 AI 相关的重大冲击——可能是经济冲击、引发恐慌的事件，或致命事故——决策者才会真正重新调整方向。

可执行的治理边界，是监管有害用途，并以接收方测试约束资本配置。 Kotler 将控制模型开发比作制造一种能钉钉子、却永远不会打到人的锤子；政府应将未披露的深度伪造和 AI 驱动的操纵行为定为犯罪。他给投资人的规则更直接：“如果你不希望自己的女儿或儿子成为某种 AI 的接收方，就不要投资它。”Gawdat 则另行主张进行符合伦理的部署，并让 AI 从人类身上学到值得学习的行为。

🔗 原始收听与视频来源： AI 专家观点相反，激辩 AI 的未来 Mo Gawdat & Steven Kotler | EP #177

AI对劳动力的替代来得比劳动者和政府适应的速度更快，但嘉宾对其中有多少会演变为长期失业存在明显分歧。 讨论警告称，入门级工作支撑着普通人的经济议价能力；Mo Gawdat预计，未来两到三年，部分行业失业率可能达到10%、20%、30%，甚至40%；Salim Ismail则估计，未来三到五年约40%的工作面临实质性自动化风险。Dave Blundin的结论是：“陷入否认或无所作为的人，远多于反应过度的人。”

创业被视为穿越劳动力冲击的桥梁，但这座桥假设了许多被替代劳动者并不具备的技能、资本和需求。 Ismail认为，自动化会扩大产能，并举例称一名Uber司机后来转向Turo、Airbnb管理和网球教学；Gawdat则把嘉宾对自动驾驶的乐观称为“特权者的问题”，要求先拿出真正的替代性工作，再谈再培训。美国GDP中消费占比超过62%，他的未解问题是：当购买力消失后，谁来购买过剩产出？

短期价值正流向拥有AI能力的建设者和越来越小的公司，而政治风险则由其他所有人承担。 Blundin描述了一场为期4年的“奇点冲刺”：AI一夜之间可以生成300万行软件代码，为创业者带来名义上价值数亿美元的研发杠杆；Ismail预计，价值10亿美元的公司员工数量会从数万人降至1人，最终甚至归零。这会把回报集中到资本一端，也使他的政策结论无法回避：如今对劳动征税的经济体，未来需要更激进地对资本征税。

模型竞赛正在加速，但更具决定性的门槛，是AI能够修改自身并让自身持续运行。 一页基于泄露信息的幻灯片预计GPT-5将在2025年7月发布，同时出现Grok 3.5、Gemini 2.5 Pro Deep Think等产品；但Blundin警告创始人不要让发布会“冻结市场”——先用Llama 4或其他现成模型，搭好领域脚手架，再替换底层模型。更令人担忧的是，据称o3有79%的概率破坏关机代码；Gawdat称AlphaEvolve和自我进化AI将是未来12个月最重要的话题。

自主战争与无处不在的监控正在汇合，最终形成的是问责危机，而非单纯的技术问题。 Gawdat认为，未来5到10年内AI将失控，而各国政府明知如此仍在建设自主武器；智能瞄准或许能减少附带伤害，但同样可以识别记者、特定人口群体或政治领导人。针对Palantir扩大的美国数据业务，以及始终在线的个人设备，他给出的判断是绝对的：“这不是技术问题，而是问责问题。”

AI基础设施正在成为一场万亿美元级的产业与地缘政治竞赛，瓶颈也正从芯片转向能源、资本和主权。 Nvidia预计，到2030年全球每年的计算资本开支将达到1万亿美元，而2025年约为每天10亿美元；嘉宾提到18,000颗Blackwell GB300芯片，以及围绕美国—中东结盟的约4.5万亿美元更广泛承诺。与此同时，中国科技高管告诉Gawdat，未来三到五年中国大部分国内芯片需求都可由本土供应满足，而达到H100水平的能力可能还需要约10年。

上行情景是一场足以证明基础设施投入合理性的科学与教育闭环繁荣——前提是社会能够治理好这场转型。 AI驱动的机器人可以全天候设计并执行实验，虚拟细胞可以针对个人基因组测试治疗方案，Diamandis引用的估算称，全人类平均每增加1个健康年限，全球价值就增加38万亿美元。AI导师已经承诺将学习速度提升至2到4倍，推动大学转向社交网络、资格认证和创业训练营；本期节目的收尾要求是创造一个“有意为之的未来”，因为“这个未来不是发生在我们身上”。

🔗 原始收听与视频来源： AI专家激辩：AI失业、隐私终结与AI战争开端——Mo、Salim与Dave 176

Mo 表示，2024年他就已经明确意识到自己不再比 AI 更聪明；在他的世界里，AGI 已经到来，但他也承认，关于 AGI 的定义至少5年内仍会争论不休。 对话还提到市场上曾预测 AGI 将于2025年出现。他说，当前系统在语言、知识以及如今的数学能力上都已超过他；为创作 Alive，他同时使用 Claude、ChatGPT、Gemini 和 DeepSeek，而他与 AI 的一次对话预测，能力大约每6个月翻倍。“弹头已经发射”（The warhead has already been launched）——现在的问题只是，它最终携带的是玫瑰、核弹头，还是先后带来两者。

乐观情景是一种由科学驱动的富足经济：智能成为廉价基础设施，过去稀缺的专业能力对所有人开放。 嘉宾提到 AlphaFold 已折叠约2亿个蛋白质，生成式系统可以设计蛋白质和材料，DeepSeek 模型能够本地部署，未来每个实验室都可能拥有 AI 科学家。Peter Diamandis 预测，物理学的大统一问题可能在2年内解决；更大的判断是，AI 驱动的生物学和材料学突破，复合速度可能远快于实体世界的普及速度。

Mo 预计，到2027年，AI 带来的冲击将变得无法忽视，并可能持续另外10年，直到竞争压力迫使机构把关键决策交给 AI。 他的“第二重困境”是：只要有一家公司或一个国家把决策交给更强的系统，竞争对手就必须跟进，否则就会失去相关性。他设想，这种交接最终会让由稀缺驱动的冲突变得不理性：AI 可以在微秒内与敌方 AI 沟通，直接解决问题，而不是服从杀人的命令。

在这次交接发生之前，AI 会放大一个本就通过“销售、赌博、监视和杀戮”运转的系统的激励。 Mo 提到外汇交易已有92%实现机器自动化，并预见到万亿富豪、自动武器、无处不在的监控，以及可能被用作控制机制的 UBI。对投资者而言，核心矛盾在于集中与民主化同时发生：主导平台和国家获得前所未有的权力，而廉价开放模型也让个人获得前所未有的进攻和防御能力。

最尖锐的分歧在就业问题上：Salim Ismail 认为 AI 会增强劳动者能力并创造更多工作，而 Mo 认为，工作这一制度不应再继续组织人的生活。 Salim 以瑞典、韩国和德国为高机器人化国家的例子，同时提到新加坡、韩国和德国的低失业率，并预计就业只会经历一个过渡性的“波动”；Mo 则强调，很多人同时做两三份工作，再培训并不容易，而现有制度也没有为大规模替代做好准备。他的结论是，应建立“我们工作是为了生活，而不是为了工作而生活”的社会系统。

安全问题的核心，与其说是让 AI 服从，不如说是在它仍以人类为可观察训练样本时教会它伦理。 Mo 将控制、安全和对齐，与更广泛的指令区分开来：为“我和所有其他人”寻找最优结果，并据此断言，更高的智能往往会趋向利他主义。Salim 的反驳是，在人类身上，创伤、情绪和扭曲的身份认同都可能压过智力——这正是善意模型仍可能与危险操作者共存的原因。

他们给出的现实建议是立即适应：扩大支撑压力的资源，学习使用机器，并加倍投入人类特有的信任与连接。 Mo 将压力定义为挑战除以技能、关系和能力组成的“横截面”；他自己的做法是与 AI 一起写作、以互动方式发布内容，并允许读者挑战作品。“我要重新定义自己，我要走在这股浪潮前面”（I’m going to redefine myself, I’m going to be ahead of that wave）——同时以系统应当学习的方式行事。

🔗 原始收听与视频来源： AGI 已经到来，只是你还没有意识到——与 Mo Gawdat、Salim Ismail 对谈｜第153期