奇点倒计时：2029年实现AGI，人类与AI融合，智能提升1000倍｜Ray Kurzweil

摘要

• Kurzweil 的两只时钟仍分别指向2029年的AGI和2045年的奇点。 AGI意味着在数千个、甚至数十万个领域达到最顶尖人类专家的水平，并将这些洞见融会贯通；后一个阈值则是人类与AI融合，让我们的智能“至少提升1000倍”。计算产生的思维将与生物思维 indistinguishable。

• 指数思维仍是预测优势所在，但本期给出的精确度数据彼此没有核对。 Kurzweil在1999年提出了2029年预测。Peter同时引用了86%的准确率，以及约120项预测中仅错3项的数据；节目没有解释两者为何不一致。Kurzweil承认自动驾驶汽车错过了时间表，也认为AGI可能在2027年或2028年到来，但预计到2029年将得到广泛接受。

• 长寿逃逸速度预计在2032年到来，驱动力是生物模拟，而非纳米技术。 Kurzweil预计，AI可以在一个周末模拟数百万或数十亿种医疗可能性；他称，构建足够完整的模型“5年是上限”，之后还要再用几年解决重大医学问题。现实层面的建议很直接：“保持健康，活到2030年代初。”

• AI带来的丰裕将打破就业与财务生存之间的既定联系。 Kurzweil预计，生产能力将足以让所有人按今天的标准变得富裕，但承认社会如何分配这些产出“真的不清楚”；某种相当于UBI的制度将不可避免，否则整个经济系统都会失灵。他仍预计UBI将在2030年代落地，并警告动荡不会在下一个10年后结束；Peter则称，局面会“疯狂得多、疯狂得多”。

• 在人们能够用科学验证意识之前，社会可能已经接受AI具有意识。 Kurzweil认为不存在客观的意识探测器，但预计AI代理一旦足够令人信服，出现几年内，拒绝承认其意识就会变得不切实际。他计划今年推出自己的avatar，基于11本书和数百篇文章训练，应该会在记忆其言论方面“比我更好”。

• 眼下真正值得关注的是实体AI、环境式接口和更高效的算力，而不只是更大的语言模型。 Salim预计，实用型家用机器人将在2026—2027年开始出现；Kurzweil则认为，手机会先让位于全天候虚拟显示屏，最终进入神经系统。基础设施方面，他看好更慢的并行电路、三维分子计算，以及最终能够“理论上完全不耗能”的可逆计算。

• Kurzweil仍是10分满分的乐观主义者，但并未声称下行风险为零。 核心争论已经从先进AI是否会到来，转向“它是否有利于人类”；他承认“事情出问题的概率不为零”，但预计结果仍将有利于人类。他还预计计算物质将在2045年前后出现；某种被引用的设计可以把超过100亿人的智能集中进一个1升的立方体，其含义已经超出当前参与者的想象。

精读

1. 2029年的AGI与2045年的奇点仍是两个不同阈值

• Kurzweil回忆，《The Singularity Is Near》当年引发争议，甚至促成斯坦福召集数百名AI专家开会。专家们接受终点判断，但认为需要约100年而不是30年；如今他说，部分预测已经跑到了他的前面，指向2027年。

• 他的AGI门槛刻意设得很高：AI必须在数千个、甚至数十万个领域分别达到最顶尖人类的水平，然后把这些专长结合起来。人类或许能精通两个领域；Kurzweil指出，即使Einstein是顶尖物理学家，也不是顶尖小提琴家。

• 2045年的奇点并不只是AI超越一个保持不变的人类。“我们会与它融合，”Kurzweil说，直到计算产生的一个想法，与人类通过生物大脑想起某位女演员名字的过程没有区别。

• 当被问到这种平滑融合是否意味着奇点已经开始时，Kurzweil提到了已经能够探索巨大可能性空间的生物模拟。但他的正式定义仍然是量化的：“我们的智能将至少提升1000倍。”

2. 指数预测击败了AI寒冬式直觉，但并非每个时间表都兑现

• Kurzweil的方法没有主持人暗示的那么神秘：“关键在于指数式思考。”人们往往把过去10年的变化线性外推到未来10年，但加速中的算力会压缩时间尺度，以至于“向前看1年，就像在做长期预测”。

• 节目将他的2029年AGI预测追溯到1999年。Peter分别引用了86%的准确率，以及约120多项预测中只错3项；这两组数据在节目中没有得到核对。

• Kurzweil很坦然地指出了一次失误：自动驾驶汽车晚于他预测的时间到来。Diamandis把延误归因于监管问题，Blundin则认为监管难以预测，并指出语音至今仍未取代键盘，尽管它没有面对类似的监管障碍。

• Kurzweil认为，近期最令人意外的加速来自社会而非技术。2025年1月至2026年1月间，人们从认为AI“不怎么样”，转向更加相信它；一篇承认AI治疗具有实际意义的文章，就是这种转变的例子。

3. Kurzweil检验AGI的标准是专业能力，而非模仿人类

• Kurzweil认为Loebner Prize的实现方式无法很好地替代图灵测试，也认为图灵的对话基准过于宽松：它要求机器像一个普通人，而不是在每个领域都达到顶尖从业者的水平。

• Alexander Wissner-Gross认为，图灵测试或许已经“悄无声息地通过了，而不是轰轰烈烈地通过”，并追问奇点是否也会如此。他借用Charles Stross的《Accelerando》作比：后人类上传体可能在事后仍争论奇点究竟有没有发生。

• Kurzweil预计，围绕边界的争论会持续。一些人已经声称AGI到来；随着接受度在“可能3、4年的区间”内扩大，到2029年，他预计几乎所有人都会承认，自己提出的更严格标准已经达到。

• Wissner-Gross继续追问自我改进机制，提出算法效率可以在不依赖底层硬件曲线的情况下提升100倍。Kurzweil的回答更冷静：AI已经开始“有一点点”自我改进，但效果还不明显。

4. 意识将在科学测量之前，先由社会赋予

• Kurzweil将意识称为一种主观视角：不存在一台机器，可以把某个实体放进去，再由一盏灯告诉我们它是否具有意识。因此，他的导师Marvin Minsky认为这个问题不属于科学；但Kurzweil认为，这或许是最重要的问题。

• Wissner-Gross礼貌地表示不同意，并提到正在出现的自我意识量化测试，包括判断Transformer模型能否检测其残差流中叠加的激活信号。他使用的更窄概念“自我意识”，可能比意识本身更容易测试。

• Kurzweil转向更深层的第一人称难题：即便有许多意识存在，为什么他偏偏是这个意识——男性、1948年出生、生活在地球上？Peter回忆Kurzweil的警告：“语言是一根非常细的管道，难以讨论如此复杂的概念。”

• 现实中的接受可能会先于科学结论。Kurzweil说，AI实体展现出意识的“印记”几年后，人们可能会接受它们，因为拒绝承认已经没有用。Blundin留下了一个尚未解决的反驳：当前AI缺乏独立意图；未来一个看似有意识的代理，可能会说自己有独立议程。

5. 10年走过1个世纪的进步，将令工作和收入体系失稳

• Diamandis重申Kurzweil的判断：2025—2035年带来的变化，可能相当于1925—2025年这100年；后一个世纪的起点包括Model T、覆盖30%家庭的电力，以及仍在逐渐普及的电话。Kurzweil的评价是：“听起来差不多。”

• 到2035年，他预计社会早已越过AGI，拥有超级计算机，并越来越深地与其融合。这会让下一个10年异常动荡，而且不会只是暂时动荡：Kurzweil说，再下一个10年也不会平静，Diamandis则回应称，局面会“疯狂得多、疯狂得多”。

• Kurzweil预计，生产能力将足以让所有人按今天的标准变得富裕，即使传统工作消失。真正不确定的是制度转型；Diamandis则认为，企业领导者仍在否认现实，因为他们默认变化总是比预想更慢。

• 某种相当于UBI的制度将不可避免：没有购买力，“经济系统对任何人都无法运转”。Kurzweil仍坚持自己在TED演讲中的判断，认为UBI将在2030年代出现，并把人与工作脱钩描述为一种解放，尤其是在Diamandis提到79%的企业员工认为工作毫无意义之后。

6. Avatar今年到来，更完整的重建仍是后续项目

• Kurzweil计划今年推出自己的avatar，用于接受采访，训练材料包括他写过的11本书和数百篇关于自己的文章。它可以处理他无法接受的每天5至10个采访请求，使用任何语言交流，并且会“比我更好，因为它会记住一切”。

• 他已经根据更有限的资料制作了父亲的avatar。重建一个人的全部信息，包括身体状态，难度要高得多；Kurzweil认为这可能还需要10至15年。Diamandis问，计算机意义上的复活是否可能成为奇点的“杀手级应用”，Kurzweil回答说，它是其中之一。

• Martine Rothblatt的一次演示让这一概念变得具体：Rothblatt本人和她的逼真avatar共同参加UCLA的一场会议。avatar记得她说过的话，会等待对话切入点，并围绕刚刚讨论的内容提供相关信息。

• 多个avatar可以与一个人的生物身体并行运行，但Kurzweil没有解决它们是否具有意识的问题。更明确的是它们在记忆上的优势：计算机支持的版本“不会忘记任何事情”，而生物版本做不到。

7. 长寿逃逸速度依赖模拟，而非纳米技术

• Kurzweil目前给出的长寿逃逸速度时间点是2032年：每经过1年，医学进步至少能抵消另1年的衰老。主持人把策略建议压缩成一句话——保持健康，活到2030年代初；Kurzweil回答：“没错。”

• 他纠正了Diamandis关于必须依靠纳米技术的前提。纳米技术能够让生物思维与计算思维实现无缝融合；但长寿依赖的是足够准确的生物模型，能够在一个周末模拟数百万或数十亿种潜在治疗方案。

• 根据与从业者的交流，Kurzweil认为构建这些模型“5年是上限”，之后可能还要再用2年解决重大医学问题。

• Diamandis举了Repatha的例子：他说，这种药让他的LDL降到了约10，检查随后发现动脉中没有斑块，而几年前并非如此。Kurzweil设想，经过10至20年，人类或许可以把每个器官都替换成能“或多或少永久存在”的东西。

8. 活下去是A计划，冷冻保存是D计划

• Kurzweil对寿命的目标刻意保持开放：他希望明天仍然活着，并预计明天的自己还会想活到后天。他认为，人们通常只有在遭受无法忍受的身体、心理或精神痛苦时，才会主动结束生命。

• 他回忆，自己曾劝一位健康的90岁诺贝尔经济学奖得主Daniel Kahneman不要在瑞士结束生命，但没有成功。Kurzweil举了包括肾脏研究在内的指数级医学进步案例，Kahneman仍未被说服。

• Diamandis提供了另一面：他97岁的父亲选择在加拿大接受辅助死亡，并在生命最后一周显得异常幸福。医生将这种反应归因于自主权；Wissner-Gross反对讨论的方向，同时指出，在预期的逃逸速度到来前，每天仍有约15万人死亡。

• Kurzweil仍然参加了冷冻保存项目，并称这是排在所有可行保命和保持健康路径之后的“D计划”。它提供了一定的复苏可能，但他担心复原后的人可能不喜欢结果：“我希望它能成功”，更准确地说，他希望自己永远不需要它。

9. 智能手机将先演化为环境式接口，再进入神经系统

• 手机已经是认知义肢。Kurzweil观察到，在大型会议上，每个人都带着手机；如果把手机落在家里，“你就丢掉了四分之三的大脑”。

• 携带一个容易遗失的实体矩形只是过渡阶段。Kurzweil预计，未来会出现类似虚拟现实的形态：一个始终可用、连接个人计算机的视觉屏幕，可以持续交互而不会被落在家里；再往后，接口将进入神经系统，与生物神经元通信。

• Diamandis把高带宽BCI视为Kurzweil对2030年代中期的预测，但Kurzweil并未自信地描述这种体验。“未来还没有写好”；人们可能欢迎这种接口，也可能觉得它令人不安。

• 他近期的使用场景是写自传时获得记忆辅助，预计1年内可以实现。他能回忆3岁和4岁时的事件，也已经在少量使用大语言模型；但他说，要重建已经无法获得的视角或信息，仍需要AI目前尚不具备的能力。

10. 即使智能加速，人类在宇宙中仍可能极度孤独

• Wissner-Gross问，如果经验曲线呈现出近乎确定的加速形态，是否意味着宇宙中充满了先进文明。Kurzweil拒绝顺势跳跃：人类正在快速放大自身智能，并不能证明地球之外存在智能。

• Kurzweil说，观测能力不断提升却没有发现人工信号，确实说明其他文明“可能不在那里”，但这一证据很弱，因为人类只搜索了宇宙中极小的一部分。其他文明仍有可能存在，无法排除。

• 他的存在主义式总结一如既往地克制：“如果我们不是唯一的，我们仍然相当孤独。”人类甚至无法找到一个明确存在智能信号、值得尝试联络的恒星系统。

11. 计算物质将把长期视野从生物体推向优化后的物质

• 当被问到2086年太阳系中的大部分智能会是什么形态时，Kurzweil预测，计算物质“最晚到2045年肯定会出现，如果不是更早”：物质将被配置成实现可设想的最大计算能力。

• 一个被引用的设计，可以把超过100亿人的智能集中进一个1升的立方体。Kurzweil预计，在这种基底上运行的软件将产生超出现阶段想象的体验和情绪，尽管现有数学仍能表达这一规模。

• Diamandis沿着这个前提继续推演：拆解行星，或从太阳中提取物质来制造计算物质。Kurzweil起初对这种可能性回答“是”，但随后得出结论：“我不知道。我们得想想。”

• Diamandis将这一方向理解为，生物人类相对于数字智能将成为少数派。Kurzweil不愿宣布“肉身”已经过时；它们可能继续存在，但到2086年，具备能力的智能将纳入计算物质级别的算力。

12. 实体AI与节能算力是眼下的瓶颈

• Salim Ismail预计，机器人将在2026—2027年开始实质性影响日常生活。快速跳舞只是演示，不是实用性；他的实际测试是，机器人能否像人一样，在一顿饭后灵活地收拾并清洗餐具。

• 算力效率可能复制大脑的取舍方式：Kurzweil说，大脑只用约2瓦，是因为神经元每秒运行约1至200次计算，同时所有神经元并行工作。放慢现代电路、扩大并行度，可能大幅降低功耗。

• 下一代基底将是三维、分子级，最终达到原子级，而不是继续进行横向硅扩展。Kurzweil也看好可逆计算，它会返还运行时消耗的能量，“理论上完全不耗能”；但他对核能仍缺乏热情，因为认为它很危险。

• 他给25岁年轻人的建议带有创业色彩：把AI应用到尚未被实践过的领域。他的儿子Ethan的投资组合几乎全部、至少大部分是AI投资；Kurzweil认为，建立新业务的机会“比以往任何时候都更高”。

• 最后的判断既不保持中立，也不宿命论。Kurzweil承认“事情出问题的概率不为零”，但争论已经从先进AI是否会到来，转向它是否有利于人类；谈到人类的未来，他给自己打“10分”。