Peter Thiel：AI真正的危险，并非你以为的那样

摘要

• Thiel认为，AI会提高生产率、压低通胀，但供应商能否守住垄断利润，证据要弱得多。 他认为，AI领域的说法“在垄断这件事上站不住脚”，而行业领跑者已从DeepMind转向OpenAI，或许还会转向Anthropic。他将竞争形容为“你死我活”，因此行业增长与投资者能否获得持久回报是两回事。
• 即使头部公司自己发出危险警告，他仍坚决反对暂停AI研发。 Thiel“大体上”赞同David Sacks和Trump关于中国竞争的论点：“要控制AI技术，就得先研发AI技术。”被问及所有人有5–10%的概率死亡时，他说这个数字“听起来高得离谱”，质疑人们的概率直觉，并坚持说：“我们必须尽可能踩下油门。”
• 即便中位数结果更好，也无法消除AI带来的分配问题及其引发的政治反弹。 Thiel举例说工资可能上涨3%，但“上下浮动10%左右”——这种动荡可能令厌恶风险的社会无法接受。Isaacson拿全球化作比较，迫使Thiel承认增长可能分配极不均；不过Thiel仍认为AI的影响超过互联网，也可能更平稳地提高人均GDP。
• Thiel眼中的另一种生存风险，是人们因害怕AI灾难而赋予全球权力机构过大的权力。 他承认AI、气候和核风险都很严峻，但担心出现一个“温和的极权主义世界政府”，且世界上再无外部力量。他用“反基督者还是末日审判”作比，主张寻找“温和的第三条路”，并非否认安全问题；他认为现有核安排“肯定利大于弊”。
• 他肯定有效利他主义者及早看到了AI，同时质疑危言耸听背后的激励。 他们最大的洞见是“AI近在眼前”；他以成立“6、7年”的Anthropic为例，猜测其IPO时估值“可能接近2万亿美元”。危险警告也能激励员工，让他们觉得自己所在的公司是历史上最重要的公司。
• Thiel更偏爱有创造力的创始人，而非不作为的官僚机构；Isaacson则不断追问其中的道德取舍。 对Thiel来说，Jobs之后的Apple是一个例子：公司为股东创造了成功，却没有新的发明。“善胜过恶”，但“恶胜过坏”，是他对道德失范与无能之间差异的挑衅性区分。他说道德准则很重要，但选拔建设者时更看重“超越性的使命感”。
• 他期待AI推动物质生活重回进步轨道，同时认为意识和人际关系也是保留人类的重要理由。 Thiel希望AI能重启更广泛的科学研究：“至少能不能治好痴呆症？”他说，生存极其重要，但不是唯一目标；同时坚持：“我不认为AI有意识，也不认为它将来会有。”

精读

1. AI安全运动及早看到了拐点

• Thiel认为，OpenAI起初源于一种“反Google”的担忧：如此重要且危险的技术，不该只掌握在一家公司手里。他认为Musk大约在2018年离开；到2020年前后，7个人离开并创办Anthropic，希望以更严肃的态度对待风险。
• Thiel对有效利他主义最有力的认可，不是其末日情景推演正确，而是其成员看到了“AI近在眼前”。他认为这场运动的某些部分像邪教，却以Anthropic为例：公司成立“6、7年”，他猜测IPO时估值“可能接近2万亿美元”，全球市值排名大概能到第6或第7。
• 最值得关注的中间情景，既不是中国式监控，也不是Nick Bostrom描述的神一般的智能，而是“像人一样”的AI：输出与真人无法区分。仅仅达到图灵测试门槛，就带出了核心经济问题——AI究竟会增强人的能力，还是取代人。

2. AI或能带动广泛增长，利润归属仍有争议

• Thiel对宏观经济的判断始终带着一句“没人真正知道”：他预计生产率将大幅提高，AI也会“相当程度地压低通胀”。除非少数公司极其集中地攫取收益，否则他预计中位数人群的境况会改善。他的历史经验是，岗位被替代后，人们会转向生产率更高的工作。
• Isaacson问市场是否会被4或5家公司瓜分。Thiel的投资判断标准是“告诉我你的垄断优势在哪里”，而AI领域的说法“在垄断这件事上站不住脚”。尽管Altman提前采购芯片、建设数据中心，行业领跑者仍已从DeepMind转向OpenAI，或许还会转向Anthropic。他觉得Google、Meta和Grok都紧随其后，也不确定中国落后多少。
• 竞争并不能消除不安。Thiel举例说，工资预计上涨3%，但“上下浮动10%左右”：即便中位数结果更好，波动本身也足以令厌恶风险的社会反感。收益难以预料，扰动却更容易看见。
• Isaacson以全球化追问：全球化推动了增长，却也让一些人掉队。Thiel承认这一历史教训，也承认AI存在分配风险；但他区分了劳动力套利——比如中国工资只有美国的5%时，生产廉价T恤——与成功技术带来的“用更少做更多”。他认为AI的影响超过互联网，也可能更平稳地提高人均GDP，不必依赖那些会随着全球化成功而收窄的套利空间。

3. 中国竞争与经济停滞让Thiel反对暂停

• Thiel“大体上”赞同Sacks和Trump的观点：与中国竞争意味着不能暂停研发。公司自身发出的警告让这个立场更难辩护，却没有改变他的判断：“我们必须尽可能踩下油门。”他的理由是，“要控制AI技术，就得先研发AI技术”；一旦落后，美国可能遭遇中国武器或网络攻击的威胁。
• 被问及所有人有5–10%的概率死亡时，Thiel说这个数字“听起来高得离谱”，他认为这不会发生。他还补充说，哪怕概率略高于零，或许都太高；人们对概率的直觉并不好。Isaacson把中国排除在假设之外，单独考察AI的风险。Thiel用Mrs. Lincoln被问“戏看得怎么样”的类比，拒绝接受这个前提。
• 国内层面的理由是经济停滞。Thiel认为，中产阶级的定义在于相信自己的孩子会过得更好；这种期待在千禧一代中已经减弱，在一定程度上也影响了Z世代。他不知道AI能否恢复这种信心，但他说，如果互联网和AI都被禁止，经济将“几乎没有增长”，社会会像欧洲或日本那样陷入零和局面，“每个赢家都对应一个输家”。
• 对于监管，Thiel认为公司比政府更了解情况，内部也有管控机制。公司请求监管，可能是在利用政府的无知和低效率，借机卸下自身责任。监管诉求也能激励员工：Amodei对危险的警告，让员工觉得自己身处“人类历史上最伟大、最重要的公司”。Thiel认为，Trump拒绝新增监管，就是把责任留给公司。

4. 对灾难的恐惧，可能催生不可逆的世界秩序

• 对Thiel来说，“反基督者”是一个来自文学和圣经的形象，指统治全世界的暴君。Isaacson复述了Thiel的警告：“反基督者不会靠制造AI末日来夺权，而会靠说服所有人末日即将到来。”其中的机制是：恐惧让人们支持权力格外集中的全球机构。
• 他明确承认气候变化、核武器和AI带来的生存风险都很严重。他另一个担忧是“温和的极权主义世界政府”。苏联之所以能够衰落并瓦解，是因为外部世界依然存在；一个覆盖全球的朝鲜式政权却可能长久维持。这种“灾难性的奇点”或许无法逆转。
• Isaacson反驳说，Oppenheimer的警告促成了Acheson–Lilienthal方案和核武器管控，而这些措施“算是奏效了”。Thiel部分认同，也提醒说历史考验还很短，但仍认为现有核安排“肯定利大于弊”。他的反对之处不在于认定任何全球权力机构都必然有害；某些形式也可能是好的。
• 他所针对的是Eliezer Yudkowsky的《If Anyone Builds It, Everyone Dies》：书中详细描述了技术灾难情景，但提出的全球监管方案，其制度设计在Thiel看来“极其模糊”。他认为，“要么一个世界，要么什么都没有”，显然会把世界政府变成答案；“反基督者还是末日审判”则认为两种结局都无法接受，要求寻找“温和的第三条路”。

5. 创始人的权力，拿治理风险换创新

• Isaacson问亿万富豪是否掌握了过多经济和政治权力，缺乏足够的道德约束。Thiel姑且接受这一批评，再追问替代方案是什么。他认为人才分布呈“两极”：一端是富有魅力、可能危险、却能创造新事物的创始人；另一端是MBA主导的官僚体系，董事会永远不愿采取行动。他提出的反事实是“超级无聊的官僚体系”。
• Apple是Isaacson拿来检验这个观点的例子。Thiel说，“按我的说法，Jobs之后它就没做出过新东西”，并指出它“研发支出绝对是最低的”，而“股票回购支出绝对是最高的”。Cook是“毫无魅力但高效的运营者”，在大约15年里把手机业务做大。Thiel承认，两种领导风格都能服务股东，但他认为Jobs和Musk比Cook更有益于社会。
• 被问到选拔建设者时看重什么，Thiel说道德准则“相当重要”，也表示不喜欢投资“纯粹只是做生意”的公司。真正吸引他的是“超越性的使命感”，而非“短期利益驱动的生意”。

6. AI建设者的动机，决定模仿会走向何处

• Thiel借鉴René Girard的观点，认为模仿对人类文化至关重要，却也可能带来破坏，正如“两只猿猴伸手去抢同一根香蕉”。陷阱在于陷入无意义的地位竞争。他举Musk长期坚持与众不同的火星愿景为例：这个愿景打开了一条原本可能从未存在的道路。他补充说，Girard本人也认为，人无法靠自身力量摆脱模仿。
• Isaacson把“模仿游戏”引回AI。Thiel从Girard的角度提出的问题，不是AI会做什么，而是建设者受什么驱动。他坦承，尽管自己反复思考，还是“很难看清”他们的动机。即便如此，他认为Musk、Amodei、Altman和Zuckerberg整体上“好处远大于坏处”。
• Thiel先声明自己不是在“为恶辩护”，接着说“善胜过恶”，但“恶胜过坏”；这里的“坏”指无能。他用Marlowe笔下因欺诈而受罚的浮士德，与Goethe笔下借助魔鬼、做的好事多于坏事而获救的浮士德作对比。Isaacson追问，Thiel本人会不会更愿意选择一个邪恶但有能力的建设者。Thiel回答，他是在对社会作“宏观观察”：当无能普遍存在时，社会会如何权衡。

7. 进步要改善物质生活，也不能丢掉人的体验

• 具体目标是推动物质世界的进步，而不只是比特世界。Thiel把发展放缓追溯到1970年代，并回忆说，他在1980年代末于Stanford读书时，核工程已经显得过时。他希望AI能帮助重启更广泛的科学与工程研究：“至少能不能治好痴呆症？至少能不能治好阿尔茨海默病，或者类似的疾病？”
• Isaacson再次提到，当Ross Douthat问人类是否应该延续时，Thiel曾显得犹豫。Thiel称生存是“极其重要的目标”，但不是唯一目标：他听到其中有一种卢德主义观点，主张维持现状。他的目标是生存并繁荣，借用启蒙运动的说法，就是“减轻人的苦难”；不过他承认，“硅谷向来不太懂技术的意义”。
• 谈到意识时，Thiel说：“我不认为AI有意识，也不认为它将来会有。”计算机不会像人一样体验美丽的日落。他不确定这是否应该成为人类生存的唯一理由，但失去这种体验会是“非常大的损失”。
• 他的第二个支点是人与人之间的生活：家庭、公司和更广泛的社会，而不是一颗孤立的心智。AI可能改变这些关系；按理论来说，它应该能改善关系，让人们摆脱机械重复的劳动，拥有更多相处时间。如果用计算机取代所有人，就会同时失去意识体验和这些关系。