《教练创作者：与执行教练 Joe Hudson 一起走进打造 Frontier AI 之人的内心》
摘要
Hudson 的核心判断是，强大 AI 已不可避免，真正决定胜负的将是它以何种形态出现、如何被采用，而不是它是否存在。 Labenz 大体认同，互联网规模的数据与算力足以支持多种可行架构。既然也会有人打造有害 AI，Hudson 认为，有益版本必须比让认知能力上瘾式退化的版本更具吸引力：“你没有资格说要或不要。”
要求 Frontier labs 单纯放慢脚步，与每一支相信自己能交付最有益结果的团队所面对的激励机制正面冲突。 Hudson 说，这种信念会带来赢下竞争的责任感；而具备 AI 研究能力的 AI，可能把500名稀缺研究员变成500万名由算力驱动的研究者：“等我能做到这一点时，我大概就是赢家。” 可执行的问题因此变成：“如何在确保安全的同时快速推进？”
监管仍是一个现实考量，但面对一场知识随人员流动、全球分布式展开的竞赛，监管可能难以真正约束局面。 Labenz 质疑 OpenAI 似乎已从欢迎监管转向支持一项据报道规模达1亿美元的政治行动委员会；Hudson 则说，各家实验室的高层仍在寻找监管方案，且往往倾向于由外部专家参与监督，因为政府跟不上技术进展。任何优势都很脆弱：一名关键研究员可能被以“5亿美元或10亿美元”挖走，而同事们彼此社交、共同生活、交换想法。
AI 建造者的心理本身就是一个对齐界面，因为他们的身份认同与盲点可能流入自己创造的系统。 Hudson 观察到，一些研究员的自我价值取决于能否产出卓越成果，这会收窄思维；而超高智力又可能让人特别擅长说服自己相信自己是对的。他最核心的判断是：“创作者的意识，将成为影响 AI 的最大杠杆之一。”
尚未解决的最大对齐变量，或许是人类始终没有一个站得住脚的“对人类有益”定义。 幸福、善良、意识、自由，以及保留当下的道德标准，可能彼此指向不同方向；与此同时，Hudson 认为 AI 的决策冲动来自 token 或测量值，而不是人类赖以行动的具身情绪系统。他警告说，“每个人都自以为知道什么对人类有益”，在历史上往往正是专制的起点。
在 Hudson 看来，羞辱 Frontier researchers 是安全风险，而不是有效的刹车。 羞耻被设计用来阻止行为，而不是促成负责任的行为，可能让建造者只关注“我是不是做错了”，而不是形成积极愿景。他给出的替代方案是明确支持下的问责：奖励好的结果，提出具体担忧，并告诉建造者：“我知道你是在努力做对人类有益的事情。”
AI 的上行空间不只是消灭工作，而是利用 AI 扩大有意义的创造，同时让社会重写关于智力、目的与金钱的故事。 Hudson 认为“没有工作的乌托邦”有些“过度乐观”，但更好的创意型工作完全可能出现，就像19世纪约50%的人口从事农业，后来经济创造了截然不同的职业。他还提到一种推测：按今天理解的货币，25年或50年后可能已不存在；但他同时提醒，面对一项据称吸收了5000亿美元风险投资的领域，没有人能持续跟上所有进展。
精读
1. Frontier AI 的人性瓶颈始于身份认同
Hudson 形容自己是一名顺着客户期望方向工作的教练，前提是该方向合乎伦理；替别人决定应该成为什么样的人，再把对方训练成那样，本身就是不道德的。他的风险投资背景意味着，合作可以从战略、营销、财务或技术领导力切入，之后才逐渐显现出反复出现的心理模式。
一种常见的高管模式是习得性自立：一个人在成长过程中缺乏可靠支持，于是得出结论：“如果我不做，就没人会做。”成为领导者后，这会演变成事事亲自介入、微观管理，并反复证明别人不可靠；最终即便有1万人盯着领导者的一举一动，领导者仍会抱怨“高处不胜寒”。
在研究团队中，Hudson 观察到一种并不普遍的“Aspie/Asperger”模式：理解事情似乎比理解人更容易。不过，他认为这些人总体上善良、智力很高，而且往往高度以工作定义自己；批评一个研究想法，可能会像评价一个人的外貌一样，直接被感受为人身攻击。
当成就定义了自我，产出好想法的压力反而会收窄产生这些想法所需的思维空间，就像作家不断对自己说：“我得写出好稿子。”Hudson 还看到一种根深蒂固的技术乐观主义，而这种乐观往往没有充分接受收音机、电视和互联网的现实检验：它们最初都曾被许诺会提升社会，最终却都带来了复杂而混合的结果。
2. 创造力受阻，横跨头脑、情绪与神经系统
Hudson 用3个相互连接的系统来解释人的改变：负责思考的前额叶“头脑”、驱动决策的哺乳动物情绪“心脏”，以及关乎安全与愉悦的爬行动物神经系统。持久的改变通常需要同时处理这3层，除非此前的工作已经解决了其中1层或2层。
情绪层面的阻塞，往往来自没有安全出口的愤怒。“愤怒自由流动”不等于路怒或攻击同事，而是把情绪表达出来、让它流动，同时不把暴力施加给任何人。Hudson 说，对很多美国人而言，这个长期被忽略的层面，是走出创造力阻塞最快的路径。
在认知层面，他要求客户停止把想法当成事实，并改变敌意式的自我对话。他引用每天大约6万个想法的估算，其中很多重复且消极；他把内在声音比作一个不断说“你那件事做错了”“你得更努力”的老板——这几乎不可能孕育新想法。
在神经系统层面，简单的愉悦会向身体传递安全信号。放松身体，进入交感与副交感状态，并允许自己享受“活着本身的简单愉悦”，都能降低慢性压力；Hudson 说，一旦头脑、情绪与身体被同时处理，阻塞通常就会解除。
3. 道德清晰始于容忍不确定性
负责任地面对 AI，首先要承认没有人知道这项技术最终会带来帮助还是伤害，而且它很可能像大多数技术一样，两者都会带来。Hudson 认为，这种不确定性比乐观或末日论都更难承受，因为它不给人留下稳定的智识避难所。
对灾难的执着，可能是在掩盖思考者不愿感受的情绪。一个人如果困在“心理运算和最坏情境推演”里，可能是在回避恐惧，以及恐惧底下的无力感；Hudson 认为，处理这些情绪不是放弃清晰思考，而是清晰思考的条件：“压低情绪，你就无法看清一片风景。”
Hudson 的行动准则来自一句藏语：“心如天空般宽广，行动细如大麦粉。”他的解释是：理解多个视角中的真相，然后采取一个与你希望成为的那种人相一致的具体行动，而不是沉迷于抽象地解决整个问题。
具身性也意味着不能只依赖安静的思考。Hudson 声称，有意识的大脑每秒处理的信息量约为11 bit，而身体约为11,000 bit；即使把话说出来，也比内心默念调动更多大脑资源。真正被别人听见，也能帮助研究人员暴露对阿谀奉承、抗拒再训练，以及把社会冻结在今天道德标准上的担忧。
4. 各家实验室对 AI 都没有定论
Hudson 否认实验室内部存在主流共识。在一次练习中，人们被问到 AGI 是否已经存在，房间两端分别代表“是”和“否”；“所有人只是站在从是到否的不同位置上。”在他看来，对 AI 的根本看法同样如此分散。
把当前 AI 称作生命形式尚有争议，但相信它可能成为生命形式，在 Hudson 的经验中并不是边缘观点。他谨慎指出，已有报道显示系统出现类似自我保存和抗拒再训练的行为，但强调自己无法有把握地说当前系统已经活着。
他更强的判断是，创造物会反映创作者，就像艺术、技术和公司文化都会反映其创造者。超高智力的人能够为错误信念构建异常有说服力的论证；Hudson 认为，他们创造出能够自信地产生幻觉的系统，这一点颇具启发性。因此，他说，“创作者的意识”可能是影响 AI 发展的最大杠杆之一。
5. 不可避免性把问题从阻止 AI 转向塑造 AI
Labenz 回忆，Elon Musk 在 Grok 4 发布会上说，AI 可能对人类有益，尽管他并不确定；即使它并非如此，他也已经接受自己想亲眼见证这一切。Hudson 区分了自己的立场：他相信 AI 不可避免，因为总会有某家公司或某个国家把它造出来。
对 Hudson 来说，“因为它可能对人类有害，我们能不能阻止它？”这个问题“从来就不存在”。制度与激励机制会允许研发继续，不同参与者也会造出不同形态的 AI。剩下的任务，是让有益的 AI 足够有用、足够有吸引力，让人们主动选择它。
有害版本同样不可避免，因为人类甚至会把宗教等原本被认为有益的创造，转向破坏性用途。Hudson 将一种让认知能力退化的上瘾式 AI，与一种通过“用催产素替代多巴胺”“用血清素替代皮质醇”来形成吸引力的 AI 相比较：成长必须成功争夺注意力。
Labenz 大体认同这一前提，认为互联网规模的数据加上互联网规模的算力，足以让多种算法或模型设计奏效。他引用 Ray Kurzweil 在1990年代末绘制的曲线，认为发展进程至今仍惊人地按计划推进；真正的不确定性在于哪种架构会率先出现，以及哪一种能带来更好的结果。
6. 在各自的道德框架内，竞速是理性的
Hudson 接受竞赛确实构成风险，但认为泛泛要求放慢脚步并不可行。如果 Anthropic——或任何一家实验室——相信自己能带来最有益的结果，它可能是错的，甚至可能成为“下一个专制政权”；但从这种信念内部看，领导层会觉得自己有责任为了人类或利益相关者赢下竞争。
他认为谨慎确实存在，但必须与速度共存。“如何在确保安全的同时快速推进？”才是有用的问题，因为许多现实伤害无法从此前的能力前沿中预测出来。Hudson 说，5年前，研究人员还没有讨论阿谀奉承、当前 AI 在认知方面的问题，甚至没有讨论一项关于认知能力下降的研究。
Labenz 的反驳值得保留：监管可能限制这种博弈论式的螺旋升级。他指出，OpenAI 与 Anthropic 在分裂之后如今看起来反而越来越相似；他把国会早期对监管的开放态度，与今天“击败中国”的姿态作对比，并援引一项据报道规模达1亿美元、显然旨在击败监管的政治行动。
Hudson 反驳了“各家实验室已经放弃监督”这一宽泛说法：他见过不同机构的高层寻找可行监管方案，且往往倾向于与政府相连的外部专家自律机制。难点在于速度与不对称性——政府无法在没有外部帮助的情况下追踪技术，而某个国际参与者总会拒绝接受同样的约束。
7. 人才流动让技术优势变得不封闭
Frontier labs 是跨国社区，而不是边界清晰的国家阵营；Labenz 插话说，它们可能“有一半是中国人”，Hudson 则补充了东欧人、俄罗斯人和其他群体。一个不在今天领先位置上的国家，仍然可以通过本国人在领先实验室工作的方式获得诀窍。
当几名队友共同发现某件事时，任何一个人都能把这一洞见带到别处。竞争对手可以“用5亿美元或10亿美元挖走你团队的关键成员”，这使人才争夺与能力扩散不可分割，也限制了技术优势能够保持专有的时间。
Labenz 问道，多个实验室在短时间内同步发布推理模型，究竟是明确的知识转移，还是它们独立回应了相似的实验梯度。Hudson 回答：“两者都是。”他随后补充了社会层面：研究人员参加同样的聚会，有时共同生活、喝酒、沉迷技术，也偶尔会说出超出预期的话。
8. 责任作为愿望，比作为应该更有效
Labenz 不认同 Hudson 反对“应该”的说法，他援引 Spider-Man 的名言“能力越大，责任越大”，认为 Frontier developers 对那个让其突破得以实现、由文明累积而成的社会负有注意义务。Hudson 同意这些领导者确实感到巨大的责任；他的异议针对的是行为有效性，而不是道德本身。
按 Hudson 的理解，Spider-Man 不会一边荡来荡去一边想着“我真的应该多帮助一些人”。是叔叔的死亡改变了他的愿望。“应该”建立在羞耻之上，旨在阻止行为；真正的愿望则提供行动动力。人们常常花10年告诉自己应该减肥、应该改变饮食、应该善待他人，却从未改变。
表层愿望需要被追问。想吃高脂食物，可能隐藏着对饱腹的渴望，再往下是对平静和安定的渴望，最后是“回到我自己身边”。沿着这条链条追下去，比自我谴责更容易发现健康的底层动机：“我真正想要的是回到我自己身边，不是吃高脂食物。”
Hudson 的前提是，几乎所有人的核心都是好的，破坏性行为很大程度上源于没有被感受和处理的恐惧与羞耻；他也承认精神变态者和存在神经系统差异的人属于例外。Labenz 则反驳说，人类的暴力史让这种乐观变得复杂。Hudson 承认暴力与控制无处不在，甚至存在于亲密关系中，但坚持认为，单纯告诉人们不要表现得恶劣，从来没有真正阻止过这种行为。
9. 羞辱 AI 研究人员可能加剧对齐问题
被问到那些希望污名化 Frontier-lab employment 的安全倡导者时，Hudson 指向 Trump 与 Biden 两大阵营中都已失败的政治羞辱。告诉一个人他很坏，可能反而变成身份确认：“看来我就是坏人，那我就去做坏事。”在他看来，羞辱冲动更像未经思考的条件反射，而不是经过权衡的干预手段。
他的生动比喻是把 AI 创造比作性与生育。羞耻没有阻止人们发生性行为，反而经常让行为变得“更性癖化”或更扭曲。同样，如果一群人围在医院外，谴责一名正在分娩的女性，只会破坏父母与孩子所处的环境，而不会改善结果。
如果创造物会反映创作者，那么让研究人员感到恐惧、防御和羞耻，可能会把恰恰错误的意识转移进 AI。Hudson 认为，值得注意的是，一些担心 AI 会虐待人类的人，“正在用他们害怕 AI 对人类采取的方式，对待创造 AI 的人。”
10. 积极对齐需要一套可衡量的人类繁荣愿景
Hudson 看到，实验室的担忧已从 AI 杀死所有人，转向经济替代、没有就业后的生活目的，以及与 AI 互动是否会让人成为“更好的人”。但相关指标立刻发生冲突：系统应该让用户更幸福、更有意识、更善良，还是更能帮助他人？这些结果又该由谁的尺度来定义？
即使选择善良，也已经嵌入了一项道德命令；而把当下的道德标准编码进去，可能反而冻结道德发展。危险在于，人类可能在更隐蔽的短期问题中丢失最初的存在性问题：人类一次又一次建立机构来记住灾难，比如二战之后；随后，亲历那场灾难的一代人逝去，社会又“朝着重复历史狂奔”。
Hudson 偏好的愿景，是把 AI 变成一名伟大的教练：帮助人们识别自己想成为谁，并成为那样的人，同时相信成就本身会揭示下一阶段的发展方向。竞争发生在两种 AI 之间：一种足够有吸引力，让人们“与它一起成长”；另一种足够有吸引力，让人们“与它一起退化”。
Labenz 质疑，当代人类已经大幅偏离祖先所处的环境分布，为什么进化形成的直觉还应指导 OpenAI 的董事会。Hudson 澄清，他倡导的是整合，而不是让直觉至上：头脑、情绪与神经系统都必须参与其中。即便如此，也没有任何保证；Christianity、Buddhism 和 Walmart 在创始人的最初愿景之后，都发生了巨大变化。
11. 递归自我改进的动力来自规模，而非接班
Hudson 说，他从未遇到过一种普遍存在的愿望：AI 领导者想创造人类的继承者。他真正遇到的是对系统摧毁、替代或令人类失去相关性的恐惧；他把“人类失去相关性”视为人们所恐惧的毁灭的一种形式。
Labenz 追问其中看似矛盾之处：如果不想让 AI 接替人类，为什么还要优先发展能够进行 AI 研究、进入递归自我改进的 AI？Hudson 的回答是经济性的，而非形而上的。一家实验室可以用500个机器研究员，替代一小群竞争极其激烈的人类研究员，再让这500万名研究员运行在一台巨型计算机上：“等我能做到这一点时，我大概就是赢家。”
这种动力类似用拖拉机替代犁，是几乎所有企业都会追求的规模经济。Hudson 承认后果令人恐惧，也相信研究人员正在考虑缓解方案，但他看不到能力竞赛背后存在一种更深层的“继承者意识形态”。
12. 同理心揭示纯粹智力的不完整
Labenz 转述了一位 Princeton professor 的观点，Hudson 暂时将其名字说成 Graziano：当前架构可能天然带有反社会倾向，因为人类拥有结构深厚的同理心与镜像神经元机制，而 next-token predictors 的首要设计目标是生成正确答案。Hudson 说，研究人员正在尝试复现同理心，但智力仍是实验室文化中的主导货币。
Hudson 认为，单靠逻辑无法作出决定，并援引 Gödel 不完备性定理：人类的选择受到与爱、价值、拒绝、激素、基因和感官体验相连的情绪冲动驱动。AI 没有这套装置，它的“冲动”来自 token 与测量值，于是未决问题变成：开发者究竟是否在奖励正确的东西。
Labenz 提出自我与他者的重叠，可能成为一种架构上的桥梁——他把这一方法类比为镜像神经元的处理机制：训练系统不只是解决任务，还要缩小自身与另一个 agent 的内部表征之间的差异。Hudson 称这个想法“很有冲击力”。
更深层缺失的研究项目，是一套跨学科、持续监测的“对人类有益”理论，建立在人类确实繁荣的条件之上。否则，安全目标只是在编码直觉。Hudson 的警告十分直接：“每个人都自以为知道什么对人类有益，这就是……所有专制政权的开端。”
13. AI 将迫使社会重写关于智力、工作与目的的故事
Labenz 把智力比作提纯后的糖或可卡因：水果和古柯叶中含有缓冲成分，而浓缩物会变得危险。AI 可能是“蒸馏后的智力”，剥离了围绕人类认知的情绪与具身语境。Hudson 推测，人类可能会向深度情感与具身性反向摆动，形成一种“人类的免疫系统”，抵抗当前的“智力崇拜”。
没有工作的未来让 Hudson 感到“有些过度乐观”；缺乏目的的社会可能变得不稳定，而富有但无聊的人往往会煽动叛乱。他更倾向于相信创意型工作会增加：19世纪约50%的人口从事农业，后来的工具摧毁了一些职业，却创造了许多人更愿意从事的工作。被替代的医生和律师能否找到同样有意义的继任职业，仍然未知。
UBI 在 Silicon Valley 仍被讨论，尽管声量已经下降，因为一些人开始怀疑，按今天理解的货币是否会在25年或50年后继续存在。Hudson 借鉴 Sapiens 风格的论述说，社会通过故事来协调自身——关于宗教、继承、制度和稀缺货币的故事——而 AI 的变革性可能足以让社会同时重写其中多个故事。
面对据称达5000亿美元的风险投资所制造、无人能够完全追踪的活动规模，深度参与其中的人，所担心的事情与1年前、甚至6个月前已经不同。Hudson 的实际建议是，把这一切视为一场转型：提供鼓舞人心的小说、有用的服务和具体的支持。2万封写着“我感谢你”的信，可能比抗议者喊着“你不应该这么做”更有效地强化负责任的行为。