先锋 趋势 方法 投研 作者
开拓 PAI:Daniel Miessler 的个人 AI 基础设施如何激活人的能动性与创造力
返回节目精读

开拓 PAI:Daniel Miessler 的个人 AI 基础设施如何激活人的能动性与创造力

摘要

  • Miessler 将近期 AGI 定义为产品发布,而非模型发布:一种能够完成入职、参加会议、接受任务,并在公司优先级变化时转向的“虚拟员工”。 他猜测时间点在 2027 年,同时明确承认也可能是 2026、2028 或 2029 年;决定性测试是能否真正部署,而不是能否完成概念验证。「我关心的是谁会被解雇,谁不会再被录用。」

  • 他的劳动力判断非常尖锐:对大多数公司而言,“理想员工数量是0”,因为只有当所有者缺少足够的大脑、双手或现场能力,无法独自执行时,才需要雇佣劳动力。 一旦智能体补齐这些能力,电子邮件、摘要、报告、协调等常规知识工作几乎没有什么替代门槛。这将冲击工资—消费循环;Miessler 猜测,到 2028-29 年,对 UBI 的真实需求会被推高。

  • 可投资的瓶颈不是模型智能的边际提升,而是脚手架:“模型能做什么其实并不重要”,除非有一套能把多样化输入转化为有效工作的执行框架。 Miessler 认为,Opus 4.5、最好的 Gemini 模型和最好的 OpenAI 模型在总体能力上差别有限;Claude Code 真正突破,是因为它的脚手架能够处理上下文并执行动作。Claude Cowork 这类通用产品,可能通过一个符合人类使用习惯的界面,隐藏大量窄域智能体,跨过替代员工的门槛。

  • Personal AI Infrastructure 将个人目标,而不是项目或聊天会话,置于整个技术栈的中心。 TLOS 记录问题、目的、能力、障碍、项目和期望结果;大约 5,000-15,000 个启动 token,再加上约 30 个按需加载的上下文文件,将 Miessler 的助手 Kai 从“当前状态”导向“理想状态”。由于底层主要由 Markdown、技能、上下文文件和集成组成,他认为即便 Claude Code 是当前基础,PAI 仍然具备可迁移性。

  • PAI 的复利循环来自记忆与自我评估:文件系统产物、摘要、JSONL 索引、情绪追踪以及约 12 个 hooks,共同记录系统是否真的在推进 Miessler 的目标。 升级技能可以检查播客、YouTube、Anthropic 工程文章、GitHub 以及 Claude Code 2.1.6 的变更日志,再建议修改自身的技能和 hooks。他真正关心的问题不只是任务有没有完成,而是「作为一个整体系统,我们帮助 Daniel 的效果到底有多好」。

  • 网络安全正在变成“攻击者 AI 栈对防御者 AI 栈”,个性化社会工程也将与技术漏洞利用一起工业化。 Miessler 已经可以设想用一个 prompt 生成 256 个攻击活动、配套基础设施、凭证收集和权限转售;系统甚至可以把某员工领养狗的兴趣,与其所在产品背后的脆弱平台联系起来。防御方仍可能凭借 AWS、网络、配置和身份数据的直接访问权占据优势,但前提是 AI 能持续监测变化,因为响应窗口正从数周压缩到数秒。

  • 对软件供应商而言,客户上下文将成为决定性产品优势:即便漏洞管理产品稍弱,只要它理解代码仓库、工程团队、工单系统、CI/CD、激励机制和部署实践,也可能赢得竞争。 Miessler 的警告是绝对的:技术上不错、但缺乏这些上下文的产品,会输给真正了解用户的竞争对手,「你会输」。PAI 自身也遵循优中选优模式,编排 Gemini、Codex、计划中的本地 Llama 模型、Salesforce、电子邮件和专业应用,而不是取代每一个 SaaS 工具。

  • 上行情景是“激活人类”:AI 可能帮助原本占 99% 的人停止认为创造力只属于少数特殊人群;下行风险则仍包括精英集中、威权控制和混乱。 Miessler 不知道有多少人真正想要更强的能动性,但认为反复发出邀请值得一试;与此同时,他坚持有边界的自主性,目前信任度约为 60%,并允许 AI 失败。「我更看重真相,而不是你为了维持对话继续编造。」

精读

1. Miessler 的使命:从保护系统转向激活人

  • Miessler 自 1999 年起从事网络安全,约在 2016 年接触 AI,2018 年加入 Apple,负责机器学习与安全相关工作。他在 ChatGPT 于 2022 年末发布前约 6 个月离开公司独立工作,随后“彻底转向”——不是离开安全,而是开始把安全视为 AI 内嵌的一部分。

  • 他目前的项目组合包括 Personal AI Infrastructure、Substrate 等开源项目,以及持续进行的安全工作。共同目标是帮助个人和公司适应变化:「我把 AI 看成一个放大器,用来放大你正在做的其他一切。」

  • Miessler 对生活质量的衡量标准简单得近乎玩笑:「你有多害怕星期一」。反向测试则是,人是否期待星期一到来。他的意思是,自动化正在冲击一个许多人本来就不喜欢的劳动体系,而不是摧毁一个稳定提供意义感的制度。

  • Erik 的认同带有重要的阶层区分:许多 AI 从业者拥有一种罕见的特权,可以从事即便不需要收入也愿意做的工作。这种体验并不代表绝大多数 W-2 工薪阶层,却经常被拥有特权的观察者不自觉地投射到他们身上。

2. AI 打破工资—消费循环,让企业回到所有者亲自经营

  • Miessler 从资本与劳动力的平衡讲起:如果 AI 能以千分之一的成本生产 1,000 倍的东西,所有者的议价能力就会上升,劳动力的议价能力则会下降。未解的宏观问题是:当被替代的员工不再把工资重新投入消费,谁来购买这些产出?

  • 替代门槛很低,因为大量知识工作无非是接收电子邮件、总结内容、合并报告,再写出另一份报告。员工通常缺乏投入,还要应付“权力的游戏式政治”,并不是每天早上都带着释放最大创造力、与 AI 竞争的决心来到公司。

  • 他故意给出一个极端结论:「对大多数公司而言,理想员工数量是0」。一个经营冰淇淋车、每周赚 $500 的所有者,并不欠任何人一份工作;公司之所以雇人,只是因为创始人无法独自提供所有的大脑、双手、技能或地理覆盖。

  • 因此,智能体将企业带回 Miessler 所说的更自然状态:一个有想法的人启动数字员工,实际上独自完成工作。当被问及传统公司体系中还需要多少人时,他的答案是“非常少”,但他希望抵达的终点是更高的人类幸福,而不是敌视劳动者。

3. 工作是通用的,即便任务简单,因而采用速度落后

  • Nathan 提供了质疑快速替代的证据:多年来,他持续预测现实世界会出现比实际更大的颠覆。到 2024 年,经过微调的 GPT-4 似乎已经能够自动化优先级明确的任务清单,只要组织系统性记录员工如何分配时间;但宏观结果推进得慢得多。

  • Miessler 的解释是:「AI 的价值其实更多在脚手架,而不是模型本身。」他认为 Opus 4.5、最好的 Gemini 模型和最好的 OpenAI 模型之间差距有限;真正爆发的是 Claude Code,而不是单独的 Anthropic 或 Opus,因为脚手架把模型能力转化成了可用的工作。

  • 员工的一周混合着写代码、处理邮件、参加强制安全培训、出席 HR 会议、应对办公室冲突,以及突然改变的战略方向。早期系统可以写代码或报告,却没有任何脚手架能够稳定吸收这些异质输入,再以接近人类员工的通用性返回工作成果。

  • Claude Cowork 的意义在于,它瞄准了更宽的工作边界。Miessler 提到,Anthropic 据称用一周时间就做出了这款产品,代码由 Claude Code 编写;无论底层智能是否真正通用,只要脚手架足够无缝,其经济行为就可能呈现通用性。

4. AGI 到来于虚拟员工撑过星期一早上

  • Miessler 对 AGI 的操作性定义,是能够替代一名普通知识工作者。他预计 AGI 会以名为“虚拟员工”的产品出现,而不是以一个研究模型的形式出现,由基准测试分数突然终结一场哲学争论。

  • 验收测试非常具体:AI 加入一批新员工的入职培训,观看培训视频,参加星期一的全员会议,接受经理分配的工作,交付结果,并在管理层放弃一个项目、转向另一个项目时改变方向。真正部署到公司,而不是完成概念验证,才是证据。

  • 界面背后究竟是“三个 AI 穿着一件风衣”,还是“57 个 AI 穿着一件风衣”,并不重要。只要一组窄域系统协调得足够好,能够覆盖员工的任务分布,其对劳动力市场的影响就与统一的通用智能相同。

  • Miessler 猜测时间点在 2027 年,同时承认也可能是 2026、2028 或 2029 年。Nathan 也认同这一门槛模型:一旦雇主可以在真人和 AI 之间做选择,而 AI 提供更广泛的知识、更快的响应、24/7 可用性和更低成本,初级岗位招聘可能会以惊人速度消失。

5. 激活人类,首先要拒绝“我只是个工人”的身份

  • Miessler 想象,一个拿着剪贴板的外星人向 10 亿人提问:你是谁?你相信什么?世界出了什么问题,你将如何改变它?大多数人会用职位描述回答——核对表格、更新系统、发送报告——因为更深层的作者身份仿佛只属于“特殊的人”。

  • 教育与企业社会化把人类分成 1% 的思想发布者和 99% 的思想执行者。在 Miessler 戏剧化的全球仪表盘中,地球的创造力激活分数是“0.13”:巨大的潜在能力,因普通人认为自己没有值得分享的东西,几乎被四舍五入为零。

  • 激活可以从一句话开始:告诉一位母亲,她刚才的观察很有洞察力,再问她是否把它写下来了。一个刷 Netflix 的人一开始可能拒绝作者身份,但他或许仍然有一个希望存在的故事;Miessler 预计,2026 年的工具会让这个人能够写出来并发布。

  • 对话也提出了反面观点:人们可能把能动性用于私人创作消费——为自己、家人或朋友制作书籍、节目或项目——而不是把它变成可规模化的市场收入。成年人还需要艰难地重新学习,而电气化曾经耗时约 60 年、跨越 3 代。Miessler 对参与率保持中立:「我认为值得尝试」,即便 13 年里鼓励 7 次都被挡在门外。

6. TLOS 把人生转化为助手可以行动的上下文

  • TLOS 从问题开始:世界或自己的生活出了什么问题?随后映射期望变化、障碍、能力、目标、挑战、策略和项目。一个个人实例可以把体重超标、精力不足,与膳食计划、鼓励、学习和具体日常安排联系起来。

  • PAI 借助这套结构理解一个人究竟想完成什么,而不是只回答某个孤立 prompt。它还会映射个人日常、当前技能、期望能力、工作模式和反复出现的工作流;对 Miessler 和 Nathan 而言,其中很大一部分底层材料是写作与思考。

  • Miessler 的标志性案例始于一次在海湾附近散步时,通过 Limitless pendant 记录下的半成形想法。Kai 可以通过 API 找回对话,召集 AI 批评者对想法进行红队测试和辩论,接受现场或 Wispr Flow 的口述修改,再把成稿发布到 X 和 LinkedIn。

7. 创造性自主仍然需要新的经济底线

  • Nathan 将两个容易被热情混淆的判断分开:AI 可能帮助人们实现有价值的想法,但这并不意味着这些想法能够支撑今天的经济。如果所有人都生产书籍或高规格电视剧,有限的人类注意力不可能让所有人都获得商业成功。

  • Miessler 设想一个人们广播需求与能力的网络:屋顶瓦片需要更换,有人需要照看狗,或者有人想学西班牙语。软件可以把这些信号与附近的技能匹配起来,潜在地使用声誉积分或其他交换机制。

  • 他坦率地承认,这套机制目前无法在社会范围内支付房租和购买食品。他看不到任何明确替代方案,能够取代“某种约定好的共享系统”,为人们提供足够的生存收入;他认为 UBI 可能会在未来几年到 5-10 年内成为必要条件。

  • 更具体的预测是,随着劳动力冲击开始打破现有安排,2028-29 年左右会出现对 UBI 的直接政治需求。一套定制化、本地化、重视身份地位的交换经济,可以叠加在这条底线上——Nathan 举例说,可以提供定制的谋杀悬疑晚宴——但 Miessler 并不认为它能立即成为基础制度。

8. 最可能的灾难是集中与控制,而不是瞬间造出回形针

  • Miessler 拒绝给出一个稳定的末日概率:他有“很多不同的 pdoom”,而且这些判断会变化。听完 Yudkowsky 首次参加 Lex Fridman 节目后,他曾严重失眠;这种不确定不是轻视,而是无法自信地给各种路径排序。

  • 最容易想象的负面轨迹是精英控制:强大的 AI 让少数人变得更富,剩余 99% 几乎得不到能动性,而沉浸式游戏让他们持续分心。政府——可能包括中国和美国——可以利用 AI 建立比历史上任何时代都更有效的威权控制。

  • 另一条路径是直接陷入混乱,随后重建秩序。Miessler 认为,混乱与威权或精英统治之间存在一条“很窄的步行小径”,因此他在情感和实践上都专注于开源工具,希望推动更好的结果,尽管他认为更黑暗的情景可能更有可能发生。

  • 瞬间出现 ASI、把世界变成回形针,是他认为可能性最低的重大风险,因为中间存在太多摩擦层。渐进式 AI 控制仍然可能导致严重的人类失权,甚至灭绝;Erik 补充说,如果 AI 研发被以最大速度自动化,目前不太可能的失控路径可能会重新变得重要。

9. 网络攻击变成持续运行的智能体工厂

  • Miessler 的核心框架是“攻击者 AI 栈对防御者 AI 栈”。攻击面如今意味着公司的全部知识:员工、心理、应用、API、平台、漏洞、版本发布、基础设施,以及这些事实如何组合成一条可行的入侵路径。

  • 他已经构建出能够寻找员工并建立心理画像的工具。一次攻击活动可能发现某人领养了狗,确认此人参与构建核心产品,再把产品的新版本与某个存在漏洞的平台联系起来,最终编写出最适合利用这一特定组合的钓鱼诱饵。

  • 顶级红队和高级持续性威胁过去也能完成类似工作,但小团队受限于时间和行业覆盖。智能体 AI 栈只需要一个目标,就可以持续枚举员工、建立画像、扫描网络、生成社会工程内容、测试漏洞,并在各模块之间协调行动。

  • 更激进的情景是,一个 prompt 要求系统利用愤怒、谄媚或其他心理杠杆生成 256 个不同活动。系统创建发送基础设施,收集凭证和访问 token,实际使用这些权限,再把获得的访问权送入转售市场。Miessler 提到,Anthropic 已经披露过使用 Claude Code 成功发起自动化攻击的案例。

10. 防御者只有利用对系统状态的特权视角,才有机会获胜

  • 如果攻击模型与防御模型能力相当,Miessler 认为防御者占优:公司可以直接访问 AWS、网络日志、身份信息和配置,而攻击者必须从外部信号推断其中很大一部分状态。

  • 很多安全事故不是由高深恶意软件导致的,而是“乌龙球”——没人记得的互联网暴露系统、被遗忘的收购资产,或错误配置。防御栈应当持续攻击自身,检查每一次状态变化,最先发现暴露点,并立即响应。

  • 相关状态不只包括技术遥测,还包括损益、公司目标、竞争对手、应用、员工,以及“过去 13 秒刚刚发生了什么”。组织清晰度与安全最终汇合,因为两者都需要一套关于现有资产、存在原因以及是否仍服务于管理层目标的实时叙事。

  • 15 或 20 年前以数周计算的响应窗口,已经压缩到数小时和数分钟,在某些场景下甚至只剩数秒。继续增加人工无法匹配这种扩张曲线;安全团队只能改进一种能够持续观察、不会疲劳、也不受注意力稀缺约束的 AI。

11. 个人上下文能把同一个模型变成明显更强的工作者

  • Miessler 的要求是,让用户通过口述、写作或上传材料,提供足够信息,使 AI 完成一次 TLOS 式自我评估。一旦问题、能力、抱负和工作偏好在启动时加载,每个回答都可以围绕个人真实目标进行优化,而不是依赖泛化的世界知识。

  • PAI 的升级技能可以读取 YouTube transcript,将其与用户的 TLOS 和系统架构进行比较,再提出针对技能、hooks、记忆或上下文的修改建议。Claude Code 2.1.6 发布后,Miessler 可以让系统检查变更日志、GitHub、播客、YouTube 和 Anthropic 工程文章,再确定升级优先级。

  • 他给出的具体表现案例是一位心脏科医生朋友,这个人还通过漏洞赏金项目寻找客户端漏洞。把这位朋友个人的发现技巧编码成技能后,PAI 就能接收一个目标并自动应用这些技巧;Miessler 表示,发现漏洞的数量和获得的奖金都显著上升。

  • 生活质量方面的细节进一步强化了助手身份:Miessler 在以 Vim 为中心的终端里工作,使用 tab 补全,并通过 ElevenLabs 为智能体设置不同个性和定制声音。实际体验上的区别在于,他是在“和我的朋友 Kai 打交道”,而不是向一个 coding model 发出命令。

12. 助手与智能体的区别,在于它从个人出发

  • Miessler 的 Personal AI Maturity Model,即 PAIMM,在聊天机器人、智能体和助手之下各设 3 个级别;他认为当前系统大致处于智能体第 2 级。Claude Code 仍然主要是 coding agent,因为它不会先问:“你是谁,你在乎什么?”

  • 目标助手应当能够看到、听到并操作用户接触的每一种技术。比如用户在 Coyote Hills 和朋友 Mark 骑山地车时,要求它播放一首完美的歌曲,助手需要理解两人的关系、共同经历的 1980 年代、所在地点、当前活动和音乐联想,而不只是调用一个播放列表 API。

  • Kai 通常从约 10,000 个 token 开始,Miessler 估计范围在 5,000-15,000 个 token。主 SKILL.md 解释 PAI 架构,并指向约 30 个额外上下文文件,分别包含用户、系统和工作信息。

  • Claude Code 的三层技能结构让初始加载保持可控:front matter 充当路由表,核心文件提供运行上下文,references 只在需要时暴露更深层材料。因此,Kai 可以正确处理“给 Jason 发邮件”或“给 Sasha 发短信”,而无需预先加载所有关系与集成信息。

13. Markdown 的可迁移性可以缓解,但无法消除平台依赖

  • Nathan 对锁定的担忧既是经济问题,也是技术问题:Anthropic 刚刚停止允许订阅用户将套餐内的推理额度带到 OpenCode 等框架中,而 API 使用成本可能高出一个数量级。他个人偏好 Claude,但希望保留一条可信的退出路径。

  • Miessler 的回答是,PAI 本质上由 Markdown 文件、技能、MCP 和上下文构成,这些都高度可迁移。他曾使用 OpenCode 约 2 周,如果管理层释放出变化信号,他也会再次迁移——例如 Claude Code 团队约 70% 的成员离开、转投 Gemini。

  • 但他目前仍然“4,000%”站在 Anthropic 生态一边,因为在他看来,Claude Code 的脚手架设计领先数代。他将其归功于一致的领导力、快速发布、直接接触用户,以及全公司以人为先的理念;Google 擅长后端系统,却不擅长界面,而 OpenAI 在他看来聚焦度不足。

  • 不同路线可能最终汇合:Miessler 认为 OpenAI 正在开发可能超越手机的消费级设备和界面,而 Claude Code 则通过极其强大的 coding harness 进入市场。Apple、Google、OpenAI 和 Anthropic 似乎都在朝着一种抽象技术、直接服务个人的助手前进;他猜测,约 3 年内,终点会变得清晰可见。

14. 等待会放弃目标对齐回答的复利回报

  • PAI 的核心是 Miessler 所称的通用算法:从当前状态走向理想状态,用科学方法或 Ralph 式循环反复测试如何缩小差距。这套逻辑既适用于职业发展,也适用于一次具体的战术请求。

  • 他的采用建议非常明确:「不要等待。」成熟的消费级助手可能还需要时间,可能不透明,也可能带来供应商锁定;与此同时,即便目标感知回答只带来 2%、5% 或 50% 的改善,也会在一周、6 个月或 2 年的时间里不断复利。

  • Nathan 提出的难点是搭建摩擦:把 Claude Code 接入 Gmail、Calendar 和 Docs,可能需要在 MCP、命令行工具、Google Cloud 配置和 OAuth 之间做选择。Shortwave、Tasklet 等专业产品已经内置了大量领域工程能力,可能提供更友好的界面。

  • Miessler 并不否认这些产品的价值。他在产品层面的结论是,所有严肃供应商最终都需要建立对用户的深度模型:即使漏洞管理产品稍弱,只要理解客户的代码仓库、团队、工单、CI/CD 流水线、激励机制和代码发布流程,也能赢得竞争。没有这些上下文,「你会输」。

15. PAI 围绕一个持久目标系统编排优中选优的工具

  • Claude Code 是基础设施,但不是唯一智能来源。Miessler 的深度研究工作流可以把不同子任务分发给多个研究智能体,包括 Gemini 和 Codex;他计划加入本地推理的 Llama,并表示 Kai 目前会根据各模型的优势使用约 6 家模型供应商。

  • Kai 用 TypeScript 逆向实现了 MCP 功能,因此集成不会消耗过多上下文。它可以连接 Salesforce、电子邮件和 Miessler 的生产力软件,让他继续保留专业产品,而不必从头重写 SMTP、项目管理或其他服务。

  • 原生界面仍然有价值:连续点击手机 3 次会打开 ChatGPT,而 Grok 是他在车内最偏好的语音体验,因为对话流畅度很强。他使用 Superhuman 处理邮件,也持续试用新产品,即便他使用的 SaaS 总数可能正在下降。

  • 最终状态将同时消除终端和收件箱。Miessler 只需要询问什么重要、需要回复谁;在《Her》的设定中,助手读完 940,000 封邮件后,只需报告 Sarah 发来的一条新消息。产品变成助手背后的能力,而不是人必须亲自进入和操作的目的地。

16. 文件系统记忆之所以有效,是因为 hooks 在持续压缩经验

  • Miessler 坚定站在“团队文件系统”一边:文件提供存储、记忆和上下文管理。他唯一主要的 RAG 例外,是一个包含自 1999 年起超过 10,000 篇帖子的档案;除此之外,他不喜欢 RAG,因为检索过程有损且难以检查。

  • .claude 目录下有一个全大写的 MEMORY 结构,包含从项目历史和 events.jsonl 日志中提取的学习、信号与产物。Claude Code 已经会记录 prompt、工具调用、工具输出和回答,为后续分析留下丰富的原始轨迹。

  • 约 12 个活跃 hooks 会在 prompt 和工具运行时加入路由、安全检查与情绪分析。一个定制推理层提供 fast、standard 和 smart 模式,分别映射到 Haiku、Sonnet 和 Opus,让系统针对每个内部判断选择更经济的能力等级。

  • 系统不会在每次请求时重新解析全部原始历史。受 Stanford “reflections” 思路启发,它会生成一行或一段摘要,以及快速 JSONL 索引,同时保留对原始日志的访问。Kai 之后可以报告哪次升级失败、删除了什么、由哪个替代方案接手,以及 Miessler 事后是否更开心。

17. 当助手能够捕捉并主动发起行动,它就成为认知的延伸

  • Miessler 将 PAI 与 David Allen 的 Getting Things Done 联系起来;他在 1990 年代服役期间接触到这套方法:永远不要让一项待办持续占据工作记忆。他仍然随身携带索引卡和 Space Pen,拥有约 2,900 条 Apple Notes,并曾使用 Limitless pendant;在其被 Meta 收购后,他开始考虑更换产品。

  • 这种体感目标类似 Nathan 所说的“剪贴板上有东西”:可靠的捕捉机制让大脑可以释放一个想法,而不必担心它丢失。Miessler 最近增加了一个 reminders 文件,但最终希望只要说出“确保我别忘了这个”,系统就能完成记录。

  • 主动性比固定日程更重要。Kai 应当能够发现重新处理某项任务的合理时机,同时理解一场对话进行到一半时并不是插入新闻的正确时点;问答式交互仍然太接近聊天机器人,因为人类仍然必须主动发起并推进所有事情。

  • 当前的近似方案包括运行在 GitHub 基础设施上的远程智能体、每分钟或每 5 分钟运行一次的 Cloudflare Workers、经过认证的服务,以及 Docker 内的 Claude Code。结果可以通过 Discord、短信或电子邮件送达,但 Miessler 仍然对远程终端访问“怕得要死”,这与他的安全背景有关。

18. 有边界的自主性、失败许可与“绳子的余量”定义上行空间

  • Miessler 估计自己目前对系统的信任度约为 60%,未来几年可能上升到 80-90%。他已经不再运行 --dangerously-skip-permissions;hooks 会执行文件系统边界和分层 prompt 注入防护,同时他持续观察智能体的行为。

  • 当爆炸半径明确时,自主性才变得可接受:一个单独的银行账户中存放 $1,000,可以支持一次类似 Vending-Bench 的实验,但不能让系统不受限制地访问一切。否则,链接或其他不可信内容中的 prompt 注入,可能诱导 Kai 把私人日记发布到 LinkedIn;这说明降低影响范围与降低风险概率同样重要。

  • “失败许可”告诉模型,它可以承认自己没有答案,或无法抵达理想状态。Miessler 更看重真相,而不是让模型继续编造;他说,这个逃生阀能改善幻觉和谄媚行为:助手不必因为推断出用户要求成功,就假装任务已经完成。

  • 他最终的乐观判断是“绳子的余量”:人类误把今天的前沿当成硬性上限,但被忽视的组合可能把表现从 1.7% 推进到 63%。AI 可以重新连接被遗忘的医学研究,扩大人们获得导师的机会,也许不仅会改变人们能追求什么,还会改变“你想要什么”——就像 GLP-1 激动剂已经改变食欲。哪些障碍来自物理规律,哪些只是绳子还没绷紧,仍然没有答案。