摘要

Hadfield的核心主张，是把AI监管变成一个结果市场：政府决定可接受的风险，获批的专业机构展开竞争，负责发现、实施和验证技术控制措施。 与其让立法者把今天的红队测试、数据或流程要求冻结进法律，不如让监管服务提供商随着技术变化持续调整。前提是政府保留有力监督，因为市场更擅长“处理信息和发现信息”。
California的SB 813将通过赋予独立认证以实质性证据效力，启动这一市场。 目前的设计是可反驳的推定，而非全面豁免：受害方仍可起诉并提交过失证据。对于面临代理型AI责任边界未定风险的开发者而言，这会把侵权法中的“潜能”转化为购买可信监督的即时动力。
真正具备投资价值的瓶颈，不是AI安全服务的需求，而是围绕谁来认证、如何衡量表现、谁能撤销批准所建立的制度可信度。 认证机构必须证明，纳入监管的车辆事故更少、聊天机器人造成的伤害更少，或其他明确结果得到改善，而不只是证明表格已经填完。Hadfield坚持的底线是，政府必须有能力“撤掉你的牌照”。
逐底竞争仍是这一方案执行层面的核心风险，因为开发者可能会选择最便宜、最宽松的认证机构。 因此，Hadfield倾向于设立专家委员会、审查认证机构的资金来源，并证明每家机构即使拒绝认证也能在财务上存活；如果一家审计机构必须在5个客户中批准4个才能活下去，它在结构上就已经失去独立性。当某个政府“把目光从球上移开”时，跨州或国际批准可以提供冗余。
设计良好的认证制度，可能减少而不是加剧大科技公司的集中，因为它能为初创企业提供一条与其规模相称的制度信任路径。 为受限应用服务的10人开发团队，应当适用不同于进入10,000辆汽车的软件项目；而FLOPs等静态门槛会迅速过时。Freedman认为，没有可信验证，只有 incumbents 才负担得起向银行和其他企业证明其系统安全。
保险和扩大责任范围，都无法消除建立底层监管智能的必要性。 没有损失历史、义务、标准以及关于哪些控制措施有效的证据，保险公司就无法理性定价新型AI风险；针对险些发生事故的责任制度，则可能打击报告和红队测试。认证机构补上缺失的风险结构后，保险可以成为强有力的配套激励，但不应由保险公司决定社会可接受的生物武器风险或系统性金融风险。
这一模式并不声称能够解决灾难性外部性，因为事后赔偿在这类情形下可能毫无意义。 生物武器、市场崩溃，或严重到让人觉得“遵守了一些规则又有什么用”的伤害，可能需要单独的事前限制和明确豁免。Hadfield最后的呼吁很务实：社会需要“新监管路径的MVP”，因为静态规则制定仍然“在起跑线上系着鞋带”。

精读

1. 19世纪机构无法按照AI的时钟监管

Hadfield将这套方案追溯到她数十年来对司法可及性的研究，以及从2000年代中期开始对法律体系如何应对技术和全球化的观察。主要为19世纪设计的制度，已经无法匹配这样一个产品快速变化、技术高度复杂且跨司法辖区分布的世界；AI只是“把这一切再提升了几个层级”。
她反对自上而下监管，首先是因为信息问题，而不是意识形态问题。立法机构、法院和监管部门的运行速度慢于前沿工程师，而法律和司法判决越来越长、越来越难以重新审视：“齿轮里塞进了太多沙子。”
Freedman在Colorado推进大麻合法化的经历，提供了执行层面的教训。即便是更简单的落地过程，也一再遭遇意外——他举的例子是食用型大麻产品——而当监管者能够迭代修订规则时，效果最好；期待今天写下的AI护栏“即使6个月后仍然合理，是错误的”。

2. 监管是市场基础设施，而不是市场的对立面

Nathan回忆起那句名言：市场既不是自由的，也不是不自由的；市场有规则，只是有些规则更好。Hadfield把它视为“一贯的主线”：合同、产权、反欺诈、反垄断以及可靠的执法，会让参与者有信心投资，而不是仅仅拖累商业活动。
她对经济学和法律的理解，来自对后苏联转型的观察：在合同和产权制度薄弱的地方，移除国家控制并不会自动带来繁荣市场。“不存在所谓自由市场”——只有建立在不同法律基础上的、更健康或不那么健康的市场。

3. 政府设定结果，专业机构发现控制手段

这套分工保留了社会风险容忍度上的民主权威。政府可以要求自动驾驶汽车的表现优于人类驾驶员，或要求AI系统不得实质性提升生物武器能力；私人专业机构则负责确定实现这些结果所需的测试、数据审查、监测和技术实践。
Hadfield将其与规定式污染监管进行对比：政府可以强制安装某种烟囱净化器，把一种技术冻结进法律；也可以规定烟囱顶部允许的污染水平，让工厂自行寻找更便宜、更好的方法。监管市场则进一步延伸这种基于结果的逻辑，设立专门发现这些方法的独立机构。
政府只有在“监管服务提供商”证明其方案能够实现公共结果后，才会批准这些机构。目标公司可以在获批提供商中进行选择，而提供商的业务领域可以严格限定为自动驾驶汽车、聊天机器人、陪伴型AI，或其他需要不同专业能力的应用。
Hadfield构建的理论模型，会强制要求企业购买获批监管机构的服务。眼下的问题是供给：当提供商市场几乎尚不存在时，社会不可能明天就要求所有相关公司聘用获批提供商，因此第一项政策任务，是吸引金融资本和人才投入这一市场的建设。

4. SB 813利用责任激励启动缺失的市场

Freedman称SB 813是目前这套方案最完整的落地形式，同时强调它“需要相当多的修改”。担心风险的开发者、部署者或应用提供商，可以自愿聘请获批认证机构，执行其规范，并寻求证据证明自己达到了公认的最佳实践。
认证不会成为永久性的声誉漂白。提供商需要带着结果证据回到California：经过认证的汽车应当事故更少，经过认证的聊天机器人涉及青少年的有害事件应当更少；每家提供商还应证明，相比未认证基准和竞争认证机构，自己的结果确实有所改善。
商业激励来自法律：即便伤害已经发生，合规也可以支持认定公司履行了对公众的注意义务。Freedman认为“责任护盾”一词力度过强；眼下的目标是提供足够保护，让公司重视监督，并帮助一个可持续的提供商行业形成。

5. 现有机构提供组成部分，但没有完整设计

Freedman最接近的类比是Underwriters Laboratories。它诞生于19世纪末某次世界博览会前后，最初是为了以独立专业能力防止电气展品烧毁整个展会，后来扩展到消费品；大约100年后，UL标准开始直接写入法律。AI没有“100年”重复这条自然演进路径。
Hadfield提到ISO以及其他制定高度技术化要求的非营利标准组织。市场可能自愿采用它们的标准，因为认证标识本身具有价值；政府也可以通过引用将这些标准纳入监管，例如要求受监管设备遵循外部组织的技术规范。
医疗器械监管更接近这一模式：大约5个国家组成的联盟允许各国选择自己的质量标准——美国采用FDA标准，加拿大采用ISO标准——同时维持获批的私人认证机构。一次授权审计，就可能允许一款器械在参与国之间销售。
证券监管同样起源于私人交易所自行制定披露规则，之后才与政府体系融合。FINRA仍是一个由SEC监督规则的私人会员组织。这套方案作为完整系统具有创新性，但公私协同的标准制定、认证和监督已经“走到了门口”。

6. 认证会改变侵权证据规则，而不是关闭法院大门

AI责任仍处于极度不确定状态。技术历来在很大程度上免受侵权索赔影响，但Freedman预计，代理型AI——软件“作为世界中的一个行动者”——会让开发者、部署者、应用以及技术栈的其他环节承担科技公司此前从未面对过的义务。他援引Character.AI诉讼成功挺过驳回动议，认为这是早期信号。
SB 813目前考虑的是关于注意义务的可反驳推定。认证可以成为被告不存在过失的重要证据，但原告仍可提交证据，证明公司忽视了要求，或未采取其他合理预防措施。
Hadfield以法学教授的方式给出直接答案：“你总是可以起诉”，尤其是在侵权法领域。遵守汽车或FDA要求通常不会阻止索赔；法院会在判断行为是否合理时，将合规情况纳入权衡。疫苗和9·11受害者赔偿基金，是将诉讼限制与替代性赔偿结合起来的特殊模式，而不是她所理解的这套方案要创建的制度。
更深层的变化在于时间点。系统不再等待伤害发生、昂贵的证据开示，以及有能力承担诉讼的原告，而是试图通过持续的独立监督，在部署前明确合理预防措施。Freedman的“真正北极星”不是保留最多数量的诉讼，而是让“更少的人受到伤害”。

7. 用可衡量结果替代合规打勾

Freedman预计，静态强制要求最终会变成合规部门的底线任务：每个框都打勾，同时让律师远离业务部门。一个可信的独立标准，如果能够在竞争者之间统一适用并持续修订，就会变成运营团队必须争取的“金环”，而不是又一份证明技术合规的文件。
有些结果可以找到清晰的人类基准。Nathan提到Waymo和Swiss Re对比人类驾驶与自动驾驶事故和伤害的图表；认证机构可以围绕可证明的安全提升展开竞争。其他领域则需要专家进行定性判断，尤其是在没有事故系统，或第一次失败本身就不可接受的情况下。
企业采用会在正式责任之外创造自下而上的需求。一家企业可能拒绝接入客服聊天机器人，因为幻觉式承诺会伤害客户，或错误描述其销售内容。市场可以“嗅出”这些采用障碍，并将监管投资导向董事会风险分类遗漏的领域。

8. 信用评级被俘获，揭示认证所需的护栏

Nathan最尖锐的挑战来自他亲历信用评级机构接近按揭危机的过程：在他的描述中，所谓独立判断在产品越来越复杂的过程中被俘获。AI“异类产品的大爆发”，可能在开发者简单寻找最容易通过的认证机构时，重演类似的选择机制。
Hadfield强调的区别在于结构。政府创造了对信用评级的需求，却让评级机构免于为其判断承担责任，也没有对其工作是否实现公共结果进行相应监督。监管市场则把监督提供商——而不是被动认可其标签——确立为政府的核心职责。
如果一家提供商声称能够提供行业领先的保护，防止让只受过高中化学教育的人获得制造生物武器的能力，它就必须拿出证据。表现下滑时，政府可以撤销批准；竞争者则可以通过证明另一家提供商试图“蒙骗你”而获利。只有当牌照真正有约束力时，竞争才会提供信息。
Hadfield补充了财务压力测试：提供商不应由其审查的实验室提供初始资金或控制，并且必须能够拒绝大客户而不至于倒闭。如果一家机构必须认证5个申请者中的4个才能生存，“我们最终一定会想办法认证5个实验室中的4个”，无论真实安全水平如何。

9. 灾难性外部性需要不同的第一道防线

Freedman用大流行规模的伤害揭示侵权法的局限：如果“全球死亡人数超过1000万”，事后再去实验室寻求赔偿，并不是有意义的治理回应。同样，生物武器事件或系统性崩溃可能严重到让认证记录和补偿性责任都无关紧要。
Freedman支持在SB 813中加入修正案，排除“严重到不应属于这一范围”的伤害。监管市场可以先管理可处理的领域，通过经验逐渐成熟，并与硬性禁令或其他控制措施并存，以应对第一次事故就无法容忍的情况。
Hadfield反复强调，这套方案只是“工具箱中的一件工具”。AI“不是一个东西”，也不是汽车或药品那样的单一产品，而是一项通用技术，正在进入医疗、教育、司法、物流、城市管理、金融、陪伴和武器等领域。因此，社会不可能存在某个单一时刻，能够称作“已经监管了AI”。

10. 最终的逐顶竞争依赖有能力的国家治理

Nathan的现实主义判断是：即使前沿开发者比合理可想的替代方案更负责任，他们通常仍会偏好成本最低的获批选项。如果提供商在被选中时获得报酬，宽松就可能赢得市场份额；如果California的总检察长控制批准和监督，那么一个分心、资源不足、受到游说或意识形态不同的政府，就可能削弱整个市场。
Hadfield认为，SB 813可能需要一个具备相关专业能力的委员会，而不是把工作集中在一个办公室。提供商需要经历“敬畏时刻”：针对规则被扭曲的投诉必须触发有资金支持的调查，而认证权也必须能够迅速消失。
跨州以及最终的国际互认，可以建立有用的冗余。如果一个司法辖区撤销某家提供商的牌照，这一事件应当促使其他所有批准机构展开调查，从而在某个政府忽视证据或改变方向时，限制损害范围。
但Hadfield也承认，“总有某个地方会变成乌龟一层层往下套”。如果官员不再关心执法，任何监管架构都会失效。她的比较性判断更克制：竞争提供商之间透明的表现数据，会让治理失职更容易暴露；在另一种制度下，法律规定的上限可能悄无声息地变成合规底线。

11. 私人监管者可以刺穿AI实验室的信息墙

Hadfield接受Nathan关于“共和国需要美德”的表述，并补充道：“它们也需要可见性。”或许这是第一次，一项影响极其重大的通用技术几乎完全在企业内部开发，外面环绕着一个“法律创造的虚构环”，在这个环里，内部信息除非由公司或政府披露，否则始终属于私人信息。
她主张的国家并不是规模更小，而是肌肉用法不同。政府不必试图详细监控每个实验室的实践，而应专门监督不同领域的提供商——自动驾驶、陪伴型AI、生物风险或金融稳定——并要求它们证明自身方法能够实现民主选定的结果。
私人合同关系可能比政府直接索取信息解锁更细致的信息，因为企业经常在可执行的知识产权保护下，于合资项目中共享机密技术。认证机构可以要求检查所需的信息；政府随后可以要求提供商提交其方法、发现和结果证据，而不必吸收实验室的每一项专有数据。

12. 按比例设计的认证可以为小型科技公司提供信任通道

Nathan转述A16Z政策负责人Matt Perault的担忧：高负担标准可能只有 incumbents 承担得起，让大科技公司获得责任优势，而初创企业面临更差的法律处境、更难筹资，以及更弱的竞争能力。Freedman拒绝接受把这种集中视为不可避免的代价。
他的替代方案，是一条按实际暴露风险分级的专业通道。为受限应用服务的10人开发团队，其最佳实践应当不同于进入10,000辆汽车、需要识别交通标志或“街上一个小女孩掉下的球”的软件。私人提供商可以比法定FLOPs或规模门槛更快地更新这种分层。
无监管环境本身已经偏向 incumbents。一家小型金融科技供应商可能没有可信方式说服银行相信其新系统可靠，而大型供应商可以负担大规模内部测试和外部保障。因此，一个获认可且与规模相称的认证标志，可能成为共享基础设施，让小型供应商也能向重视风险的企业销售。
Hadfield认为差异化是市场的核心属性：专注于小型科技公司的投资者，可以为其所需的监管基础设施提供融资。她针对的正是今天这种昂贵、流程密集的制度，以GDPR为例：它增加初创企业负担，却没有证明日志和规定流程能够带来预期保护。“我们不需要纸面上的更多文字。”

13. 险些发生事故的责任可能补充认证，但也可能惩罚发现风险

Nathan介绍了法学教授Gabriel Weil的方案，同时提醒说自己的概括可能不完整：如果灾难性伤害没有发生只是因为开发者走运，就应将责任扩大到对过失性险些事故的追责。他起初将扩大责任范围与SB 813的保护视为相反方向。
Hadfield认为侵权法有助于法律自下而上演进，但怀疑它是否应成为抵御灾难的主要防线。社会不会等到核设施失效或药物造成伤害后才设定要求；生物风险和系统性金融风险——市场崩溃、交易失败或类似挤兑的事件——同样需要事前监督，而诉讼可以保留为后备手段。
Freedman指出了一个反常激励：针对已被发现的险些事故追责，可能鼓励企业回避红队测试、把知识分散在各个孤岛中，并确保没有人看到完整的风险图景。Nathan随后修正了自己的框架——责任范围可以扩大，同时由认证保护那些主动合规并降低危害的企业，因此两种方法可能形成互补。

14. 在AI风险结构不存在的情况下，保险无法完成定价

Nathan提出的保险替代方案简单而有吸引力：像社会要求驾驶保险一样要求AI投保，让保险公司把每种风险都换算成美元尺度，并依赖直接承担财务风险的机构要求适当审计。庞大的AI市场应当足以激励保险公司发展所需专业能力。
Freedman的回答是，这个论证“挥了一下魔法棒”。保险公司无法理性定价那些无法识别、无法与可靠损失概率建立联系，或无法通过已验证控制措施缓释的风险。它们可能给出天价保费、普遍要求自保，或做出并不比其他人更好的猜测；这些做法都无法创造缺失的知识基础。
Hadfield强调，汽车、建筑和制药保险公司，是在密集的诉讼、安全规范、监管以及历史证据背景下定价的。即使所谓规模巨大的AI保险市场，也依赖明确的义务：“什么东西的风险？”责任保险需要法院施加标准，而合规保险则需要政府监管。
但一旦监管技术形成，保险仍可以奖励采用。Hadfield以Armilla为例：她认为Armilla可能通过Lloyd’s of London或其他保险公司达成了一项安排，使用指定控制措施即可获得保险保障。但保险公司不应成为社会未经选举的AI监管者；对于文明级别的损失，它们甚至可能理性地选择承保，因为事件发生后，可能已经没有任何能够收取赔偿的人存在。

15. 治理需要MVP，而不是完美蓝图

Fathom并没有把自己定位成未来监管者、以此寻求股权回报。Freedman称，这是一个由慈善资金支持的非营利组织，正在寻找概念验证和真实部署，以暴露这一模式的“棱角”；Hadfield表示，该项目正在向技术合作伙伴提供小额资助，以展示可信实践。
Nathan看重这一框架持续进入和重新评估的能力，这实际上是对那些门槛几乎立即过时的法律的替代。新的提供商、方法和证据，可以改变批准所需的条件，让这一结构比固定的AI流程清单更有机会长期适应。
Hadfield最后的呼吁，是带着制度谦逊感的紧迫行动：“我们需要新监管路径的MVP。”市场可以吸收多元知识，但必须置于政府监督之下；民主制度必须设定可接受的风险。AI正在加速，而监管还在“起跑线上系着鞋带”；当务之急是启动、观察、修订并继续建设。

44.对话极越闪崩背后供应商：欲望、去向和公共信任危机第147期｜2025年7月11日