摘要

《RAISE法案》或许只会覆盖个位数高段至两位数低段、资金实力最强的一批前沿AI开发商。 被覆盖的公司须发布安全计划、接受独立审计、报告重大事故并保护吹哨人；Alex Bores 表示，这些要求大体沿袭了此前的自愿承诺。他有意把诉求压到最低：“就这些要求。”
法案给予开发商广泛的测试自主权，但一旦测试显示存在造成狭义灾难性伤害的不合理风险，便禁止部署。 触发标准包括：通过化学、生物、放射性或核机制造成至少100人死亡或超过10亿美元损失，或在有限人工干预下实施能得到模型实质帮助的犯罪。Bores 承认公司“基本上是在给自己的作业打分”，但补充称，审计和法律上的合理性标准构成了兜底。
是否被覆盖取决于前沿规模开发和累计支出两项条件，因此个人项目、学术研究和普通创业公司都远在监管边界之外。 最终口头解释将大型开发商定义为：投入1亿美元训练前沿模型的公司；模型可以通过10^26-FLOP门槛加1亿美元训练支出获得资格，也可以通过至少500万美元的知识蒸馏获得资格。对话中需要多次澄清，才能区分算力门槛和支出门槛。
蒸馏路径旨在阻止资本充足的开发商通过低成本复制前沿能力，仅因没有单个模型跨过主要门槛就逃避监管。 Bores 举例称，未来类似 DeepSeek 的开发商可以通过20次符合条件、每次500万美元的蒸馏累计达到1亿美元；主持人则强调，一次显著改变行为的微调成本可能只有约25美元。由此形成的监管边界，刻意在前沿公司规模以下保留“数量级、数量级”的自由空间。
法案在形式上对开源保持中立，但 Nathan Labenz 的核心反驳是，中立不等于实际负担相同。 闭源供应商可以监控使用情况或了解客户；一旦开放权重，下游修改和滥用就更难预测或控制。Bores 的回应是，开发商应先识别哪些能力应继续受到限制，再结合由此产生的风险评估开放程度。
最重大的治理风险可能发生在实验室内部，而不是通过公开发布暴露出来。 “部署”包括内部使用，但测试、开发和评估获豁免；这会覆盖被用于AI研究运营的先进模型。不过执法力度有意偏轻：Labenz 表示，他理解重复违规的罚款上限为3000万美元；Bores 则称法案对报复行为规定的每名员工1万美元罚款“非常弱”，因此审计独立性和吹哨人保护仍是实际执行中的真风险。
纽约的立法流程为该提案提供了比“一次性通过或否决”更大的调整空间，但时间表非常紧。 Bores 表示，法案大约从7月或8月起向5至6家大型实验室征求意见，吸收了其中约80%-90%的修改要求，并必须在6月17日会期结束前通过；此后，纽约的“章节修正”程序还可以通过与州长谈判对法案进行调整。他对联邦抢先立法和中美竞赛的回应很直接：“等联邦真的做完了再来找我。”

精读

1. Bores 从技术落地转向政策设计

Bores 在科技行业工作了近10年，其中近5年任职于 Palantir：最初是数据科学家，后来负责公司政府业务的很大一部分。他还曾在创业公司工作，并取得机器学习方向的计算机科学硕士学位。
他在2022年参选的理由非常务实：“我一直处在政策的下游，经常试图用技术去修补政策。”一次开放的州众议院席位给了他转向上游的机会。他参加竞争激烈的初选并获胜，谈话时正开始第二个两年任期。
两位嘉宾都认为，愿意离开公职是治理资产。Bores 的说法是，民选官员必须“不能太眷恋这个席位或这份工作”；Labenz 则认为，对离任后生活的恐惧，可能让政治人物在公共职责要求牺牲职业生涯时无法真正做出牺牲。
他的更广泛科技议程包括推动政府采用云服务、为针对儿童性虐待材料的红队测试提供责任保护，以及鼓励采用 C2PA 来源标准。他还几乎原样照搬了加州关于雇主不得拥有员工无关发明的限制，因为他发现，业界更愿意接受熟悉的约束，而不是再面对一套不同的州级制度。

2. AI体现为潜在不安，而非选民最优先的议题

Bores 代表曼哈顿东区，选区大致横跨第34街至第93街，包括上东区、东米德敦和 Sutton Place 的部分地区。这里是纽约州最富裕、受教育程度最高的选区之一，但其中40%的租户将超过三分之一收入用于房租。
在选民调查中，AI可能排在生活成本、公共安全和学校之后。但当 Bores 提到自己的技术背景时，他经常听到类似的话：“我很害怕这件事，也不知道我们该做什么，但很高兴那里有人在思考它。”
担忧主要集中在几个熟悉方向：工作岗位被替代、隐私和监控。Bores 还以歧视为例，说明目前占据许多同僚注意力的现实伤害。纽约仍是少数没有综合性隐私法的州之一。
他的分类法使用3组二元问题：乐观还是悲观、短期还是长期、针对具体用例还是针对模型整体。大多数同僚关注隐私或歧视等当前伤害；RAISE法案则位于长期、模型整体这一象限，但这并不意味着其他象限不重要。

3. 保护劳动者，可以把AI从对手变成工具

Bores 与 Labenz 一样，对AI持“短期看多、长期有些警惕”的态度：政府、教育和服务业对现有能力的分配仍然非常不足，但进一步研究可能需要护栏。政治难点在于，如何获取这些收益，同时不把劳动者立刻推入与机器的竞争。
医疗等持证职业已经享有一定保护；娱乐行业从业者则通过罢工争取对AI参与写作、表演和导演工作的控制。民选官员受到的保护更强：正如 Bores 开玩笑说的，他们“最没有资格专注于AI造成的岗位替代”，因为法律不允许选民选一个AI。
纽约曾禁止使用AI替代政府中的个人岗位，但仍允许自动化部分任务并将员工转岗。Bores 认为，一旦劳动者知道自己的工作受到保护，讨论就可以转向如何学习使用工具：“如果把问题变成我们对机器，你不会得到对人最好的结果。”
他举的具体例子是从人工售卖 MetroCard，到自动购买 MetroCard，再到 OMNY 的转型：车站工作人员没有被裁掉，而是转到站内帮助乘客、提供人工服务。同样，聊天机器人可以从政府电话队列中处理掉常规问题，同时把人工精力留给真正需要个案处理的人。

4. 公共部门低效，为自动化创造了先于裁员的空间

Labenz 提出了更难的反事实：如果AI呼叫中心能在将员工数量和成本同时削减90%的同时改善服务，政府应该保护岗位，还是应该获取效率？Bores 认为，今天这个选择“基本上只是学术问题”，因为政府资金不足、岗位空缺，而且大量有价值的工作尚未完成。
深层机构知识也很难替代。Bores 引用《重写美国》中的一个故事：一名被认为是“新来的”失业救济申请处理员，实际上已经在这份工作上干了18年——这说明累积的系统复杂性有多么令人望而生畏，也说明自动化可能释放多少默会知识。
他的综合方案允许未来通过自然减员降低人员规模，也允许员工转入不同岗位，同时把工具交给理解公民和政府系统的人使用。公共部门眼下的机会，是让现有已获财政支持的劳动力提供更好的服务，而不是从零开始优化劳动成本。
Labenz 质疑，随着前沿进展加速，这一范式能维持多久。他称 RAISE法案至少部分是在“害怕AGI”，并怀疑这种范式能否再维持1到2年。

5. 如果AI先学会每一份新工作，再培训就失效

Labenz 提到数百万名司机——他不确定地说“400万司机，或者差不多这个数字”——并结合近期使用 Waymo 和 Tesla 的经历，认为自动驾驶“确实开始奏效”。面对这样的规模，让被替代的司机去学编程并不现实，尤其是人类是否还应该学习编程本身已经成为争议。
Bores 只是在非常强的保留语气下接受这一历史判断：技术革命创造的岗位多于摧毁的岗位，“也许”如此。技术革命之间的间隔正在缩短，削弱了过去那种“劳动者只要重新培训一次，就能在整个职业生涯中保持价值”的保证。
如果职业可以“每年、每6个月”被替代，而AI获取新技能的速度超过任何个人，重新培训就不再是答案。Bores 说：“等你为新工作完成培训，你会发现自己又处在同样的境地。”这是一个政府尚未形成稳定政策的根本问题。
全民基本收入应当纳入更广泛的讨论，但 Bores 拒绝把纽约的家庭照护者项目描述为有意设计的准UBI。向亲属支付居家照护费用，可能比养老院更符合社会利益、成本也更低；项目确实存在滥用，并因此引发预算调整，但其主要逻辑仍是提供照护和节省州政府支出。

6. RAISE法案为前沿开发确立4项承诺

Bores 的高层叙事是：开展“极其先进研究”、且后果未知的公司，应当维持基本安全协议。由于这些要求大体对应拜登政府时期作出的承诺，他认为被覆盖的公司已经接受了这些承诺的精神，很多时候也已经在实践其中相当一部分。
4项义务包括：形成书面安全计划；由独立于开发商的第三方进行审查；披露严格定义的重大安全事故；当员工或审计人员报告灾难性风险时，保护其不受报复。主持人的概括则补充了一个实际要求：安全计划应当公开且可审计。
机制针对的是商业压力压过此前判断的时刻：一家公司可能在“AGI竞赛”中落后两个月，并因此想跳过一项测试，以保护下一个季度的业绩。预先写下标准，并知道会有人检查，可以降低公司走这条捷径的动机。
Bores 的类比并不是AI像香烟，而是内部知识会产生责任。烟草公司知道癌症风险，石油公司知道气候影响；同样，如果开发商自己的计划测试显示，部署某个模型会带来重大危险，就不应发布或在运营中使用该模型。

7. 前沿级支出把创业公司和学术界排除在边界之外

Bores 估计，目前法律可能只覆盖个位数的公司，或许刚刚跨入两位数。将重点放在累计投入至少1亿美元用于符合条件训练支出的开发商身上，是有意为之：普通创业公司和个人研究者并非监管目标。
学术研究被明确豁免。Bores 的理论是，法案要应对的是商业主体绕开安全计划的激励，而学术界并不存在同样形式的激励。
最终口头描述的主要前沿模型路径，是将10^26-FLOP门槛与训练该模型投入1亿美元结合起来。对话中需要多次澄清，才能把算力门槛与支出门槛区分开。
大型开发商的定义因此是：至少训练过一个前沿模型，并累计投入1亿美元训练前沿模型的公司。这一结构很关键：单次低成本微调，或与训练无关的公司规模本身，似乎都不足以触发法案。

8. 知识蒸馏堵住资本充足者的能力套利漏洞

第二条路径允许蒸馏模型在以下情况下获得前沿资格：它从已经符合资格的前沿模型训练而来，且蒸馏支出至少达到500万美元。目的，是覆盖那些无需让小模型本身跨过主要算力和支出门槛、却能产生相当能力的模型。
因此，开发商可以通过训练一个1亿美元的主模型、进行20次符合条件的500万美元蒸馏，或两者结合，达到公司层面的1亿美元门槛。Labenz 起初对门槛的理解不同，随后漫长的澄清显示，连接这些条件的法律逻辑具有多大后果。
Bores 将其视为对未来类似 DeepSeek 的开发路径的回应。按他的说法，DeepSeek V3 不会符合资格，因为它基于 o1 训练，而 o1 本身不满足法案的前沿定义；但未来某个通过符合条件的蒸馏训练、且与纽约市场相连的版本可能符合。
Labenz 提供了反向案例：“涌现性错位”实验只用约25美元，在一个 OpenAI 模型上基于6000条不安全代码样本进行微调，就产生了显著的跨领域行为变化。Bores 的回答是，法案有意在这类实验与受覆盖的工业级蒸馏之间保留“数量级、数量级”的距离。

9. 重大伤害排除普通不良行为和边际帮助

被覆盖的结果包括：通过化学、生物、放射性或核机制造成至少100人死亡或超过10亿美元损失；或者实施刑法已经规定为犯罪、且模型在有限人工干预下完成的行为。Labenz 用“自动化犯罪”概括，Bores 表示可能会采用这个说法。
“有限人工干预”意在排除这样的人：一个意志坚定的用户持续扭曲和修改模型，直到它违反某条晦涩规则。用户只是要求模型实施非法行动，并获得代理式执行，则更接近法案针对的目标。
模型还必须提供实质性帮助。类似 Google 对核武器的概览式回答不会触发责任；真正的担忧是，模型显著提升了某人实施相关伤害的实际能力。
Labenz 强调，以下行为仍在范围之外：成瘾、让人沉浸其中的AI关系、隐私问题、监控，以及用户即使知道可能有害仍选择进行的其他行为。Bores 表示同意。法案并不是要监管人们与AI的私人关系，也不是要覆盖部署带来的每一个有争议后果。

10. 合理性标准以确定性换取持续演进能力

安全计划必须解释，为什么其中的评估足以支撑计划提出的结论。Labenz 强调了认识论难题：METR 等机构会对自己的智能体评估附加限定，因为更好的脚手架可能显著释放更多能力，因此没有人能轻易证明一个模型已经被测试到极限。
Bores 给出的“完全不能令人满意”的简短答案，是法律中既有的合理人标准。法律往往无法枚举所有充分的预防措施，尤其是在今天正确的评估体系可能在6个月、1年或2年后就过时的情况下。
起草过程中的张力是双向的：公司要求明确自身义务，同时又反对政府把快速变化的技术实践冻结下来。Bores 认为，企业对文本“过于精确”和“不够精确”的抱怨大致各半，反而说明它可能落在了一个可操作的平衡点附近。
开发商仍然可以自行选择大多数测试和阈值——“基本上让公司给自己的作业打分”。限制来自独立审查、最佳实践和合理性：一份写明“我们不关心安全”的名义计划，不会仅仅因为提前写下来就变得合法。

11. 开源中立保留选择，但不意味着风险相同

法案不规定模型必须闭源或开源。Bores 列出的选择包括：将模型留在受监控的平台上；对强大功能增加了解你的客户（KYC）控制；或发布权重以支持研究和学术分析。每种部署架构都对应不同的风险画像。
Labenz 的反驳值得保留：形式中立的法律仍可能让开源变得更困难。Meta 可以训练拒答能力并发布 Llama Guard，但一旦权重公开，就无法阻止他人删除拒答行为、丢弃安全措施或进行不可预见的修改。
Bores 的门槛问题是，是否存在某些信息或能力，无论如何都应该继续受限。如果人们接受保密制度、核武器控制，或对详细生物武器能力提供限制，那么问题就变成应当在哪里“宣布这一等级”，而不是开源是否可以完全免于风险分析。
Bores 表示，据他所知，现有发布还没有达到法定重大伤害门槛，因此法案不应限制当前行为。他也承认目标是：“我们不想关闭那个生态。”如果实施结果朝这个方向发展，立法机构可以修改法律。

12. 疫情尾部风险让简单的死亡门槛在概念上不稳定

Labenz 指出，美国道路上每天大约有100人死亡，因此在一个庞大社会中，100人同时死亡既是悲剧，规模上又很小。他随后澄清，法案针对的是由化学、生物、放射性或核能力提供，或由基础犯罪造成的死亡，而不是普通事故。
主持人用期望值重新表述问题：如果一场类似 COVID 的事件造成约1000万人死亡，那么哪怕增量概率只有十万分之一，在数学上也意味着100个预期死亡。前沿模型的理解程度还很低，以至于对这类尾部概率给出“五个9”的置信度可能根本不现实。
Labenz 预测，按照他与 Dario 和 Anthropic 相关的时间表，模型可能只需再迭代1到2代，就能实质性帮助生物武器开发。一个可能发生在2026年的冲突场景是：Llama 5 已经具备危险能力，而 Meta 还来不及提出足够有力的安全论证，来支持发布权重。
他偏好的回应是投入技术研发：也许可以删去生物学知识，也许可解释性能够揭示相关机制，也许评估可以证明的远不只是模型拒绝10个提示中的9个。Bores 更窄的主张是，公司本来就会面对这些社会风险；法案做的是让公司的预先规划变得可见且可审查。

13. 审计、事故报告和内部部署共同形成证据链

Labenz 表示，他理解重复违规的最高罚款为3000万美元，并质疑这是否足以对最大型公司形成实质威慑；他认为，即便没有强有力的后续执法，仅要求发布计划也可能保留大部分收益。Bores 回应称，现行文本已经是广泛妥协的结果，而4项要素仍然是核心。
审计机构被俘获的问题尚未解决。目前，独立评估者依赖实验室提供访问权限，可能为了不失去权限而谨慎发言；Bores 将拟议市场比作 SOC 2 审计，要求机构保持隔离并遵循最佳实践，但也承认，在没有政府许可的开放市场中，这种风险值得持续关注。
可报告事故还必须提高发生特定重大伤害的风险，例如模型出现用户未要求的自主行为。编码代理意外走了一条数据库路径，或员工忘记退出系统，都不够构成事故；而复杂国家行为体窃取危险模型资产，可能构成。
Labenz 提到了 Bing/Sydney 的例子。Bores 认为这取决于具体背景：对更强大的模型而言，错误启用安全流程之外的功能可能符合条件；但在受监控平台上的临时部署，可能并不会产生有意义的灾难性风险。他说：“当你在玩火时”，适用的标准应不同于发布一个小功能。

14. 内部模型和薄弱的吹哨人救济是最尖锐的治理边缘

“部署”包括内部使用，而不只是向客户提供。测试、开发和评估获豁免；州或联邦法律要求的用途以及特定联邦项目也获豁免；除此之外的运营性内部使用会触发法案。
Labenz 认为，这很可能成为吹哨人的断裂点：实验室可能使用防护更少的模型开展AI实验，产生一种“功能增益式的感觉”。Bores 同意，今后更多风险可能来自内部部署，这正是定义被写入内部使用的原因。
当被问及吹哨人条款有多强时，Bores 的回答是：“非常弱。”报复行为将属违法，并可能带来禁令救济、恢复工作职责，以及每次报复行为按每名员工处以1万美元罚款；但这一金额只是纽约州通行标准，与前沿实验室的资源相比微不足道。
现有吹哨人法规和判例提供了底层机制；法案将其延伸至尚未构成明确违法行为的灾难性风险。Bores 坦率承认，劳动保护整体上弱于他的期望，也无法保证制度在实践中总能让吹哨人复职。

15. 纽约试图成为州级共同标准的第一个支点

Bores 同意，联邦立法更理想，但拒绝无限期等待：“等联邦真的做完了再来找我。”他说，联邦法律本来就会取代相冲突的州法，并邀请联邦立法者直接复制这份提案。
他说，约有6个正在考虑前沿模型规则的州已经通过群聊沟通。他偏好的最终状态包括州际协定、互惠机制或直接复制法律文本；他曾在科技行业工作，因此接受一套合规标准明显优于50套彼此不同的标准。
因此，州级拼 patch 的反对意见“有一点道理”，但提出得太早，因为目前还没有任何州制定出这样的标准。Bores 的顺序是先建立第一个支点，再让后续州对齐——正如他本人关于消费者AI的工作借鉴了科罗拉多州，员工知识产权法案照搬了加州。
中国竞争始终是背景担忧，但提案不规定具体评估，也不叫停开发。它要求资金最充足的开发商记录并遵循最低治理实践，同时保留其管理模型和市场准入方式的空间。

16. 法案仍可通过快速、协作式政治流程修改

Bores 表示，在法案提出前，他接受了早期监管方案约95%的公开批评，从7月或8月起向5至6家大型实验室传阅草案，两次征求红线意见，并吸收了业界约80%-90%的反馈。“这些实验室不是敌人，”他强调；护栏只有在它们参与的情况下才最有效。
法案于3月正式公布，纽约立法会期原定于6月17日结束。它仍须通过相关委员会、州众议院和州参议院，并获得州长签署，因此剩余时间很可能成为密集谈判期。
纽约的章节修正程序提供了另一条路径：州长可以与提案发起人谈判修改内容，在年末附近签署一份以协议为条件的法案，并在下一会期推动修正案通过。这意味着6月至12月间的技术进展，或对更好前沿模型定义的共识，都可能改变最终制度。
Bores 在结尾同时强调灵活性和紧迫性：“这份法案不是我的孩子。你可以告诉我该改什么。”但支持部分监管的技术专家必须与那些有动机反对一切监管的参与者同时发声，因为“政府不是观众席，决策由到场的人做出”。

Gustav Söderström——Spotify 如何思考——[Invest Like the Best, EP.424]Sergey Brin，Google 联合创始人｜All-In 迈阿密现场