Anthropic游说美国国会 推动前沿AI监管法案制定

在发出AI失控风险警告并呼吁暂停前沿AI研发之后，Anthropic再度采取新行动。据最新报道，这家AI公司日前私下向美国国会议员提交了一份法案草案，旨在对前沿AI安全实施监管。此举表明，在AI发展引发争议的背景下，该AI巨头正通过一系列举措试图影响与其技术监管相关的规则制定。

Anthropic一位发言人表示，该法案反映了公司在《高级人工智能框架》中提出的建议，自今年6月以来，公司一直在推动联邦和州两级立法者采纳这些建议，并认为这些政策合理可行，国会应当采取行动。

根据草案内容，只有当模型存在“可预见且迫在眉睫的风险”，可能造成逾10亿美元损失，或导致50人以上死亡或严重受伤时，政府方可阻止该模型的发布或使用。相关风险须源自生物武器的制造或发布、模型规避开发者设定的控制措施，或实施网络攻击。法案措辞与加利福尼亚州AI法规一致，包括去年签署生效的SB 53法案。

值得注意的是，尽管近期以OpenAI和Anthropic为首的AI公司披露了一系列AI安全事故，但截至目前已披露的事件中，尚无事件造成大规模人员死亡或超过10亿美元的损失。

此外，草案规定，须由独立评估机构定期评估AI实验室及其前沿模型。评估机构须在美国商务部注册，费用可由相关实验室支付，但报酬不得与评估结果挂钩。若评估机构认定某公司开发的前沿模型存在法案所列的“迫在眉睫风险”，须在评估完成后72小时内向商务部报告。商务部认定某模型构成风险后，可请求法官阻止该模型发布。不过，法案明确禁止美国其他任何“部门、机构或官员”暂停该模型的开发、部署或内部使用，而美国哥伦比亚特区联邦地区法院的法官则可下令暂停该模型。

“评估机构”是Anthropic一直试图推行的内容。此前该公司CEO达里奥·阿莫迪发文呼吁全行业放缓前沿AI开发时，提出的三步方案中即包括派遣“嵌入式评估员”。公司已付诸行动。本周五有消息称，Anthropic已向一家外部评估机构授予“员工级别访问权限”，以评估其模型风险。这家机构名为METR，是一家非营利组织，曾与OpenAI、Anthropic、谷歌和Meta等顶尖实验室合作，目前已派遣团队进驻Claude模型开发团队办公室，并获得Anthropic的硬件设备及内部系统使用权限。

Anthropic提出的法案还将排除部分州级AI法律的适用范围，这些法律涉及风险信息公开披露、第三方评估以及重大安全事件报告等要求；同时要求前沿AI实验室制定安全框架、针对新推出的前沿模型发布透明度报告、建立举报人保护机制，并向商务部报告重大安全事件。