加州拟加强AI监管 纽森推动先进模型引入紧急关闭机制

美国加利福尼亚州州长加文·纽森于周五签署了一项行政命令，目的是应对人工智能技术发展可能引发的潜在风险，并研究一系列监管措施，其中包括要求AI企业为最先进模型设置“紧急关闭开关”。这项行政令的出台，恰逢纽森本周早些时候表态称，他正在考虑就AI安全问题采取进一步行动，比如可能召开特别立法会议，以回应近期AI研究人员关于该技术可能对人类造成“生存风险”的警告。

纽森提到，他采取行政行动的另一个背景是联邦政府迟迟没有动作。此前，美国总统特朗普曾将AI风险的担忧称作“一场骗局”，并声称AI唯一需要的护栏就是他这样高智商的总统。到了周五，纽森再次呼吁特朗普政府和美国国会采纳加州的AI监管框架，或至少将加州现行法规作为联邦AI监管规则的最低标准。

纽森强调：“联邦政府在建立任何有效AI监督机制和问责体系方面完全失职，这应当让每一位美国人感到警惕，尤其是在AI企业首席执行官们自己都在呼吁监管的情况下。”他进一步表示：“我们不会坐等事态发展，我们将加快推进建立实质性且负责任的AI监管体系，不能等到一切为时已晚。我们会以审慎的方式推进，但也必须保持紧迫速度，因为其中的风险太高，不能继续等待或拖延。”

纽森签署的这项行政命令将推动加快落实本月通过的两项加州法案——SB 813和AB 1405。这两项法案涉及规范外部机构如何对AI程序进行安全评估。此外，该行政令还将召集专家团队，并要求其在两个月内向加州提交一份指导方案，研究如何进一步强化现有AI安全和网络安全法律。

专家组将考虑的一项方案是，更新相关法案中对“关键安全事件”的定义，将模型失控等情况纳入监管范围。例如，OpenAI的一款模型曾被曝入侵Hugging Face平台的事件，就可能被纳入此类安全事件。另一项讨论中的措施是针对前沿AI模型推出“紧急关闭开关”的强制要求。类似提案此前曾在美国国会提出，但已在参议院层面受阻。不过，科技行业仍有部分人士反对设置“关闭开关”，认为从技术角度而言，这一方案并不可行。

人工智能公司Anthropic首席执行官Dario Amodei此前曾因担忧AI带来的生存风险，呼吁放缓AI发展。他周一表示，虽然“关闭开关”可能是一个好主意，但它并不是解决问题的“万能方案”。据悉，纽森的加州州长任期将于2027年1月4日结束，目前他尚未正式宣布参加总统竞选，但此前曾表示正在考虑这一可能性。