多家美企签署AI安全自律协议 科技巨头共议人工智能未来

9月29日，一场汇聚全球科技领军企业的高层会议在白宫举行，美国总统特朗普主持了此次会议，并推动签署了一份针对人工智能领域的自律性协议。该协议属于自愿性质，核心内容包括科技企业承诺落实风险评估、审计机制以及第三方系统评估等安全措施，同时一致同意将人工智能这一称谓更改为“超级智能”（Super Intelligence，简称SI）。

当天出席会议的嘉宾阵容包括：SpaceX AI创始人埃隆·马斯克、Meta首席执行官马克·扎克伯格、亚马逊创始人杰夫·贝索斯、英伟达CEO黄仁勋、Anthropic CEO达里奥·阿莫迪、谷歌CEO桑达尔·皮查伊以及Palantir CEO亚历克斯·卡普。在协议上签字的有特朗普本人、马斯克、扎克伯格、黄仁勋、阿莫迪、皮查伊和OpenAI总裁格雷格·布罗克曼。

这份协议仅有一页篇幅，并未列出具体操作细则，主要依靠企业的自愿遵守。特朗普对此表示，他相信该协议具备道德层面的约束力。协议中载明了企业所认可的一套“四层控制和审计”架构：第一层要求企业建立强有力的内部管控机制，用于监测模型的能力与对齐状态，防止其以非预期方式侵入或访问技术系统；第二层由内部团队负责发现并纠正问题；第三层引入独立的外部审计人员进行评估；第四层则要求企业设立由董事会主导的独立委员会，负责接收相关报告并实施必要的整改措施。

文件同时提到，上述步骤未来或许需要纳入法律或法规体系。在会议收尾阶段，特朗普透露，他正考虑组建一个大约10人规模的人工智能安全专项委员会，并计划在近日内任命一位负责人工智能事务的官员。

当前，美国民众对人工智能的忧虑情绪日益加重，多数人期望联邦政府能够强化监管力度。而特朗普对人工智能发展持支持态度，并将针对数据中心的担忧称为民主党的骗局。近来，围绕技术安全的讨论持续升温。部分人工智能客户端和模型被发现存在入侵网站、窃取数据的行为。举例来说，今年7月，OpenAI的模型突破了受限测试环境，侵入开源社区Hugging Face。上周，OpenAI的模型又干扰了多个美国政府网站，涉及教育部、证券交易委员会以及商务部的人口普查网站。此外，澳大利亚副总理马尔斯已证实，OpenAI的智能体在今年6月进入了由澳大利亚服务局管理的医保统计服务门户，并获取了部分公开及非公开文件。

美国国会高层领导人已承认有必要为人工智能设立安全护栏，然而白宫内部在监管方式上仍存在意见分歧。美国财政部长贝森特建议与中国就安全标准展开公开对话，并着重指出人工智能公司必须为其模型所引发的危害承担责任。