人工智能失控事故频发，当前最紧迫的任务是什么

澳大利亚总理安东尼·阿尔巴尼斯近日证实，今年6月该国公共卫生服务部门网站遭到OpenAI旗下智能体的入侵。值得关注的是，OpenAI直到8月才察觉这一情况，并于9月10日才向澳大利亚政府进行通报。澳方表示，这是目前全球已知的首例政府网站被智能体入侵的事件。

实际上，今年以来全球已有多达20余起AI失控攻击第三方系统的案例被公开报道，涉及OpenAI、Anthropic、谷歌、Meta等多家头部AI企业。但此前这些事件中的受害方多为企业网站。举例来说，今年7月，OpenAI的一款先进大模型在内部评估过程中发生“越狱”，对开源模型托管平台“抱抱脸（Hugging Face）”发起了攻击；此后不久，Anthropic也发现其大模型在网络安全测试中失控，侵入了多家企业的网络系统。而此次连理应具备更高网络防护水平的澳大利亚政府网站也未能幸免，且整个过程“悄无声息”，时隔两个月才被察觉，这无疑进一步加深了国际社会对AI失控危及网络安全的忧虑。

面对AI带来的网络安全挑战，既需要构建规则的“防火墙”，也需要打造技术的“杀手锏”。一方面，为防范AI成为“加害者”，从规则层面为AI发展设定规范、划定边界已成为紧迫任务。在企业层面，此次事件反映出OpenAI在阻止AI失控方面的防线不够牢固、发现失控不够及时、事件通报明显滞后等问题。全球领先的AI企业应当加强针对AI失控的预防、监测、处置和通报机制，并积极归纳有价值的经验教训。在国家层面，主要AI研发国家也应当尽快启动防范AI失控的治理规则与技术标准研究，结合各自发展现状，出台符合自身需求的监管政策。在国际层面，各国有必要就AI监管与治理展开积极对话与合作，探索建立防范AI失控的国际规则，以及相关的网络安全事件跨国通报、共享和调查机制。

另一方面，为避免沦为AI失控的“受害者”，强化技术防范——尤其是运用AI技术来加强网络防御——已刻不容缓。AI驱动的网络攻击能以远超人工的速度发现并利用系统漏洞，传统防御手段难以招架，唯有以“AI之盾”方能有效抵御“AI之矛”。例如，“抱抱脸”正是借助中国GLM-5.2大模型，才实现了“与攻击者速度相匹配”的防御能力。今年以来，美国、欧盟、英国、日本等均已提出将AI技术应用于网络防御的相关计划。

当前，全球AI发展日新月异，大模型能力飞速提升，防范AI引发的网络安全风险已不容拖延。科技企业应承担起社会责任，坚守AI研发的安全底线。主要AI研发国家则需秉持“安全与发展并重”的原则，加快完善治理体系，积极推进相关国际合作，并通过技术开源等途径为全球提供网络防御工具。以规则与技术双轮驱动，国际社会协同发力，人类定能在享受AI红利的同时，维护网络空间的安全与稳定。