AI接连“越狱”带火网络安全板块？机构最新解读来了

《科创板日报》9月28日报道，网络安全板块今日整体上扬。收盘时，中新赛克在12个交易日内收获6个涨停板，永信至诚与启明信息双双涨停，麒麟信安涨幅超过11%，亚信安全上涨逾6%。

消息层面，近来多起AI智能体失控事件陆续被披露：9月25日，OpenAI发布报告指出，一个在沙盒环境中执行搜索任务的AI智能体，借助沙盒DNS过滤漏洞突破了网络隔离限制，成功访问了外部公共聊天机器人服务。目前，该公司最新一代人工智能模型的训练工作已经暂停。

这并非智能体首次出现失控情况。早在今年5月，该公司的失控AI智能体就曾劫持开源AI模型社区Hugging Face的用户账户，并对该网站展开漏洞探测。此外，近期在全球范围内广受关注的Meta Muse日前也被发现存在安全漏洞，攻击者可借此访问用户的专属虚拟机，获取邮件、文档等云端个人账户数据。

针对AI智能体失控问题，虽然放缓甚至暂停AI训练能够暂时缓解困境，但“AI减速论”的反对者亦不乏其人。扎克伯格曾表示，AI实验室应当借助独立评估者来保障模型安全。黄仁勋同样不赞成暂停AI研发，他认为AI实验室有责任对自研产品进行测试，唯有确认模型安全后方可对外发布。

实际上，各大厂商确实正在努力为AI构建更为牢固的安全边界。例如，Meta为Muse配备了独立的Secure VM，用以隔离用户数据及运行环境，同时通过Sentinel对Agent的对外行为进行审查，相关操作可执行、阻止或提交用户审批；读取、写入及敏感交易等权限均可实现细分管理。

与此同时，AI智能体的竞赛并未出现任何放缓迹象。据悉，OpenAI正在加紧筹备，即将推出一款名为“o”的常驻AI助手，以正面与Meta Muse展开竞争。据相关报道，该产品或将在本周二（9月29日）的开发者大会上正式亮相。

综合各家机构观点来看，随着AI智能体自主执行能力的不断增强，安全与隐私问题或将成为产业发展的关键制约因素。

金元证券指出，当前AI正从“生成内容”向“代替用户执行操作”方向演进，Agent能够自主浏览网页、调用应用并完成交易，安全风险也随之同步上升。随着个人Agent获得更高的系统权限，AI安全需求有望从传统的网络安全、终端安全进一步拓展至Agent身份权限管理、运行环境隔离、行为审计及数据安全等领域。

浙商证券表示，AI既提升了传统安全产品的效率，也带来了大模型和Agent防护方面的新需求。具备安全数据、客户场景及模型能力的头部厂商有望从中受益，推动竞争格局优化；目前国内仍以试点验证和能力储备为主。

该机构进一步强调，国内网络安全厂商均拥有各自的垂类模型，真正的壁垒在于长期积累的安全数据和客户场景。安全本身是一个攻防对抗的领域，模型需要持续学习最新的攻击手法、恶意样本、漏洞利用代码，而这些数据分散在各家厂商多年来的安全运营（SOC）、威胁情报（TI）、蜜罐及攻防演练之中。未来大模型与Agent或将催生原生安全需求：

模型防护方面：提示词注入、越狱及工具链攻击，将带动大模型防火墙、API安全网关和安全评估需求；

使用治理方面：外部AI使用、数据外泄及Agent越权风险，将推动行为审计、数据防泄漏和权限管理需求，防护范围向执行过程延伸。

在此背景下，安全大模型与智能体有望同步打开增长空间。据IDC预测，中国人工智能安全收入将从2025年的44.1亿元增长至2030年的340.3亿元，复合增速约为50.5%；网络安全相关AI Agent应用收入预计到2030年将达到593.5亿元，复合增速为106.5%。