AI时代安全与法治如何跟上？浙江探索新路径

AI技术飞速演进，安全与法治建设如何同步推进？21世纪经济报道记者了解到，浙江正在从AI安全产业实践和人工智能立法两个方向加速布局。

近日，2026全球数贸会·西湖论剑大会在杭州召开，会议聚焦“从辅助到自主”这一核心议题，探讨AI时代的数智创新与安全跃迁。工业和信息化部信息技术发展司二级巡视员傅永宝在会上透露，2025年我国人工智能核心产业规模已超过1.2万亿元，据初步预测，今年人工智能相关产业规模将维持30%的增长速度。

傅永宝指出，安全是人工智能发展的底线和红线，必须更好地统筹发展与安全之间的关系。他提出，应加强人工智能模型在工业应用中的安全评估，推动人工智能应用实现合规、透明、可信赖。

今年政府工作报告明确提出，要打造智能经济新形态，深化拓展“人工智能+”，推动新一代智能终端和智能体加速推广。

在推动AI发展的同时兼顾安全，对法律规则提出了新的要求。9月24日，浙江大学发布了《人工智能法专家建议稿（浙大1.0版）》，提出发展与安全统筹、风险适配与敏捷治理、全生命周期治理等原则，并将“能—智—事”适配原则作为人工智能法律制度的结构基础。

AI自主化提速，安全防线亟需前置

今年以来，头部模型的安全风险引发更广泛的关注。9月28日，OpenAI宣布取消发布新一代模型GPT-6.1 Astra，原因在于该模型未能完全达到公司的安全标准。此前，OpenAI的一个智能体突破沙箱环境，入侵了多家公司，引发了对AI安全问题的广泛讨论。

在人工智能产业加速发展、智能体日益走向自主的背景下，安全治理如何实现前置？

浙江数字经济百人会执委、浙江省咨询委委员厉敏认为，AI对制造业的改造，过去是人主导、机器执行，如今则是智能体自主感知、决策和执行。浙江必须在技术落地、产业重构与安全保障之间做好统筹。

“AI越自主，安全就越重要。”厉敏表示，除了传统的网络安全攻防之外，现在还需应对智能体越权、算法决策、数据跨境、供应链安全等新型风险，安全建设必须与创新同步规划、同步推进。

第十四届全国政协委员、经济委员会委员赵泽良认为，网络安全在某种意义上是一种对抗，而对抗模式正在发生转变——从以前以人为主体，变为越来越多以Agent为主体，路径由Agent自主决策、自主执行，人机交互留给人的干预窗口越来越小。

“安全的对象已经不再是一个模型，而是‘模型+数据+Agent+工具+权限+外部环境’这一复杂系统。”赵泽良表示。

中国工程院院士吴世忠也指出，人工智能的竞争正从单一的模型能力竞争，演变为围绕算力、数据、模型、智能体、应用生态和治理规则的全系统竞争。智能时代的安全问题，呈现出自身安全与传统安全交织叠加的复杂态势。

浙江是全国唯一的数据要素和数字经济创新发展双试验区，具备在AI安全治理方面先行探索的条件。

“AI正在给安全产业带来颠覆性的变化。”西湖论剑大会主席、安恒信息董事长范渊表示，AI从辅助走向自主之后，将成为Token和算力需求最大的消费者，但AI本身也需要更多的安全防护。

安恒信息研究院院长王欣在接受21世纪经济报道记者采访时表示，AI技术革新打破了网络安全领域的攻防平衡，未来的防御体系将以AI为核心来构建。例如，安恒信息的“X安全数字员工”将为政企单位提供全天候智能防护。

“当AI整体进攻的效率和能力提升50倍到100倍时，我们实际上是在争夺宝贵的防守时间窗口。”范渊说。具体而言，一是前置式的主动网络安全防御；二是加强对AI资产的防护；三是AI自主化之后，为确保其行为可控，需要深入对智能体进行行为分析。

“最后，在整个分析、研判和响应过程中，要大幅缩短时间窗口，唯一的答案就是AI运营或响应的数字员工。”范渊说。

吴世忠认为，智能时代的博弈已经升级为“掌握了AI的人”在数字空间的较量。网络安全行业需要学习AI、拥抱AI、掌控AI，与人工智能实现双向奔赴。

AI立法，浙江加速探索

浙江是人工智能技术与产业发展的热土，法律规则如何适应技术的快速迭代？

面对人工智能立法的重点与难点，浙江大学日前发布了《人工智能法专家建议稿（浙大1.0版）》。

该建议稿总则提出了7个基本原则，包括发展与安全统筹原则、以人为本与向善普惠原则、风险适配与敏捷治理原则、全生命周期治理原则、公开透明与责任可追溯原则、物理安全与身心完整性原则、公平公正与多元共治原则。

在风险适配与敏捷治理原则方面，建议稿提出，依据人工智能系统的执行能力、认知成熟度与任务性质及其影响，实施分级分类和差异化管理，对高影响场景强化监管，对低风险场景实行灵活治理，并根据风险变化动态调整。

此外，该建议稿还持续回应人工智能技术迭代与新型治理难题，从主体界定、权责划分、伦理规范、安全监管、救济机制等方面构建完整的制度框架。

如何适应人工智能技术的快速变化？建议稿在总则中提出“适配治理基准”，即国家尊重人工智能技术发展的阶段性特征，建立以人工智能系统的执行能力、认知成熟度与任务性质及其影响为基础的人工智能治理制度。

此前，浙江大学数字法治研究院院长、敦和讲席教授孙笑侠在接受21世纪经济报道记者采访时表示，中国人工智能立法的基本价值原则是既要促进发展，也要保障安全，这也是当前各国立法面临的难点。为破解这一难题，他提出了AI全生命周期“能—智—事适配”理论，即按照AI能力、认知水平和场景复杂度开展阶段化准入与分级监管。

人工智能治理正迈入全生命周期阶段。值得注意的是，该建议稿提出了全生命周期治理原则，覆盖研发、测试、提供、部署、运行和退出等阶段，根据能力、风险和影响的变化动态调整监管强度。

据浙江大学光华法学院百人计划研究员李汶龙介绍，该建议稿将技术研发与商业落地两个全生命周期相衔接，围绕中试验证、首购订购、部署集成、更新退出等关键环节提供法律支撑。

李汶龙表示，该建议稿立足杭州创新实践，将开源生态、中小企业公平获取资源等现实情况纳入制度安排，同时回应了智能体、具身智能和脑机接口等前沿应用的治理需求，探索兼顾创新活力、权益保障与安全底线的综合性立法方案。

智能体正进一步走向自主执行任务，由此带来的法律责任和权利边界问题愈加复杂。当前智能体应用场景存在哪些法治难点？

在美团法务高级专家范雯丽看来，智能体参与合作催生了授权传递机制模糊、权责划分不清、平台生态开放边界不明等新型合规问题。立法层面应细化智能体场景化规则，压缩法律适用的模糊空间，实现法治合规与技术创新的良性互动。

一个更具体的问题是，当智能体代表用户调用第三方应用、访问相关数据或执行任务时，需要怎样的授权？

抖音集团法律研究总监刘明对两类授权的法律属性进行了区分：用户授权基于隐私权、个人信息等法定权利，严格适用“无授权不可为”原则；应用授权多涉及数据、流量等竞争性权益，需结合反不正当竞争法个案综合判定，不宜简单适用授权规则。

刘明表示，要从契合用户真实意愿、严守访问权限、维护公平竞争秩序三个层面，构建智能体行为合法性判断体系。同时，竞争政策需与产业政策、监管政策协同发力，以规范行业发展秩序、持续释放人工智能产业创新活力。

（文章来源：21世纪经济报道）

(原标题：AI时代，安全与法治如何跟上？浙江探)