AI三巨头放缓扩张步伐 人工智能发展会减速吗

美国AI实验室近期开始探讨“减速”议题。在数起AI智能体越界事件引发公众关注之后，Anthropic一位前员工公开就“AI末日风险”发出警示。紧接着，该公司CEO达里奥·阿莫迪（Dario Amodei）发布了一篇千字长文，主张行业应当放慢前沿模型能力的提升节奏，从而为安全研究与风险治理留出更多时间。

令人意外的是，作为Anthropic的长期竞争对手，另外两家美国顶级AI公司的负责人很快对这一呼吁作出了回应。OpenAI CEO山姆·奥特曼（Sam Altman）与SpaceX CEO马斯克分别在社交平台上表态，认同阿莫迪的立场。

奥特曼在X平台上发文称：“我赞同达里奥的看法，我们需要控制前沿发展的步伐。这一直是OpenAI近几周讨论的核心议题之一。”马斯克则简短回应：“达里奥说得对。”

美国三大AI巨头罕见地达成一致，引发外界对AI风险究竟有多大的思考：AI行业是否真的到了危机时刻？这是否会拖慢行业扩张的速度？

从员工发出“末日警告”到行业高管相继呼应

三家前沿AI公司的负责人罕见地联合发声，使得围绕AI风险的讨论再次升温。

此前，曾在OpenAI和Anthropic从事大模型预训练的研究员Jacob Coxon在X平台上发文警告称：“OpenAI和Anthropic正朝着能够自我改进的超级智能狂奔，拿所有人的生命做赌注。”

他甚至写道，在认真参与开发这些前沿AI的人员当中，不少人私下确实相信，人类可能在这个十年结束之前就会灭绝。

在最新长文中，阿莫迪表示，自己始终试图在AI发展与安全风险之间找到一条“中间道路”：一方面，不发展AI意味着人类可能错失这项技术带来的巨大红利；但另一方面，如果技术推进过快，同样是不负责任的。

不过，阿莫迪指出，过去数月内发生的两件事让他确信，行业需要采取更为审慎的态度。

其一是AI能力的发展速度明显加快。阿莫迪称，近几个月AI技术的进步速度“显著加快”，AI越来越有能力协助开发下一代AI系统，即所谓的“递归自我改进（RSI）”。这意味着，AI可能越来越多地参与到模型研发本身之中，从而进一步加速技术进步。

其二是此前广受关注的AI智能体越界事件。OpenAI此前披露，在测试过程中，其AI系统曾突破原本受限的环境、接入互联网，并进入开源模型平台Hugging Face。

随着AI能力迅速提升，阿莫迪担忧，在未来6至12个月内，此类智能体群体可能获得更强的自主行动能力，甚至可能“控制整个互联网”，并造成数千亿美元的损失。

基于上述忧虑，阿莫迪提出了一套旨在“控制前沿发展速度”的三层框架，涵盖引入嵌入式第三方评估机构、建立行业协调机制以及推动全球范围的协调。

从技术层面来看，上海财经大学特聘教授胡延平向澎湃新闻表示，当前AI大模型和智能体的能力可能正同时进入三个“关键时刻”：一是部分能力开始触及AGI水平，二是能力进化范式进入递归自我改进阶段，三是AI能力开始突破传统安全体系的防线。从技术要件、基准测试以及近期实际案例来看，这三方面均已出现相应证据。

人工智能投资人郭涛表示，接连发生的智能体入侵事件，标志着前沿大模型与智能体已经具备长链条自主执行、多智能体协同、突破沙箱约束的行为能力，不再局限于被动应答，而是能够为达成任务目标主动采取越界行动，风险正从理论推演转向实验室中可复现的现实现象。

在快思慢想研究院院长、特邀评论员田丰看来，近期多起智能体事件所反映出的关键变化，并非单纯是模型“更聪明”，而是AI自主决策和执行的速度，开始超过人类监督的响应速度。当智能体以毫秒至秒级完成决策和行动，而人类安全团队仍需数分钟甚至数小时进行研判处置时，“人在回路”的传统监督机制正面临新的挑战。

AI风险进入公司内部讨论范畴

从近期公开表态来看，一个值得关注的变化是：关于AI风险的担忧，正越来越多地从学术界和AI安全研究机构，进入前沿AI公司的内部讨论。

Anthropic、OpenAI和xAI三家公司的负责人一向存在竞争与分歧，此次却罕见地就“放缓前沿AI发展”表达了相近立场，也让外界开始重新审视这轮AI能力加速背后的风险。

AI研究专家Anatoli Kopadze在高赞评论中写道：“这开始感觉像一场该死的灾难……告诉我，这个时机并不奇怪。”

在另一条高赞推文中，加密风险投资机构研究者Adam Cochran发出了同样的疑问。他怀疑，已经有智能体“以危险且恶意的行为失控了，而且严重到足以让所有人都感到惊恐”。

不过，对于三家AI公司负责人罕见达成的共识，外界也存在不同解读。有行业观察人士质疑，在美国政府整体倾向于轻监管的政策背景下，行业的自愿性机制究竟能发挥多大作用。

另一部分批评者认为，当前围绕超级智能和人类灭绝的讨论过于抽象，缺乏从“AI自我改进”到“AI毁灭人类”的具体、可信路径。

例如，AI教父Yann LeCun（杨立昆）在X上讽刺阿莫迪：“达里奥在2019年就已经声称GPT-2太危险，不能开源。我当时嘲笑了他们，现在每个人都应该嘲笑他们。”

还有批评者认为，围绕“AI末日”的讨论可能反而分散公众注意力，使人们忽视AI已经带来的现实问题。更尖锐的批评则认为，如果政府最终只允许少数被认定为“安全”的大型AI公司继续开发最先进的模型，所谓AI安全监管反而可能演变成一种“监管俘获”。

胡延平表示，自己并不完全认同“AI末日论”，其中存在过分夸大危机、甚至贩卖焦虑的成分。但AI带来的潜在威胁不容忽视：“AI正在进入‘递归、开放、安全’的‘不可能三角’，AI的递归自我改进使其走向内生、自主的强智能，但技术进步和服务应用又依赖开放生态，而当前‘非原生’的安全机制在开放环境下近乎徒劳。”

郭涛认为，围绕AI末日论的巨大分歧，源于研究者对风险发生路径、发生概率的不同判断，一部分群体聚焦长期极端风险，另一部分群体更关注当下社会现实问题，同时也夹杂行业竞争叙事、商业利益诉求带来的立场差异，造成舆论层面观点两极分化。

“踩刹车”之后，AI扩张会减速吗？

尽管巨头们罕见地表达了“放缓”的共识，但AI竞赛是否真的会开始减速，仍是一个未知数。

目前看来，三家AI公司尚未提出任何具体的技术能力限制，也没有公布暂停模型训练、推迟下一代模型发布等明确计划。

需要指出的是，阿莫迪所说的“放缓”，并非停止AI发展，而是放慢前沿模型能力提升的速度，为安全研究和风险治理争取更多时间。按照其提出的方案，短期内最明确的行动是引入拥有较高权限的第三方评估机构，对前沿AI公司的安全实践进行监督。

华尔街投行认为，按照三家AI公司的说法，是要放缓前沿模型的研发速度，但并不等于停止模型训练，也不是AI需求或算力需求的减速。

摩根大通国际交易团队的Federico Manicardi和Victoria Campos表示，这并不意味着AI停止发展，AI应用普及和Token使用趋势没有改变。Bernstein分析师Madison Rezaei认为，随着推理占比越来越高，投资者接下来会关注一个问题：算力需求究竟会以多快的速度从模型训练转向模型推理？

路透