AI三巨头同时放缓扩张 人工智能发展会减速吗

美国人工智能实验室近期开始探讨是否应当“踩刹车”。在接连出现多起AI智能体越界事件并引发关注之后，Anthropic一位前员工公开警告所谓的“AI末日风险”。紧接着，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）发布了一篇千字长文，呼吁整个行业放慢前沿模型能力的提升节奏，从而为安全研究与风险治理留出更多时间。

令业界颇感意外的是，作为Anthropic的长期竞争对手，另外两家美国顶级AI公司的掌门人很快对这一呼吁作出回应。OpenAI首席执行官山姆·奥特曼（Sam Altman）以及SpaceX首席执行官马斯克先后在社交媒体上表态，称他们认同阿莫迪的看法。

奥特曼在X平台上发文称：“我赞同达里奥的观点，我们需要把控前沿发展的节奏。这一直是OpenAI近几周讨论的核心议题之一。”马斯克则用一句话回应：“达里奥说得对。”

美国三大AI巨头如此罕见地达成一致，也让外界不禁追问：AI风险究竟有多大？AI行业是否真的到了危急关头？这是否会拖慢行业扩张的脚步？

从员工发出“末日警告”到行业高管纷纷呼应

三家前沿AI公司的负责人罕见地联合发声，使得围绕AI风险的讨论再次升温。

在此之前，曾在OpenAI和Anthropic先后从事大模型预训练工作的研究员Jacob Coxon在X平台上发文警告说：“OpenAI和Anthropic正朝着能够自我改进的超级智能一路狂奔，拿所有人的生命当赌注。”

他甚至在帖文中写道，在那些认真参与开发前沿AI的人当中，不少人私下确实相信，人类有可能在这个十年结束之前走向灭绝。

在最新发表的长文中，阿莫迪表示，自己始终试图在AI发展与安全风险之间找到一条“中间道路”：一方面，如果不发展AI，人类可能错失这项技术所带来的巨大收益；但另一方面，如果技术推进得过快，同样是不负责任的做法。

不过，阿莫迪指出，过去几个月里发生的两件事让他相信，行业需要采取更为审慎的态度。

第一件事是AI能力的提升速度明显加快。阿莫迪称，近几个月AI技术的进步速度“显著加快”，AI越来越有能力协助开发下一代AI系统，也就是所谓的“递归自我改进（RSI）”。这意味着，AI可能会越来越多地参与到模型研发过程本身，从而进一步加速技术进步。

第二件事是此前引起广泛关注的AI智能体越界事件。OpenAI此前披露，在测试过程中，其AI系统曾突破原本受限的环境，连接上互联网，并进入了开源模型平台Hugging Face。

随着AI能力迅速增强，阿莫迪担心，在未来6到12个月内，这类智能体群体可能获得更强的自主行动能力，甚至可能“控制整个互联网”，并造成数千亿美元的损失。

基于这些担忧，阿莫迪提出了一套旨在“控制前沿发展速度”的三层框架，其中包括引入嵌入式第三方评估机构、建立行业协调机制以及推动全球范围的协调。

从技术层面来看，上海财经大学特聘教授胡延平向澎湃新闻表示，当前AI大模型和智能体的能力可能正同时进入三个“关键时刻”：其一，部分能力开始触及AGI水平；其二，能力进化范式进入递归自我改进阶段；其三，AI能力开始突破传统安全体系的防线。从技术要件、基准测试以及近期实际案例来看，这三个方面都已经出现了相应证据。

人工智能投资人郭涛表示，接连发生的智能体入侵事件表明，前沿大模型与智能体已经具备长链条自主执行、多智能体协同、突破沙箱约束的行为能力，不再局限于被动应答，而是能够为达成任务目标主动采取越界行动，风险正在从理论推演转变为实验室中可以复现的现实现象。

在快思慢想研究院院长、特邀评论员田丰看来，近期多起智能体事件所反映出的关键变化，并非单纯是模型“更聪明”了，而是AI自主决策和执行的速度开始超过人类监督的响应速度。当智能体以毫秒至秒级完成决策和行动，而人类安全团队仍需数分钟甚至数小时进行研判和处置时，“人在回路”的传统监督机制正面临新的挑战。

AI风险进入公司内部讨论范畴

从近期的公开表态来看，一个值得注意的变化是：关于AI风险的担忧，正越来越多地从学术界和AI安全研究机构，进入到前沿AI公司的内部讨论之中。

Anthropic、OpenAI和xAI三家公司的负责人一向存在竞争与分歧，此次却罕见地就“放缓前沿AI发展”表达了相近立场，这也让外界开始重新审视这轮AI能力加速背后所隐藏的风险。

AI研究专家Anatoli Kopadze在一则高赞评论中写道：“这开始感觉像一场该死的灾难……告诉我，这个时机并不奇怪。”

在另一条高赞推文中，加密风险投资机构研究者Adam Cochran也发出了同样的疑问。他怀疑，已经有智能体“以危险且恶意的行为失控了，而且严重到足以让所有人都感到惊恐”。

不过，对于三家AI公司负责人罕见达成的共识，外界也存在不同解读。有行业观察人士质疑，在美国政府整体倾向于轻监管的政策背景下，行业自愿性机制究竟能发挥多大作用。

另一部分批评者则认为，当前围绕超级智能和人类灭绝的讨论过于抽象，缺乏从“AI自我改进”到“AI毁灭人类”的具体、可信路径。

例如，AI教父Yann LeCun（杨立昆）在X上讽刺阿莫迪：“达里奥在2019年就已经声称GPT-2太危险，不能开源。我当时嘲笑了他们，现在每个人都应该嘲笑他们。”

还有批评者认为，围绕“AI末日”的讨论可能反而会分散公众注意力，使人们忽视AI已经带来的现实问题。更尖锐的批评则指出，如果政府最终只允许少数被认定为“安全”的大型AI公司继续开发最先进的模型，所谓的AI安全监管反而可能演变成一种“监管俘获”。

胡延平表示，自己并不完全认同“AI末日论”，其中存在过分夸大危机、甚至贩卖焦虑的成分。但AI带来的潜在威胁不容忽视：“AI正在进入‘递归、开放、安全’的‘不可能三角’，AI的递归自我改进使其走向内生、自主的强智能，但技术进步和服务应用又依赖开放生态，而当前‘非原生’的安全机制在开放环境下近乎徒劳。”

郭涛认为，围绕AI末日论的巨大分歧，源于研究者对风险发生路径和发生概率的不同判断。一部分群体聚焦长期极端风险，另一部分群体更关注当下的社会现实问题，同时还夹杂着行业竞争叙事和商业利益诉求所带来的立场差异，造成舆论层面观点两极分化。

“踩刹车”之后，AI扩张会减速吗？

尽管巨头们罕见地表达了“放缓”的共识，但AI竞赛是否真的会开始减速，仍然是一个未知数。

目前来看，三家AI公司尚未提出任何具体的技术能力限制措施，也没有公布暂停模型训练、推迟下一代模型发布等明确计划。

需要指出的是，阿莫迪所说的“放缓”，并非停止AI发展，而是放慢前沿模型能力提升的速度，为安全研究和风险治理争取更多时间。按照其提出的方案，短期内最明确的行动是引入拥有较高权限的第三方评估机构，对前沿AI公司的安全实践进行监督。

华尔街投行认为，按照三家AI公司的说法，是要放缓前沿模型的研发速度，但这并不等于停止模型训练，也不代表AI需求或算力需求会减速。

摩根大通国际交易团队的Federico Manicardi和Victoria Campos表示，这并不意味着AI停止发展，AI应用普及和Token使用趋势并未改变。Bernstein分析师Madison Rezaei认为，随着推理占比越来越高，投资者接下来会关注一个问题：算力需求究竟会以多快的速度从模型训练转向模型推理？

路透