美AI巨头为何呼吁减缓AI发展 安全担忧还是商业策略

过去数年间，AI领域的竞争始终围绕着“提速”这一主题展开：模型能力不断加快迭代，算力投入持续攀升，资本也在源源不断地涌入。然而到了9月中旬，业内领先企业却开始公开探讨一个截然相反的话题——AI的发展是否已经过于迅猛。

9月12日当地时间，Anthropic首席执行官达里奥·阿莫代伊发布了一篇文章，敦促前沿AI企业减缓模型开发的步伐。OpenAI首席执行官萨姆·奥尔特曼与SpaceXAI首席执行官埃隆·马斯克也出人意料地表示了赞同。奥尔特曼更是透露，OpenAI不会于2026年进行IPO，其中包含了安全层面的考量。

三大巨头“联合”发声的背后，究竟是出于对AI失控风险的担忧，还是存在着其他“盘算”？

面对这一呼吁，有业内重量级人物提出警告：倘若AI“失控”事件被当作加强集中化管控的借口，最终可能致使AI权力更加向少数方集中。

9月14日，受AI发展减速消息的冲击，亚洲AI及半导体板块整体表现疲软。软银收跌10.72%，位列日经225指数中表现最差股票之列。铠侠盘中一度下挫9.8%，收盘时跌幅为6.37%。SK海力士下跌6.35%，三星电子下跌4.05%。

阿莫代伊之所以提出“减速”主张，根源在于他对AI能力提升速度以及自主性问题的忧虑。他在题为《我们必须放慢前沿发展》的文章中写道，近期AI的发展节奏显著加快，一个关键变化是AI已开始介入下一代AI系统的研发工作，这或许会进一步推动模型能力的提升。他担忧，随着AI代理自主性的不断增强，模型可能做出开发者预料之外的行为。

9月11日，Anthropic发布了一份威胁情报报告，指出其Claude模型已被用于武器研发、网络攻击、监控以及欺诈等用途。阿莫代伊随后在文章中提及，近期AI代理已出现攻击与任务目标无关对象、试图绕过评测机制等行为，并警告称，若类似系统的能力持续快速攀升，潜在影响可能会进一步加剧。

阿莫代伊还提出了相应的应对措施，包括：让独立第三方评估机构长期参与前沿模型的安全测试；推动民主国家的前沿AI企业统一安全标准与发展限制；进一步促进各国之间在AI安全领域的合作。他强调，“pacing”并非意味着停止模型训练或技术推进，而是为安全验证和模型对齐预留更充裕的时间。

这一主张罕见地获得了竞争对手奥尔特曼和马斯克的支持。9月12日，奥尔特曼表示认同阿莫代伊所提出的“放缓前沿模型发展”，并称OpenAI也将引入外部评估机构参与相关工作。基于安全方面的考量，奥尔特曼同日还确认，OpenAI不会在2026年进行IPO。马斯克当天也在X平台上发帖表态：“达里奥说得对”。

其他头部科技企业的高管，如Google DeepMind首席执行官德米斯·哈萨比斯，也对这一方向表示了认可。

从商业层面来看，Anthropic的减速主张或许有其自身的考量。8月18日，媒体专栏作者Karen Kwok指出，若Anthropic放缓增长速度，可能会在盈利方面带来益处。随着潜在IPO的临近，提升成本效率也变得更为关键。

9月11日，媒体援引知情人士的消息称，Anthropic正在与英伟达商讨让后者成为基石投资者，公司可能寻求最高1000亿美元的融资，并以约2万亿美元的估值上市。知情人士还透露，英伟达可能投资最高100亿美元。

据媒体报道，Anthropic预计调整后营业利润将连续第二个季度为正，在计入分销合作伙伴收入分成以及模型训练成本之前，毛利率超过80%。不过，这些数据尚未得到独立核实。

一旦进入公开市场，投资者不仅会关注营收增速，还会严格审视企业的现金消耗与盈利能力。从经营角度看，Anthropic自身也面临着算力成本不断膨胀所带来的压力。

9月2日，有报道称，Anthropic已与英伟达支持的云服务提供商Lambda签署了一份价值350亿美元的云计算协议，与英国AI基建公司Nscale达成约450亿美元的算力租用协议，并与SpaceX达成每月约12.5亿美元的计算资源协议，同时还在组建自研芯片团队。

据媒体此前援引知情人士的说法，截至7月底，Anthropic的年化营收已超过650亿美元，较5月底的470亿美元进一步增长。在此背景下，若全行业共同放缓模型能力扩张的速度，一定程度上能够帮助Anthropic减轻短期算力投入的压力。

这也构成了一种微妙的行业博弈。如果只有Anthropic一家减速，它可能面临竞争对手持续扩张所带来的市场份额流失压力；而如果OpenAI、Google等头部企业同时降低前沿模型的开发速度，单个公司的竞争劣势就会显著减弱。

当然，集体“减速”也并非全然有利。9月14日，有媒体指出，若前沿模型开发速度放缓，AI资本可能从继续训练更大模型转向AI应用与部署，这反而可能为第二梯队竞争者创造追赶的机会。

事实上，在阿莫代伊提出由前沿AI企业协调安全标准之后，AI安全监管之争便成为了讨论的焦点。9月9日，OpenAI首席全球事务官Chris Lehane提出建立联邦层面的AI安全框架，涵盖独立评估、行业标准以及统一的AI能力与风险衡量方式，并提出在必要时确定AI何时应当放慢甚至停止发展。

OpenAI首席科学家雅各布·帕乔茨基此前曾表示，对于可能具备自我改进能力的AI，前沿企业之间进行安全协调至关重要。不过，他也坦言，如果几家主要竞争者共同决定放慢模型开发速度，这种协调本身也可能触及竞争法方面的问题。

据媒体报道，OpenAI曾就行业协调放慢AI发展的做法是否涉及反垄断问题，向美国国会议员征求意见。针对这一问题，OpenAI联合创始人约翰·舒尔曼认为，OpenAI和Anthropic应当共同制定AI“减速”方案，不能简单以反垄断问题作为阻止安全合作的借口。

就在头部科技企业呼吁统一监管的同时，另一种担忧也随之浮现：监管是否会反过来巩固巨头现有的市场优势。9月14日，微软董事长兼首席执行官萨蒂亚·纳德拉在社交平台发文称，任何对超级智能的追求都必须建立在AI帮助人类、并保持在人类控制之下的基础之上。他同时强调，AI带来的收益应当广泛分布于不同国家、社区和企业之间，闭源和开源模型都应得到发展，AI不能由少数实体掌控。

同日，投资人比尔·格利表示，AI不应获得有别于其他产品的“特殊待遇”，现有的产品责任规则同样可以适用于AI。投资人Chamath Palihapitiya则警告，如果AI“失控”事件被用作强化集中式控制的理由，最终可能导致AI权力进一步集中。

这些观点将争议引向了另一个问题：AI安全监管在降低风险的同时，是否也可能抬高行业进入门槛。开源AI阵营同样对封闭化的安全治理模式持审慎态度。Hugging Face首席执行官克莱芒·德朗格此前表示，AI安全不能仅在少数前沿实验室内部解决。