OpenAI CEO谈为何要放慢AI发展速度：未来两种极端走向都可能失控

过去一周，因Anthropic一名研究员离职事件，人工智能安全焦虑迅速升温，并引发多家前沿实验室的员工相继公开就灾难性风险发出警告。上周末，AI行业三大领军企业更是齐声呼吁放缓技术开发节奏。

在周一发布的最新帖文中，OpenAI首席执行官萨姆·奥尔特曼对AI行业为何以及如何希望放慢步伐进行了详细说明，并再次发出“我们可能会失去控制”的警示。

奥尔特曼当天在X平台上发文称，“人工智能的发展存在两种可能走向极端，这是我们必须要避免的。”

他的这一表态，紧接在Anthropic首席执行官达里奥·阿莫代伊上周六所发文章之后。阿莫代伊在文中呼吁AI企业降低最先进模型的迭代速度，这一主张得到了埃隆·马斯克和奥尔特曼的齐声赞同。

周一，AI概念股集体走低，投资者正在消化上述言论。而美国总统特朗普则多次强调，放缓发展步伐既无必要，也将威胁美国在人工智能领域的领先优势。特朗普周一再次发帖称，“那些声称人工智能会毁灭世界、说数据中心对你的社区有害的人，正是不久前还宣称‘气候变化’会毁灭世界的那批人。”

他进一步表示：“在人工智能这件事上，商业史上何曾有过这样的先例——一个行业的领导者呼吁出台监管措施，而这些措施一旦被严格执行，就会让他们走向灭亡和破产？”

制定规则

自上周一名Anthropic研究员离职以来，安全担忧不断发酵。该研究员曾警告业界对此重视不够，随后促使Anthropic实验室其他员工以及竞争对手OpenAI的员工公开就灾难性风险发出警示。而这一系列事件恰好发生在Anthropic和OpenAI为预期中的历史性IPO做准备之际，尽管奥尔特曼已否认了2026年上市的可能性。

许多关于AI安全的担忧，都聚焦于模型发展出提升自身性能的能力，即递归自我改进（RSI）。

阿莫代伊在文章中写道：“大约从今年夏天开始，人工智能的发展速度急剧加快，主要推动力来自人工智能自身在构建下一代人工智能方面日益增强的能力。如果放任不管，它可能会超出我们理解和控制这些系统的能力，因此，即便要推进这一进程，也必须格外谨慎。”

阿莫代伊特别提到，他的公司将推行新的安全举措，比如引入第三方评估人员。奥特曼也表示，“承诺让独立评估机构获得类似员工的访问权限，这是一个很好的想法，我们也会这样做。我们很快会分享更多信息。”

奥尔特曼在周一的帖文中进一步指出：“制定一致的规则来管理前沿风险，以便我们能够最大化收益，这是一个好主意（我们对独立审计员等想法感到兴奋）。但当我们谈论‘节奏’时，我们并不是指‘停止’。进展一直很快，而且将继续保持下去。”

他补充道：“这种节奏的代价是值得的；无论美国施加多大的竞争压力，都不应成为鲁莽行事的理由，也不应让能力发展超越对齐与监控的约束。我们需要政府帮助的地方在于国际协调。但首先，我们应该自己尽力而为。”