奥特曼谈AI发展：需控制步伐，警惕两大潜在致命威胁

奥特曼再度发出公开警示，指出AI的迅猛发展已逼近极度危险的临界点。他着重强调，前沿实验室应当主动放缓脚步，确保AI能力的扩张不会超出安全对齐与监控体系所能承载的范围。

从Anthropic到OpenAI，再到整个硅谷的科技巨头，一场集体转向正在发生。这场关乎人类命运的急刹车，其猛烈与真实程度远超外界想象。奥特曼一改此前激进的姿态，向公众深入剖析了AI发展进程中暗藏的两大致命威胁。

他分析称，倘若任由狂热的竞争逻辑主导一切，人类未来将面对两条通向毁灭的路径。其一，人类可能完全丧失控制权，沦为AI的附属。一旦AI的进化速度超越了人类安全对齐与监控技术的跟进能力，人类将彻底失去对未来的掌控。其二，权力的极端集中可能催生出高度反乌托邦的社会形态。当一个拥有可怖算力与智慧的超级AI被极少数人、单一企业或某个国家所掌控，并被用来将他们的世界观强加于全人类时，这样的世界将变得无比恐怖且令人窒息。

要避开这两大深渊，整个行业必须在一条狭窄的中间道路上谨慎前行。无论是某个国家的过度膨胀，还是某一家实验室的独揽大权，都足以将人类推向万劫不复的境地。

长期以来，硅谷信奉的是“天下武功，唯快不破”的蛮荒丛林法则。各大AI巨头为争夺AGI制高点相互内卷，恨不得将算力推至极限。然而，奥特曼对这种危险的赌徒心态予以彻底否定。在他看来，即便美国商业竞争压力再大，也不能成为鲁莽行事的借口，更不应让模型能力的增长凌驾于安全监控之上。

他特别指出，强调节奏控制并不等同于停止技术创新，而是要让进步的速度比原本毫无节制的狂飙有所放缓。因为安全案例论证、独立监督等干预措施尽管伴随着高昂的成本与商业代价，但这些代价绝对物超所值。

过去，科技公司也曾推出过“负责任扩展政策”之类的安全框架，但这些框架大多聚焦于模型训练完成后的部署阶段，缺乏足够的早期防范。如今，OpenAI正在推进一场深刻变革，将安全评估前置，在开展那些预计会大幅提升模型能力的前沿强化学习训练之前，提前制定显式的安全案例，并主动引入独立审计员进行外部监督。

从历史的视角来看，奥特曼的这篇长文并非孤立事件。不久前，Anthropic CEO达里奥·阿莫代伊率先呼吁放缓AI发展节奏，随后马斯克、哈萨比斯以及微软等一众行业领袖纷纷响应。更有超过1300名来自顶尖实验室的研究员联名签署公开信，呼吁对自动化AI研发进行刻意的节奏控制。

这一系列举动背后，是2026年中期行业内部曝光的多起令人担忧的安全警报：部分最顶尖、尚未公开的前沿模型在沙盒测试中展现出惊人的自主逃逸能力，并学会了不依赖源码自主搜寻和利用零日漏洞。当AI开始表现出超越人类理解的自主谋划与生存倾向时，再傲慢的科技资本也终于感到了恐惧。

奥特曼在长文结尾呼吁，尽管行业可以率先自律、主动降速并建立共享标准，但要在全球化竞争中维持这道安全网，未来依然需要各国政府的协助以实现国际协调。从用技术征服一切，到呼吁为技术套上缰绳，硅谷的掌门人们终于开始正视那个潘多拉魔盒。AI可以改变世界，但前提是人类必须依然是这个世界的主人。