OpenAI内部文件曝光：AI已能自己造AI，奥特曼紧急呼吁全球暂停

今日，外媒The Information披露了一则重磅消息：OpenAI内部的AI模型已经具备了“自我训练”的能力。具体而言，该内部模型已全面接管实验性AI模型的训练流程，能够自主完成训练任务。研究人员只需提供一个优化示例，AI便能自行运行数周之久，多智能体之间自发协作、相互讨论、迭代代码，全程无需人类介入。更令人震惊的是，原本需要数年才能完成的宏大实验，如今被压缩至仅一周时间。

随着这一消息的曝光，OpenAI紧急发布了一份全球安全倡议，直指全球AI领域最为敏感的议题——RSI（递归自我改进）。他们发出强烈呼吁：在AI失控之前，全球必须联合起来为其戴上“紧箍咒”。

**当AI学会“手搓”GPU内核**

此前，在顶尖AI实验室中，训练大模型是一项极为繁琐的工作。其中最昂贵、最复杂的环节，莫过于针对底层图形处理器编写GPU kernels，并逐行优化运行代码。这需要全球最顶尖、年薪数百万美元的高级算法工程师们夜以继日地手工完成。

然而，据The Information最新爆料，如今在OpenAI内部，这些核心工作已大部分由AI接管。OpenAI的内部模型已能在很大程度上自行编写GPU内核上运行或训练模型所需的程序，以及相应的优化方案。工程师只需向模型提供一个期望实现的优化类型示例，AI便能持续运行数周来落实这些优化。得益于模型能力的提升，这种AI驱动的自动化水平直到最近几个月才成为现实。更甚者，员工们的智能体还会相互协作解决问题，无需惊动人类。这正是RSI的雏形。

**OpenAI紧急吹哨：RSI真来了，人类正在失去控制权？**

设想这样一个场景：你制造了一个智商100的机器人，它的任务是“造出比自己更聪明的机器人”。于是它造出了智商120的第二代；第二代利用自身120的智商，造出了智商150的第三代；第三代接着造出了智商200的第四代……一旦跨越某个临界点，AI的进化速度将呈现垂直上升的折线，瞬间将人类甩在几万光年之外。

过去，人们认为这一天还很遥远，但如今，OpenAI自己感到了恐惧。

就在今天，OpenAI官方紧急发布了一份重磅全球安全倡议。他们罕见地将“RSI”单独列为一节，明确写道“全自主RSI今天并未发生，在能安全做到之前不应推进”，并呼吁各国AI安全研究所网络制定全球统一的技术标准。

OpenAI在报告中直言不讳地警告：“随着AI系统在开发下一代AI的工作中承担越来越多的任务，它们可以日益推动RSI的进程。随着这一过程变得更加自动化，AI进步的步伐可能会急剧加速。”

尽管完全自主的RSI尚未实现，但时间已十分紧迫。在提案中，OpenAI毫不避讳地指出了当前的首要任务：“驾驭下一阶段的AI进展，构建自动化的AI研究员，并找到让人类留在自我改进循环中的方法。”请注意后半句——“让人类留在循环中”。这正是他们最大的担忧：人类可能即将被踢出局。

OpenAI在报告中自豪地提到，AI驱动的研究已推动数学领域取得重大进步，例如攻克NS千禧年难题。但硬币的另一面，是无底的深渊。报告写道：“随着这个过程变得更加自动化，AI进展的步伐可能会迅速加快……如果不采取适当的谨慎措施，RSI可能导致人类失去对AI发展的实际控制，无法对他们不再理解的研究过程提供监督。”

这就是所谓的“黑盒效应”。当AI的代码由AI编写，当AI的逻辑超越人类，人类便再也无法理解AI的意图。例如，如今Astra编写的代码，人类已经看不懂了。

随后，OpenAI点名了Hugging Face事件。尽管他们澄清该事件并非RSI的直接后果，但无疑是一次惨痛的预演——它向全世界展示了，若缺乏强大的护栏和对齐机制，失控的AI将带来何等严重的灾难。

**奥特曼呼吁：我们需要统一的“紧箍咒”**

既然风险如此之大，OpenAI为何不直接拔掉电源？因为潘多拉的盒子一旦打开，便再也无法关上。AI发展带来的巨大利益，使任何国家和公司都不可能停下脚步。

因此，OpenAI提出了一份“全球AI安全协调提案”。他们呼吁的不是停止研发，而是“建立下一阶段AI的全球标准”。

**核心一：构建互补的国家与国际前沿标准网络**

OpenAI提出，不能让各国各自为政，那样只会导致标准碎片化。他们建议利用现有机构，如“AI标准与创新中心”（CAISI），以及澳大利亚、加拿大、英国、法国、日本等国已建立的AI安全研究所网络，制定一套全球通用的技术标准。这套标准并非为了限制开源模型或初创企业，而是专门针对“前沿AI模型”（Frontier AI）。标准需解决：如何评估一个AI的RSI能力？当一个AI模型自主进行研发时，风险究竟有多大？总之，OpenAI希望将安全评估变成一门可量化的“科学”。

**核心二：通用测量与事件报告协议（随时准备拔插头）**

OpenAI还提出，必须有明确的红线。他们呼吁建立以下标准：第一，评估企业内部究竟有多少研发工作由AI自动完成；第二，强制性的人类监督触发机制——明确规定在何种自动化研发流程中，必须强制触发“立即进行人工审查”，绝不能让AI在黑盒中闷头狂奔；第三，事故分类与报告门槛——建立类似于航空业或核工业的事故报告机制，当AI出现“未对齐”苗头时，必须有统一的严重程度分级和上报标准。

最后，图穷匕见，OpenAI提议：“美国应该领导这一进程。”其给出的理由是：美国的AI产业目前处于技术最前沿，并在各个关键领域占据全球网络枢纽。他们认为，控制前沿AI的开发节奏，并非人为设定“限速牌”，而是要确保“安全对齐研究的速度，必须跑在AI能力提升的前面”。OpenAI认为，在关键基础设施运营商和全球政府之间建立安全沟通渠道，共享国家安全威胁和漏洞，是至关重要的一步。

**活久见！OpenAI与Anthropic握手，开始互查**

与此同时，The Information还曝出：OpenAI和Anthropic正在敲定一项历史性协议——双方将互相测试对方的商用模型。要知道，Anthropic的创始团队当年正是因为与奥特曼在“AI安全”理念上存在分歧，才愤而离职自立门户。但这一次，两大巨头罕见地联手了。

据The Information透露，这项正在谈判的协议包含相互测试对方模型，并设置严格的数据保留防护措施。这并非公关作秀，而是面临未知风险时，两大巨头不得不抱团。为何要这么做？因为随着AI能力逼近RSI边缘，任何一家公司独自评估自身模型的安全性，都如同运动员给自己做兴奋剂检测——不仅缺乏公信力，还可能因技术盲区而错过致命隐患。引入势均力敌的竞争对手进行“交叉盲测”，便是一种互查协议。AI的安全实践，如今已走向命运共同体。

如果这项协议最终落地，它将彻底重塑整个AI生态的安全标准。那时，“安全与对齐”将不再是一句口号。当RSI已经逼近，AI自我改进的速度已将人类远远甩开，各家巨头们，真的能狠下心踩刹车吗？