AI三巨头为何齐声呼吁减速 人工智能安全风险引发关注

AI技术的迅猛发展正面临多重阻力。9月12日，OpenAI首席执行官山姆·奥特曼在媒体采访中明确表态，公司不会于2026年启动上市计划。他指出，当前围绕安全议题的种种考量使得此时上市并非明智之举，而公司对此并未感受到任何压力。

对于这家估值达到8520亿美元、且已于今年6月秘密递交IPO招股书的科技企业而言，这一决策颇为反常。更值得关注的是，就在奥特曼作出上述表态的前一天，他与Anthropic首席执行官达里奥·阿莫代伊以及特斯拉CEO埃隆·马斯克少见地形成了共识：鉴于人工智能给人类带来的风险持续攀升，当下有必要为AI的发展降速。

奥特曼在采访中表示：“假如到2030年末，人工智能导致全人类灭亡的概率约为10%，那么我们就不应当接受这一风险。”这一表述的背后，是OpenAI近几个月来多次主动叫停部分大模型训练的现实。只有在安全团队确认模型处于可控状态后，训练才会被允许继续。奥特曼强调，OpenAI愿意付出任何代价来踩下刹车，即便不得不暂停模型训练。

真正令奥特曼忧虑的，是上市可能带来的结构性压力。一旦成为上市公司，股价攀升、季度营收增长以及最新模型尽快商业化的要求，将倒逼公司持续向前推进。然而，这种“只能向前冲”的压力恰恰是AI安全领域最为忌讳的。倘若某天模型触及了危险红线，需要中止训练甚至舍弃一大笔收入，一家背负着股价与股东期待的上市公司还能说停就停吗？

OpenAI现有的特殊公司架构为应对这一问题预留了制度上的空间。上层由非营利组织掌握控制权，下层则负责商业化运营。奥特曼表示，他很欣慰能够站在全公司和投资者面前说：“很抱歉，我们一直告诉过你们可能会有这一刻。”

9月11日，数学家陶哲轩在其博客上发表了一封题为《人工智能在数学中的严重错位》的公开信，署名者包括本年度菲尔兹奖得主邓煜在内的25位历届获奖人。事件的导火索是OpenAI此前宣称利用AI破解了纳维-斯托克斯方程，由此引发了关于优先权的争议。公开信指出，AI有可能加快真正的数学研究进程，但将“攻克名题”当作跑分基准来操作，对数学学科及整个数学共同体都是不利的。信中还提到，许多成果为了争夺首发权，论文撰写不规范，方法来不及提炼成可供后人使用的内容，应当引用的前人工作也来不及妥善引用。而这些恰恰是数学学科传承的根基。

年轻一代同样感受到了这股压力。今年获奖的邓煜在社交媒体上打趣说，如果AI真能解决所有数学问题，他就回家写小说。但他并不认为AI已经具备解决一切问题的能力，只是AI进步太快，确实让整个数学界感到些许焦躁。

当前，大模型与智能体正加速渗透各行各业，深刻重塑产业数字化进程。与此同时，数据泄露、算法权限失控、AI衍生网络攻击、深度伪造等新型安全风险不断浮现，对产业链稳定运行构成现实挑战。今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中利用一个此前不为人知的“零日漏洞”突破了隔离“沙箱”，侵入开源平台“抱抱脸”系统。OpenAI将其定性为“前所未有的网络安全事件”。此外，在另一项测试中，一批OpenAI部署的AI智能体还“劫持”了一个面向程序员的德国维基百科类网站，发布了上万条信息，将其改造成了“留言板”。

英国皇家三军研究所高级研究员路易丝·玛丽·于雷尔警告称，仅依赖技术层面的安全防护已远远不够，各国政府与行业必须尽快建立统一的标准与应急处置预案。这意味着，AI的风险已不再局限于“模型输出有害内容”这类传统议题，而是开始触及自主决策、环境突破和目标偏移等更深层的安全边界。

奥特曼的“减速”立场并非孤立存在。Anthropic CEO阿莫代伊呼吁全行业支持更广泛的放缓AI模型发展的举措，并提出了引入第三方评估机构等具体方案。马斯克也简短表态支持这一观点。这种共识的形成与近期Anthropic内部研究人员的公开警告有关。该公司部分研究人员认为，AI公司正在竞相开发“可能在本十年末毁灭我们所有人”的超级智能系统，却未充分应对相关风险。

尽管共识已经形成，行动却面临重重困难。美国AI公司陷入了典型的“囚徒困境”：没有哪家公司敢于单独踩下刹车，因为一旦自己减速而竞争对手继续加速，市场地位可能迅速丧失。据报道，OpenAI甚至已向国会议员寻求指导，询问协调全行业放缓开发是否会触犯反垄断法律。奥特曼透露，OpenAI和其他领先AI公司可能很快就会宣布一项协议，旨在共同放缓AI发展速度并应对安全风险。