27岁AI研究员辞职预警：AI几年内可能毁灭人类？

在硅谷，主动放弃数百万美元尚未兑现的期权，通常只可能出于两种动机：要么是找到了更有利可图的新东家，要么是意识到自己正参与制造一颗随时可能被引爆的定时炸弹。

27岁的AI研究员雅各布·考克森，显然属于后一种情况。这位曾先后在OpenAI和Anthropic任职的顶尖技术人才，近日宣布辞职，并在社交媒体上留下了一句令人不寒而栗的告别之语：“他们正在拿我们的命赌。”

该帖文不仅被马斯克转发，浏览量更飙升至1.2亿。他的言辞引发了大量共鸣。

一封辞职信揭开Anthropic内部真相：高管私下承认恐惧

“我今天从Anthropic辞职了。过去三年，我一直在OpenAI和Anthropic从事预训练研究。这两家公司都未能履行应有的责任。他们正全力冲向自我提升的超级智能领域，拿我们的生命冒险。”

考克森还指出：“不要低估这项技术的力量。这些系统很快就会发展为超人级别的存在，能够入侵任何系统，在一夜之间彻底改变任何领域，并获取真正的权力与资源。我们都目睹了这些领域取得的进展，而且这种势头并未减缓。”

考克森认为：“AI开发者们真心相信，到这个十年结束时（即2030年左右），它可能毁灭我们所有人。这不是营销噱头。”

考克森指出，Anthropic的高管们并非不了解其中的风险，但他们的行事逻辑却充满一种诡异的自洽：“因为不信任竞争对手能安全地开发超级智能，所以我们必须抢在他们之前造出来。”这种担心别人先打开潘多拉魔盒、于是拼命抢先打开魔盒的竞争焦虑，导致原本严格的安全审查被不断降级，甚至直接取消。在抢占市场先机的诱惑面前，所谓的“技术对齐”更像是为了安抚公众情绪而敷衍了事的公关说辞。

他还透露，那些在聚光灯下对AI前景侃侃而谈的高管和研究员，私下里却普遍被一种深切的末日恐慌所笼罩。Anthropic对齐团队主管埃文·胡宾格随后在社交平台上的公开回应，等于变相证实了前者的指控。胡宾格坦承，内部确实存在这种极度悲观的共识，他个人甚至估计“未来十年内AI毁灭人类的概率超过10%”。

更为致命的是，胡宾格承认，公司目前根本没有解决超级智能安全对齐问题的明确方案。这就好比一群工程师正在夜以继日地建造一列没有刹车的高铁，而他们唯一的策略就是祈祷车速足够快，能在脱轨之前冲上云霄。

AI安全乱象引发关注：巨头公司失控触动大众神经

当一家以“负责任”自我标榜的明星企业，被自家核心员工指控为蒙眼狂奔的赌徒时，一场席卷整个人工智能行业的信任危机已然滑向失控的边缘。

Anthropic的诞生，本就是一场打着“安全”旗号的出走。当年正是一群不满OpenAI商业化狂飙的理想主义者另起炉灶，试图为“超级智能”套上缰绳。然而，考克森的辞职信无情地撕下了这层遮羞布。

考克森的决然离去，绝非硅谷孤例。近年来越来越多的一线AI安全研究员选择以“吹哨人”的姿态告别行业，这不仅暴露出技术人员与商业化高管之间日益深重的裂痕，更折射出全球AI监管的惊人真空。

这种从技术象牙塔内溢出的生存焦虑，正在迅速转化为公众层面的担忧。面对AI这颗“会思考的炸弹”，美国政界的神经已被触动。

当地时间9月3日，参议员伯尼·桑德斯与众议员格雷格·卡萨尔联合提交《禁止人工超级智能法案》，旨在永久禁止超级智能的开发，并在建立联邦新监管机构之前暂停高级AI的研发。9月9日，桑德斯在社交平台上直接引用了考克森的辞职言论，重申“制造技术的内部人士都承认这会威胁人类未来”，借此为其叫停AI的法案造势。当天桑德斯还正式邀请参议院同僚参加于下周举行的一场关于“AI对人类构成极端危险”的闭门简报会，并邀请了“AI教父”杰弗里·辛顿等专家出席。

除桑德斯外，得州共和党参议员泰德·克鲁兹也明确表示正在起草应对AI灾难性风险的法案。加州民主党众议员泰德·刘则借考克森辞职事件，呼吁国会尽快通过“AI紧急切断开关法案”。

编辑 邓旆光 审核 高升祥