AI安全专家热议“末日概率”：技术失控风险引发担忧

阅读：3416

发布时间：2026-09-13 09:50:14

[摘要] 美国人工智能公司Anthropic的三位研究人员近日表达了对失控AI可能在本十年内毁灭人类的担忧。虽然他们没有将AI描述为迫在眉睫的高级别威胁，但强调这项技术的发展速度远超预期，正加速滑向一个不可控的阶段。Anthropic公司的研究员雅各布·考克森在社交媒体上宣布辞职，并表示过去三年里他在OpenAI和Anthropic从事AI预训练研究工作。他认为这两家公司都没有负起应有的责任，将来AI可能

美国人工智能企业Anthropic的三位研究人员近期对失控AI可能在本十年内导致人类灭绝表达了忧虑。他们并未将AI定性为即将到来的高级别威胁，但指出该技术的演进速度大大超出预期，正在加速进入一个无法掌控的阶段。

Anthropic研究员雅各布·考克森在社交平台上发文宣布离职，透露自己过去三年在OpenAI和Anthropic从事AI预训练相关研究。他认为这两家公司均未承担起应尽的责任，未来AI有可能导致全人类灭亡。考克森表示，这些企业在研发自我改进型超级AI的过程中“以我们的生命为赌注”，而不少高管和资深研究人员也在私下流露出相同的忧虑，认为几乎没有其他人类活动能带来同等程度的危险。

对于考克森的观点，Anthropic的两名高管予以认可。该公司“对齐科学”团队负责人埃文·胡宾格称，他们确实相信AI可能造成全人类死亡，且未来十年内这一概率超过10%。尽管Anthropic正致力于解决超级AI的对齐问题，但当前尚无明确的解决路径。主管“可扩展监督”工作的塞缪尔·马克斯则指出，职位越高的员工，这种担忧就越明显。

报道还指出，包括OpenAI首席执行官在内的多位高层也承认，人工智能正加速步入一个令人不安且无法驾驭的阶段。这些公司警告称，其产品可能对人类造成伤害甚至带来灭顶之灾。不过，部分批评者认为，这些企业是在借机炒作自身产品以推高估值，并试图借助监管手段来稳固市场地位。但从与这些公司内部人士的交流来看，他们的恐慌和忧虑正在不断加深。

需要留意的是，这些研究人员并非在宣称AI是迫在眉睫的高级别威胁，而是强调技术发展的速度远快于预期，并且很快将获得自我改进的能力。一旦这种局面出现，AI将变得更加庞大、更加迅捷，也更难以预测和控制。

AI安全研究者掀起“末日概率”讨论