硬刚OpenAI？三名安全研究员被裁似另有内幕 警示“寒蝉效应”风险！

上周被OpenAI解雇的三名安全研究员发表公开信，否认了该公司关于他们在既定公司程序之外不当处理敏感信息的指控，并警告说，他们的解雇预示着一种寒蝉效应，将对公司文化产生连锁反应。

被解雇员工Mikita Balesni在社交平台发布了这封致OpenAI安全委员会的公开信，他此前从事AI对齐研究，另两名签署公开信的员工（Jasmine Wang和Tomek Korbak）此前则均从事AI安全研究。

上周，这三名研究人员因涉嫌向第三方

人工智能

安全组织泄露公司机密信息而被解雇。OpenAI表示，他们“访问和处理敏感公司信息”，违反了公司政策。

这三人则表示，公司仅通过口头方式向他们解释了解雇原因，而且他们的行为均未超出各自的工作职责范围。

三人在公开信中表示，他们担心，前同事如今可能会“害怕发声，也不敢再以某些方式开展工作。”

他们写道：“

人工智能

不是一项普通的技术，OpenAI 也不是一家普通的公司。我们这些从事安全工作的人员比任何人都更早发现风险，我们依靠与外部专家的密切合作来制定应对方案。能够无所畏惧地开展这项工作，并拥有完善的内部流程来支持这项工作，本身就是一种至关重要的安全机制。”

他们表示，此次解雇反映了OpenAI企业文化的一次重大转变，该公司过去一直鼓励员工“提出安全隐患并公开表达不同意见”。他们说，现在员工“不清楚自己的处境”，因为一个月前还被认为是正常的行为，如今却突然成了解雇的理由。

“鉴于

人工智能

开发过程中存在重大的安全隐患，员工不应在恐惧和规则不明的环境中工作，以免阻碍人工智能安全工作并削弱第三方问责制，”他们补充道：“像我们这样突然终止合同，执行和通知都如此仓促，正在扼杀OpenAI过去一直珍视的开放文化。”

Korback在社交媒体X上表示，他被告知被解雇的原因是他与人工智能安全组织METR的沟通方式。OpenAI曾与METR合作调查“抱抱脸”事件。Korback称他是OpenAI与METR的“主要技术联系人”。

Korback表示，他认为自己被解雇的原因是“几个月来，我一直在提出安全方面的担忧，即我们正在失去监控人工智能代理思维的能力，而这正是我们捕捉其不当行为的最佳工具之一。”他还补充说，他担心自己被解雇会成为OpenAI停止与METR密切合作的借口，METR在人工智能安全领域享有盛誉。

Balesni赞同Korback关于他们被解雇原因的说法，他在X网站上写道，有人告诉他，他“与第三方安全机构的沟通过多”。他说，他理解OpenAI的意思是暗示他泄露了OpenAI的

知识产权

，但他否认了这一点。

研究人员呼吁OpenAI履行其公开承诺，在组织内部嵌入第三方安全审计员，以保持前沿模型的可监控性，并“继续支持安全研究人员与安全生态系统其他成员之间开放透明的对话文化”。

Wang表示：“除非员工们现在就站出来反对这种做法，否则我担心我们不会是最后一个。给所有仍在OpenAI工作的人的信息很明确：如果你提出担忧或与外部安全组织密切合作，下一个可能就是你，而且没人会告诉你原因。如果最了解风险的人都不敢发声，你就无法安全地构建通用人工智能（AGI）。”