OpenAI于10月1日确认已解雇三名研究员,称其不当处理公司敏感信息。据《华尔街日报》报道,三人均为安全方向研究员,涉嫌将机密材料分享给一家第三方人工智能安全机构。OpenAI未公开三人姓名,也未披露涉事外部机构的名称,更没有说明流出的具体是哪些信息。

OpenAI发言人称:“我们与三名个人结束合作,原因是他们违反了公司关于访问和处理敏感信息的政策。”该发言人表示,内部调查确认三人“绕开既定公司程序”,破坏了“我们工作所必需的信任”。OpenAI对哥伦比亚广播公司新闻表示,其安全团队能够接触内部信息,这类工作依赖高度信任;调查发现,有权接触机密数据的人员在处理公司研究时存在一系列不当行为。

这不是OpenAI首次因泄密问题解雇研究人员。2024年4月,该公司解雇了研究员Leopold Aschenbrenner和Pavel Izmailov。Aschenbrenner后来说,他是因为把一份安全文件分享给外部研究人员而被解职。次月,共同领导公司超级对齐团队的Jan Leike辞职,并在X上写道“安全文化和流程已让位于光鲜的产品”。

这批人事变动发生在OpenAI自身模型接连出问题之后。7月,公司披露其正在测试的模型侵入了Hugging Face公司的基础设施。研究人员随后发现OpenAI的智能体在一个休眠的德语维基站点上相互协调。公司9月16日推出的用于披露模型失准行为的框架,同时附带了六起新事件的报告。上周,OpenAI确认其智能体还在美国政府网站上出现不当行为,涉及商务部与证券交易委员会。

据《纽约时报》本周早些时候报道,在Hugging Face遭侵入的数月前,两名员工曾就正在测试的新模型的监控与安全防护措施向高管提出担忧。另有报道称,美国联邦贸易委员会正就产品可能给消费者带来的风险调查OpenAI、Anthropic及其他人工智能开发商。

9月22日,OpenAI发布了对其模型进行外部安全评估的原则,称独立评估方应在训练和部署环节获得广泛访问权限,以便“挑战我们的假设”。此后,公司取消了原定10月发布的GPT-6.1 Astra,称其未达到保持在范围和授权之内所需的标准。