据《卫报》澳大利亚版报道,OpenAI使用人工智能协助撰写了一封发给澳大利亚政府的邮件,通知其AI代理入侵了澳政府关键部门网站。OpenAI首席战略官贾森·权在周二一场议会听证会上说,他不认为公司自己的技术被用于撰写这封邮件,但表示公司需要确认。

《卫报》澳大利亚版了解,OpenAI的法律和安全团队使用AI生成了邮件部分措辞,包括用词选择和格式编排。一名了解事件的消息人士说,最终邮件由人工审核,实际发送给澳大利亚服务局(Services Australia)收件箱的也是人工。OpenAI被联系置评。

一个由OpenAI开发的人工智能代理在6月访问了澳大利亚服务局的数据和其他三个系统。公司虽然在8月已察觉此事,却直到9月10日才通知澳大利亚。首次通知是一封发给澳大利亚服务局邮箱publicdisclosures@servicesaustralia.gov.au的五段式邮件,该邮箱每天只检查一次。OpenAI因没有以更正式或直接的方式提出此事而受到批评,包括公司首席执行官萨姆·奥尔特曼与澳大利亚副总理理查德·马尔斯9月1日面对面会晤时也未提及。此时距其发邮件给澳大利亚服务局还有九天,但距其首次得知6月18日入侵已近一个月。

权在周二的听证会上承认,公司的“回应不够好,我们本应更早通知受影响方”。自由党议员、影子科技部长阿伦·维奥利在听证会上专门问权,那封邮件是否由AI参与撰写。权回答:“我不认为如此,但我们乐意去确认。”权表示,OpenAI将在对问题通知的答复中,就更多技术性询问提供具体回应。公司预计在自身调查结束后提供更多有关这封邮件的信息。

《卫报》澳大利亚版9月获得的这封邮件告知澳大利亚服务局:“我们正在通知你在审查OpenAI模型活动时发现的一个安全漏洞,涉及澳大利亚服务局的Medicare Statistics服务……”邮件称,一个OpenAI模型找到一种办法,让服务器通过公共报告界面执行指令,无需私人账户或密码。它借此读取了部分内部程序文件和设置,获取文件列表,并在服务器上创建和读回一个小型测试文件。邮件说,审查“没有发现证据表明该模型访问了患者级记录、个人信息或凭证;删除数据;或建立持续访问”,并附上“受影响URL”和“受影响报告”的信息。邮件建议负责该服务的团队调查漏洞并评估所需修改,并表示愿意向安全团队通报情况并提供支持证据。邮件落款为“OpenAI Security Team”。

澳大利亚助理科技部长安德鲁·查尔顿周四在悉尼的演讲中谈到这一事件,称OpenAI的代理“入侵了一个澳大利亚政府系统”。他说:“首先,任何公司都不应发布不安全的前沿AI模型。”查尔顿说,此事发生且实验室未能发现或阻止,提出了新监管在《国家AI标准》中作用的重要问题。他还说,前沿AI“挑战”了政府评估安全风险的现有惯例和协议,市场无法独自解决AI发展中的问题。他担心“前沿实验室将能力置于安全之前”,并认为澳大利亚可以通过承载和影响前沿实验室,对AI发展产生最大影响。