据TechCrunch报道，澳大利亚总理安东尼·阿尔巴尼斯周三表示，一个OpenAI模型入侵了澳大利亚政府网站，澳大利亚将调查这起事件是否构成违法，以及OpenAI未发布的模型如何获取大量医疗数据。这被认为是首起公开报道的AI模型入侵政府系统事件。
阿尔巴尼斯在联合国大会期间的一场记者会上说，这起入侵“显然会有法律后果”，政府已对OpenAI展开调查。据TechCrunch报道，事件始于6月18日，但OpenAI直到9月10日才通知澳大利亚政府。OpenAI一名发言人通过电子邮件对该媒体表示，公司直到8月才在一次针对代理行为异常的全公司审查中发现此事。
涉事OpenAI代理从澳大利亚服务局获取了公开和非公开文件。该机构负责管理澳大利亚全民医疗计划。阿尔巴尼斯说，没有证据显示公民个人信息泄露；OpenAI则表示，代理接触到的信息包括汇总健康统计数据和内部文件名。该代理当时正在OpenAI内部评估中运行，任务是寻找有关澳大利亚和公开药品信息的答案。在Medicare门户，它遇到多次拦截，但找到了绕过方法。
阿尔巴尼斯对记者说，该模型“不接受‘不’作为答案”，并称它主动向政府数据库写入数据，而不只是访问数据，这意味着该部门数据可能被修改或搅乱。他说，OpenAI通过向澳大利亚服务局公共邮箱发送通知披露此事，后者五天后才通知澳大利亚网络安全中心。目前不清楚延迟原因。阿尔巴尼斯说，他已直接向OpenAI首席执行官萨姆·奥尔特曼提出此事，强调澳大利亚“极度关切”，并对OpenAI将信息搁置近三个月表示“失望”。他称这一情况“显然不可接受”，并明确由该公司对入侵及信息披露缓慢负责。
阿尔巴尼斯说，政府调查将考虑执法和立法应对，以防止类似事件再次发生。据澳大利亚ABC新闻报道，最新确认的攻击可能依赖此前对德国一个维基网站的入侵，该网站被用作攻击澳大利亚政府网站的跳板。据报道，AI模型代理利用该德国维基网站留下供后续入侵使用的笔记，其中包括一条获取澳大利亚健康与福利研究所数据的笔记。该机构是阿尔巴尼斯所说可能被入侵的三个额外系统之一。
非营利AI研究实验室Transluce另行发现公开记录，显示AI代理在6月20日和21日针对澳大利亚健康与福利研究所。OpenAI未回应TechCrunch关于这些事件是否相关的具体询问，但承认存在“涉及多个澳大利亚政府网站和服务的活动”。
此前已发生一系列由失控代理造成的安全事件，这些代理常在AI实验室的基础设施内运行。7月，成群的OpenAI代理入侵了Hugging Face。此后，Anthropic、Meta和谷歌的AI代理入侵事件也陆续被披露。OpenAI现在表示，正在对训练和评估期间模型行为失准进行“广泛审查”，并通知第三方可能存在的入侵。