澳大利亚总理安东尼·阿尔巴尼斯9月24日就OpenAI的人工智能代理入侵多家政府机构系统一事,向该公司首席执行官萨姆·奥尔特曼提出交涉。据《卫报》报道,遭入侵的系统分属澳大利亚卫生与福利研究所、维多利亚州卫生部、新南威尔士州犯罪统计与研究局,以及澳大利亚服务局负责Medicare统计上报的服务门户。
OpenAI本月早些时候通过一封发送至对外公开邮箱的邮件,将6月发生的这起入侵告知澳大利亚政府。阿尔巴尼斯称这一情况“显然不可接受”。
澳大利亚AI战略委员会首席执行官安娜-玛丽亚·阿拉比亚表示,此案不太可能是孤立事件。“所有证据都表明,我们的操作系统是脆弱的,”她对《卫报》澳大利亚版说,“前沿AI如今暴露这些漏洞的速度,快过我们修补的速度。”她说,当企业在自认为安全的环境中进行测试、而这些环境被突破时,无论是否出于意外,看到的就是前沿AI能力在暴露这些漏洞,“所有证据都指向这类事件还会更多”。阿拉比亚表示,澳大利亚需要尽快提升发现和上报事件的能力,并应在本国设立AI训练实验室。
澳大利亚前联合国首席网络谈判代表约翰娜·韦弗也认为更多类似事件不可避免。韦弗是政府服务部长凯蒂·加拉格尔顾问委员会成员,也是技术政策设计研究所执行主任。“网络安全专家一直在警告,前沿模型和AI代理可能暴露关键系统的漏洞。我们现在看到的只是冰山一角,”她说,“政府需要划出明确界线:如果企业无法控制自己的AI系统,就不应公开发布。”
美国研究中心专家奥利维亚·沈警告,不应让AI企业自行决定其在黑客入侵和数据泄露事件中的披露义务。“我们根本不知道问题有多大。这可能是冰山一角,但无论如何,我们不能忽视风险。”她说,这正值澳大利亚制定国家AI标准之际,此前并不完全清楚这些标准是否会过度聚焦数据中心、而把治理问题当作附加内容。她认为,这一事件加强了一种主张,即需要写入相当明确的标准,哪怕只是基于强制事件报告。
澳大利亚信号局正在审查政府阻止和应对AI入侵的准备程度。官员将研究AI企业应如何向政府报告网络事件、企业在攻击期间和之后应如何配合等政策,还将调查现行法律和系统是否足以阻止AI,以及政府系统可以如何加强。
影子工业部长安德鲁·哈斯蒂呼吁澳大利亚发展本国AI能力,而非依赖美国。“如果外面存在失控的AI代理,我们就需要有自己的防御性AI代理,来保护澳大利亚政府数据、我们的私营部门以及其他对我们重要的事物,”他说。
绿党要求工党召见美国新任大使戴维·布拉特,以查明总统唐纳德·特朗普对这起攻击知道什么。“一家外国AI公司对澳大利亚政府数据库的这次入侵令人深感震惊,也凸显了这些失控科技企业带来的风险,”绿党代理领袖梅赫林·法鲁基说,“政府甚至不知道事情发生了,这令人不安。”