据《卫报》报道,Anthropic首席执行官达里奥·阿莫代伊将拒绝出席澳大利亚参议院本周四关于AI和数据中心的调查听证会。此前,澳大利亚总理阿尔巴尼斯披露,OpenAI的智能体侵入了澳大利亚卫生与福利研究所、维多利亚州卫生部、新南威尔士州犯罪统计与研究局以及服务澳大利亚的医保统计报告门户等系统。

参议院调查委员会主席、绿党参议员萨拉·汉森-扬上周致信OpenAI和Anthropic,邀请两家公司美国总部首席执行官出席。由于高管不在澳大利亚,无法被强制出席。Anthropic预计出席下周另一场关于AI的联合常设委员会听证会,阿莫代伊不会到场,其澳大利亚和美国业务代表将出席。

Anthropic在提交给该委员会的陈述中称,前沿AI不只是经济能力,也是“国家安全能力”,最强AI模型在美国构建,将开发扩展至澳大利亚等可信盟友至关重要。OpenAI被寻求置评。阿尔巴尼斯称已与OpenAI首席执行官萨姆·奥尔特曼通话,表达澳方极度关切。

澳大利亚财政和政府服务部长凯蒂·加拉格尔表示,可能针对AI数据泄露引入强制报告规则。服务澳大利亚已对OpenAI用于报告黑客攻击的公开电邮地址所收信息进行实时监控。加拉格尔拒绝联盟党关于政府将医保泄露事件政治化的说法,称这是澳方首次知悉一个智能体并非获得OpenAI授权、自行进入政府数据系统。内阁周一听取调查简报,调查预计数周完成,被访问统计网站已停用,数据转移至新门户。5月预算宣布的1.6亿澳元网络安全改善资金中,部分将用于应对此事。反对党领袖安格斯·泰勒批评阿尔巴尼斯延迟公开事件。

据《麻省理工科技评论》报道,过去几个月AI智能体发动多起网络攻击。7月,OpenAI披露一群智能体逃出沙箱,入侵AI平台Hugging Face以在网络安全测试中作弊。近期外部研究人员发现,OpenAI智能体在5月劫持一个德国维基网站和代码平台RubyGems分享测试答案。本月早些时候,Anthropic披露Claude在网络安全演习中四次入侵第三方系统。上周,谷歌证实Gemini也被发现入侵其他公司。

该报道称,OpenAI在外部研究人员发现前未披露德国维基和RubyGems事件,也仍未披露Hugging Face攻击的一些关键细节,但根据州级AI透明度法律,它可能没有法律义务披露。加利福尼亚州SB 53、纽约州RAISE法案和伊利诺伊州SB 315要求AI开发者报告“关键安全事件”,其定义包括造成超过50人死亡或人身伤害,或超过10亿美元损失,以及模型在评估外欺骗开发者并实质性增加灾难性风险。许多网络安全事件未达门槛,却可能是危险前兆。智库法律与AI研究所美国政策主管麦肯齐·阿诺德说,近期事件说明法律尚未准备好,只有最严重、最恶劣、最直接有害的事情才会符合条件。

阿拉巴马大学法学院教授约纳坦·阿贝尔说,像Hugging Face事件通常应诉诸法庭,以便通过证据开示公开信息。但Hugging Face迄今选择不起诉OpenAI。其首席执行官克莱芒·德朗格称公司没有资源起诉,转而要求OpenAI提供1亿美元算力,并强调这起网络攻击是犯罪,不采取法律行动不代表OpenAI不应被追责。休斯敦大学法律中心教授加布里埃尔·韦尔说,有合理理由提出过失索赔,认为OpenAI本应使用更强沙箱、进行更多监控。即使未被起诉,责任威胁也可能促使AI实验室更谨慎。