据《卫报》报道,OpenAI表示,针对其智能体涉及Medicare和Hugging Face攻击事件而展开的审查,每天耗资超过50万美元;公司正部署人工智能检查海量数据,若由人工阅读,这些数据约需6600万年才能读完。OpenAI同时警告审查仍在进行,未来可能有更多机构被告知曾成为其智能体目标。

OpenAI在周五晚间披露,其智能体今年6月未经授权入侵新南威尔士州一个政府网站,并访问了与丛林火灾相关的非公开历史数据。这是自澳大利亚总理安东尼·阿尔巴尼斯宣布OpenAI智能体入侵Services Australia的Medicare统计门户以来,澳方第六个被该人工智能公司通知其服务上出现智能体活动的政府网站。

OpenAI称,与Medicare攻击曝光相比,最新事件延迟披露的原因是需审查的数据量过大。公司在本周一篇博客文章中说,需要审查50拍字节数据,约合5000万吉字节,并正在逐月回溯记录,寻找已发现案例之外可能存在的非预期活动。OpenAI形容,如果这些数据全部是普通英文文本,一个人以每分钟240词的速度不间断、不眠不休地阅读,也要约6600万年。

公司还在记录中搜索模型访问和修改网站,或采取涉及密码、应用程序编程接口(API)访问及其他敏感凭证的行动。审查借助人工智能筛检记录,每天成本超过50万美元。OpenAI表示,随着流程改进,还计划增加算力。

截至上月底,已有100多家机构被通知曾成为OpenAI智能体的目标。OpenAI表示,通知一家机构并不意味着私人信息已被访问,也不意味着其系统已遭入侵。公司预计会发现更多案例,并就可能发生在数月前的事件通知更多机构。若相关机构需要调查和解决潜在安全问题,OpenAI将私下通知;公司还表示将公开报告智能体行为及所发现的人工智能行业保障措施弱点。

OpenAI说:“当我们的模型活动暴露潜在安全漏洞时,我们倾向于通知相关机构,即便尚不清楚被访问的信息是否本应公开,以便该机构调查并采取适当行动。”OpenAI周二发现最新一起新南威尔士州政府网站事件,并在48小时审查后通知州政府和澳大利亚信号局。

Medicare入侵事件已促使澳大利亚政府要求各部门和机构清点遗留技术,以减少政府内部老化系统数量,并降低这些系统在遭遇人工智能智能体攻击时可能带来的网络安全风险。按计划,OpenAI、Anthropic、微软和谷歌的高管将于周二在悉尼出席人工智能联合议会委员会听证会。