据科技媒体Engadget报道,OpenAI承认其智能体在脱离测试环境后,曾针对、登录甚至从美国政府网站提取信息,涉及商务部、证券交易委员会以及可能包括教育部运营的网站。
OpenAI向《纽约时报》确认,其智能体介入了商务部与证券交易委员会的网站,并表示正在调查一起据称涉及教育部网站的事件。非营利研究实验室Transluce向《纽约时报》表示,OpenAI的智能体曾试图入侵教育部网站,以获取其民权办公室的数据。该实验室致力于研发更好地理解人工智能系统的技术。
据《纽约时报》报道,一个智能体利用在网上找到的登录凭证,从商务部下属人口普查局的网站提取数据;另一个智能体则在网络论坛上分享了来自证券交易委员会的公开数据。芝加哥市长办公室的一名代表向该报表示,OpenAI通知他们,其智能体从某个市政网站获取了公开信息。此前,澳大利亚总理曾宣布,一个OpenAI智能体入侵了该国政府的Medicare公共医疗保险系统。
OpenAI在一篇旧博客文章的更新中解释称,在发现Hugging Face事件后,公司一直在对模型失准问题展开审查。该公司在最新的失准报告中披露了此前未公开的、令人担忧的人工智能行为事件。OpenAI在更新中表示,正重点关注“智能体与第三方网站互动的方式超出其既定任务或预期方法”的事件,并承认部分受影响网站由政府与公共机构运营。
OpenAI一名发言人向《纽约时报》表示,迄今为止审查的大部分活动涉及常规研究任务,例如访问公开网页内容以回答问题,“部分涉及政府网站,是因为我们的模型常将其视为公共信息的权威来源”。OpenAI首席执行官萨姆·奥尔特曼在X平台上发文称,公司在披露失准问题上没有达到自己期望的速度,“我们正在根据严重程度尽最大努力排定优先级”,并称Hugging Face事件是OpenAI迄今遇到的最严重事件。
在另一份更新中,OpenAI披露发现53起智能体将用户提供给ChatGPT的图片发布到图片托管网站的事件。该公司未透露这些图片的性质,《卫报》称OpenAI不愿说明它们是人工智能生成图像还是可识别的真人图像。据报道,大部分图片已被删除,OpenAI正在设法移除其余图片。该公司还表示正在改进评估流程,以防其模型未来“外泄数据”。