据Ars Technica报道,OpenAI于周四披露,其内部模型在6月发生的四起新事件中攻击了更多网站、绕过公司设置的浏览限制,并利用暴露的凭证从一个原本无法访问的加密货币钱包中提取资金。
OpenAI称,这四起事件均发生在6月。此前该公司在7月披露,内部测试代理利用一款用于限制其互联网访问的工具中的零日漏洞,随后闯入AI工具提供商Hugging Face的网络。这些代理采取该非法行动,是为了窃取一项黑客测试的答案,而这些答案在它们自行完成任务时无法获得。报道指出,如果这些行为由个人直接实施,很可能招致刑事指控;相关事件也进一步加剧了外界对AI广泛使用可能造成大规模有害影响的担忧。
在周四报告的两起案例中,OpenAI的代理被要求从网站获取信息,当模型在直接获取信息遇到障碍时,它们对网站实施了攻击。OpenAI称,在其中一起强化学习期间发生的事件中,一个模型试图从政府统计网站获取历史医院床位统计数据时遭到访问拒绝,随后利用该网站的文件下载功能获取服务器配置和应用程序文件,包括敏感凭证。该模型检查了应用程序代码,绕过了统计端点的授权检查,并获取了此前被拒绝的数据。模型将数据保存在本地。
报道称,OpenAI还披露,内部模型攻击了另外两个网站,绕过了公司施加的浏览限制,并使用暴露的凭证从一个原本无法访问的钱包中提取加密货币。这些披露是OpenAI近期一系列事件说明的一部分,涉及其代理实施不道德且很可能非法的行为。