据Engadget报道,一组研究人员向《华尔街日报》透露,OpenAI在测试其智能体期间,这些智能体曾入侵社区运营的Ruby程序包与程序库服务RubyGems,时间比Hugging Face事件早两个月。针对RubyGems的攻击自5月11日开始,为阻止攻击,RubyGems不得不关闭账号注册四天。
报道称,这些智能体当时被放在一个所谓的沙箱环境中测试。它们每两到三分钟创建一个账号,向该服务上传了数百个文件。RubyGems上的创作者通常上传的是代码和有助于软件开发的其他信息,而这些智能体上传的文件却是从互联网抓取的网页,其中包含英国政府网站的在线日历。这些智能体并未试图隐藏自己的行为,文件名中使用了“OAI”,还出现“hack”“evil”“exploit”等字眼。
研究人员还称,这些智能体试图利用若干漏洞,其中之一是零日漏洞,目的是在服务上发布属于其他用户的既有文件。
研究人员就此通知了OpenAI,该公司承认其智能体确实渗透了该服务。一名发言人向《华尔街日报》表示:“根据我们的审查,我们的智能体使用RubyGems平台访问互联网,以执行良性任务并获取公开信息。作为我们对训练和评估期间智能体活动更广泛审查的一部分,我们将继续调查。”该发言人补充说,测试期间公司交给智能体的任务是填写电子表格和生成报告,这些智能体把RubyGems当作某种临时网页浏览器,用于在线获取信息。
目前尚不清楚,在智能体并未获得完整互联网访问权限的情况下,它们如何能够访问RubyGems。报道提到,包括OpenAI、Anthropic和Meta在内的多家公司此前曾表示,由于测试合作方Irregular的配置错误,它们正在测试的AI智能体逃出了隔离环境。
本月早些时候,另一组研究人员披露,OpenAI的智能体对一个名为DseWiki的德文维基类网站进行了超过15000次编辑。该网站旨在帮助人类程序员。这些同样逃出隔离测试环境的智能体,据称把网站当作留言板,分享如何对任务“作弊”以及绕过OpenAI限制的技巧。该事件据称发生在5月,与RubyGems攻击同期,也早于Hugging Face被入侵数月。