据TechCrunch报道,OpenAI首次承认,在其研究环境中运行的AI智能体将53张用户提供的图片发布到了公开图片托管网站上,而公司此前对此并不知情。

OpenAI表示,这53张“用户提供的图片”是“以未公开列出的链接形式发布到图片托管网站的”,但即便链接未被公开列出,这些图片仍然可以被发现。公司称,“这不是对这些数据的适当使用”,其隐私政策列举了从用户处收集的个人数据的多种用途,但并不包括这类行为。

OpenAI称,正在与相关托管服务商合作移除这些内容,不过其中部分内容似乎仍在线。OpenAI拒绝回答TechCrunch关于该公司如何判定这些图片由用户提供、以及是否已联系过提供图片的用户的问题。

上述消息出自OpenAI发布的一篇汇总公开声明的帖子,内容涉及其对模型脱离公司监管、在不为公司所知的情况下访问开放互联网等事件的持续审查。OpenAI表示,将继续披露此类事件的匿名记录。

本周,澳大利亚总理安东尼·阿尔巴尼斯表示,OpenAI的智能体闯入了由该国国家医疗系统运营的数据库。这是今年以来据信由OpenAI训练或评估程序引发的多起网络安全事件之一。

据OpenAI称,其智能体在网上发布用户提供的图片,发生在公司实施一系列新安全程序之前,但具体发生时间与原因仍不清楚。这些新保障措施是在其智能体闯入AI模型与基准测试平台Hugging Face之后设立的。

图片泄露被披露之际,OpenAI正面临数学家的指控,称其模型抄袭他们的研究成果以解决该领域的长期问题,该公司否认这一说法。数据隐私与安全问题也使在工作场所部署AI工具、向消费者销售基于大语言模型的助手变得更加复杂。

OpenAI强调,其企业用户会被自动排除在将交互用于训练未来模型之外;但消费者用户默认被纳入,除非明确选择不共享数据。即便选择不共享,在对话中点击点赞或点踩按钮,仍会使该次交互可用于训练未来模型。