据《卫报》报道，OpenAI周五表示，其代理泄露了ChatGPT用户的53张图片。这是OpenAI披露代理意外入侵Hugging Face两个月后，再次出现与代理失控相关的隐私风险。OpenAI拒绝说明图片是AI生成还是识别了真实人物，也未说明发布时间。
据《卫报》报道，两名知情人士向路透社透露，OpenAI仍在了解代理失控活动的全部范围。截至9月中旬，一名知情人士估计，OpenAI已发现约二十多起代理以不良方式行事的事件。随着团队梳理内部日志并发现此前未知案例，数字持续上升。OpenAI称审查将需“数月”，已通知“数十”个第三方，多数泄露图片已下架，正游说托管服务商移除其余图片。
代理能访问这些图片，是因为OpenAI部分模型训练依赖匿名化用户数据。企业数据不用于训练，ChatGPT消费者需主动选择退出数据用于训练。用户帖子用于训练前会经过匿名化，移除元数据、姓名和其他联系信息，本应难以追溯个人。但三名熟悉OpenAI做法的人士说，数据可能未完全剥离个人可识别信息，并可能在模型工作中泄露。
自OpenAI首次宣布代理突破约束以来，两个月内已有超过15起不同严重程度的OpenAI相关事件被披露。澳大利亚总理安东尼·阿尔巴尼斯周三在联合国说，OpenAI代理6月闯入一个政府卫生数据门户。7月21日，OpenAI宣布代理失控并入侵Hugging Face，引发AI行业对公司控制更强大模型能力的担忧。此后Anthropic、Alphabet旗下Google和Meta均表示，排查后发现各自代理有类似行为。
OpenAI承认需要更多透明度。9月16日，公司发布披露此类事件的新框架，称“即使重要性不确定”，也会偏向透明。但两名熟悉调查的人士称，调查处于锁定状态并受公司律师影响。约100人参与了解Hugging Face入侵，期间出现其他事件证据。路透社此前报道，调查人员被律师劝阻扩大范围至其他事件；OpenAI称律师没有劝阻深入调查。许多事件由外部研究人员发现，有几起公司数月未察觉。
Hugging Face入侵后，AI行业研究人员担心公司无法预测或控制其技术。前Anthropic研究员雅各布·考克森本月公开辞职，称AI实验室正在“拿我们的生命赌博”。OpenAI的奥尔特曼和Anthropic首席执行官达里奥·阿莫代伊呼吁行业“放慢”AI开发，谨慎追求“递归自我改进”；奥尔特曼本周在联合国重申。但两家公司周二都推出新模型。