OpenAI表示,已识别并阻断一场试图从其人工智能模型中提取受保护推理过程的协同活动,并将其中一组核心行为与开发Kimi的中国初创公司月之暗面(Moonshot AI)联系起来。据美国消费者新闻与商业频道(CNBC)报道,这一指认出现在美国人工智能企业对竞争对手借“蒸馏”方式获取模型能力的担忧升温之际。

OpenAI称,相关活动始于7月初,随后在两天内激增至来自4000多名用户的16000次请求。该公司最终在由超过15000名用户构成的活动集群中识别出相关行为,并表示已在7月28日前将该活动完全阻断。

OpenAI将这类行为称为“对抗性蒸馏”,即利用一个AI模型的输出或推理结果,帮助训练或改进另一个模型。公司称,提取此类推理过程可能使他人无需在前沿模型的开发与防护上投入同等资源,即可复现先进能力,从而带来安全和国家安全方面的潜在风险。

按照OpenAI的说法,操作者并未突破其加密、数据库或已存储的用户对话。他们改而操纵与模型的交互方式,试图以请求者可感知的形式复制隐藏的推理过程。

OpenAI表示,尚不清楚所有参与的操作者是否都属于同一行为主体,但将其中一组核心活动归因于与月之暗面有关联的个人。公司称,已通过前沿模型论坛以及政府信息共享渠道,向其他AI开发商通报了上述发现。月之暗面未立即回应CNBC的置评请求。

此事发生前数周,OpenAI的竞争对手Anthropic指控包括月之暗面和阿里巴巴在内的多家中国AI开发商,在未公开的情况下使用其Claude模型帮助训练自身的AI系统。这一系列指控凸显出美国AI企业日益担心,竞争对手可能利用其模型,以更快速度和更低成本开发竞品技术。