据CNBC报道,OpenAI于8月25日表示,已封禁一批源自俄罗斯的ChatGPT账户。该公司称,这些账户被用于支持一场旨在传播虚假信息的隐蔽网络影响力行动。

OpenAI在周二发布的博客中表示,调查AI生成的社交媒体帖子时发现了这一情况,并由此追踪到一场“更大的影响力行动”。该行动围绕一个网站展开,网站包含抄袭且错误署名的学术作品,还有一个将俄罗斯置于有利地位的“主权指数”,并试图掩盖操作者的俄罗斯背景。OpenAI不允许俄罗斯访问其模型,但操作者使用VPN隐藏了实际位置。

这并非亲俄势力首次利用AI传播虚假信息。今年2月,OpenAI曾关闭与亲俄媒体公司Rybar相关的ChatGPT账户。英国政府称,Rybar由俄罗斯总统管理局“部分协调”,受俄国家公司Rostec资助,并与俄情报部门人员合作。

OpenAI透露,操作者使用俄语提示生成社交媒体评论,并将内容发布在Substack、Telegram、X、Facebook和LinkedIn上,同时指示ChatGPT隐藏任何可能暴露俄语母语特征的线索。生成的大量内容推广一个名为“国际伯克研究所”的组织,其网站转载真实学术文章,有时附上虚假署名。该行动还创建了一个“主权指数”,赞美俄罗斯并贬低西方国家。

OpenAI表示,这场行动的直接影响看似有限,但其意义“不在于触及的受众,而在于它构建的基础设施”。ChatGPT生成的帖子将用户导向一个“外表可信的机构”,配有所谓的专家、重新发布的学术成果和专有的风险指数。OpenAI称,这表明影响力行动者可以把AI作为一种辅助工具,在更广泛的努力中制造权威、掩盖所偏袒叙事的来源,并建立可随时间扩展的资产;同时也表明,他们辅助使用AI可能导致整个行动被暴露。

CNBC已联系俄罗斯驻伦敦大使馆和俄罗斯外交部寻求评论。