据Android Authority报道,OpenAI于10月5日表示,将在未来几周内为欧洲用户通过ChatGPT和Codex生成的文本加入不可见水印。这一计划首先覆盖欧洲,原因是欧盟《人工智能法案》要求AI提供商以机器可读方式标识生成文本。
OpenAI称,水印将面向欧洲所有套餐用户推出;全球API客户也可为特定模型选择启用文本水印。该公司同时开放文本水印检测器的申请,初期仅限获批研究人员和专业机构使用,以测试这项技术。
OpenAI将这项水印技术称为“textGrain”。据其介绍,该技术会在模型选择词语时加入统计信号,检测器再寻找这一信号,以判断文本是否由ChatGPT或Codex生成。OpenAI表示,textGrain在测试中达到甚至超过其测试过的所有方法,但并非总能按预期工作。
OpenAI指出,检测器可能出现两类错误:在没有水印时报告存在水印,即假阳性;或在存在水印时漏检,即假阴性。该公司还表示,文本越短越难检测,编辑也会削弱水印。此外,水印检测系统无法判断人工对文本的贡献程度,也不能确定文本归谁所有、由谁创建,或其中信息是否准确。
目前,OpenAI不会立即在全球推出文本水印,而是先在欧洲面向所有套餐用户实施。该公司称,分地区推进可以留出空间,从真实使用反馈中学习。