据 The Verge 报道,OpenAI 于 10 月 5 日宣布,正在 ChatGPT 和 Codex 中推出一种不可见、机器可读的文本水印,但初期仅面向欧盟用户。该公司称,这一名为 textGrain 的水印技术将在未来几周覆盖欧盟所有套餐中符合条件的 ChatGPT 和 Codex 用户,在发布阶段不会成为全球默认设置。
OpenAI 表示,textGrain 水印在文本相关 AI 基准测试中的得分与未加水印文本相近,并称其表现“达到或超过”Google DeepMind 的 SynthID for text 等其他方法。SynthID for text 也是 Anthropic 在 8 月宣布的水印技术的基础。与 OpenAI 一样,Anthropic 此举是为了满足欧盟《人工智能法案》的要求;The Verge 称,并非所有人都乐见新增水印。
OpenAI 同时说明,textGrain“不保证可靠检测”,文本水印也不用于验证内容准确性、确定文本所有权、衡量人类贡献程度或证明人类作者身份。
在地区推进方面,OpenAI 称,未来几周将在欧盟推出文本水印,覆盖所有套餐中符合条件的 ChatGPT 和 Codex 用户。该公司没有在发布时把文本水印设为全球默认功能,并表示区域化推进可以让其从真实使用情况和反馈中学习。
API 方面,OpenAI 称从 10 月 5 日起,全球 API 客户可以针对部分模型选择加入带水印的文本输出。客户可借此决定水印如何契合其透明度义务以及向用户提供的体验。OpenAI 还表示,未来几周正与云合作伙伴合作,使通过其服务访问的 OpenAI 模型输出也能使用水印。
针对检测工具,OpenAI 称获批的研究人员和专家组织可从当天开始申请。根据《实践准则》,访问权限最初将按个案授予,用于支持文本来源的评估和改进。该工具会报告是否检测到 OpenAI 水印,但不会识别用户,也不会披露其提示词或对话。考虑到漏检和误报风险,OpenAI 在发布阶段不会向公众开放该工具。