OpenAI将在欧盟默认给ChatGPT输出加水印，其他地区默认关闭

据Ars Technica报道，OpenAI宣布将自动为ChatGPT在欧盟生成的文本添加水印，其他地区可以使用这一功能，但默认处于关闭状态。这一安排的直接动因是今年8月生效的欧盟《人工智能法案》。

该法案要求，人工智能模型生成的内容必须以另一种工具能够检测的方式加以标记。OpenAI因此在欧盟默认开启水印，欧盟以外则保持关闭。

问题在于，目前尚不存在完全有效且可靠的方式来完成这种标记。已经出现的若干标准，例如SynthID和C2PA项目，对具备基本技术知识的人来说都不难绕过。报道称，OpenAI的水印很可能面临同样的情况。

OpenAI采用的方法属于专有技术，公司称之为textGrain，并已发布一篇技术论文解释其原理。其做法与其他大模型水印工具相似：在词汇选择中植入某种模式，人类读者难以察觉，也不会明显改变输出内容的整体质量，但持有密钥的人可以用专门的检测器把它识别出来。

OpenAI表示，将向数量有限的研究人员和机构开放检测器的使用权限，并为其他希望获得权限的申请者设置审批流程，此后逐步扩大范围。

报道指出，现有各类标记手段都对具备基本知识的人较易绕过，OpenAI的方案是否例外尚不清楚。