OpenAI 表示，为了遵守欧盟人工智能法案，将开始在欧盟范围内对 ChatGPT 和 Codex 生成的文本添加不可见的水印。该消息是该公司周一在博客文章中公布的。
欧盟人工智能法案的透明度规则，于8月2日生效，要求人工智能公司以其他系统能够识别的方式标记由人工智能生成的内容。
OpenAI 表示，水印将在未来几周内适用于所有套餐的合格 ChatGPT 和 Codex 用户，但仅限欧盟地区。全球任何地方的开发者可以从今天开始为部分模型开启此功能；默认情况下该功能是关闭的。OpenAI 表示，在正式推出时不会将文本水印设为全球默认设置。
水印并非真正的符号，而是通过微妙地影响模型的词汇选择来发挥作用，形成一种读者无法看见但检测器能够识别的图案。由于水印存在于文字本身中，因此在复制和粘贴文本时也会随之传播。OpenAI表示，该水印不会识别出用户身份，并且开启后其模型性能也没有任何有意义的变化。
OpenAI 也发布了一篇 技术报告 其名为 textGrain 的方法被一同发布。该方法与宾夕法尼亚大学和耶鲁大学的研究人员共同撰写，通过一个示例展示了如何使用秘密密钥来排序下一个词以完成句子。将数百次这样的提示结合起来，检测器就能仅通过文本和密钥识别人工智能生成的内容。
通过编辑可以删除水印吗？OpenAI的测试表明可以。在一项测试中，用同义词替换10%的单词后，检测率从约92%降到了66%。该公司还表示，短段落、数学答案和翻译文本更难以被检测到。
“这些限制使得我们决定仅向经过批准的研究人员和专业机构提供初始检测器访问权限，他们能够帮助我们评估其可靠性及合理使用情况，”该公司表示。
OpenAI还警告说，缺失的水印“并不能证明是人类所写”。该文本可能太短，或经过过度编辑，或者可能来自其他公司的 AI。
“[水印]可以表明该文本是由 OpenAI 系统生成或处理的，但无法说明其中有多少是人为判断、编辑或创意的贡献，”该公司表示。
该公告是在Anthropic称将添加水印两个月后发布的，该水印是由 Claude 生成的。Anthropic 正在全球范围内实施这一举措。这一决定引发了部分 Claude 用户的反对，他们认为自己提供了“指令、背景和决策”，而 Claude 只是“工具”而已。
OpenAI 之前已经开发出了文本水印功能，但一直未发布它，部分原因是担心用户会转向没有水印的竞争对手。《华尔街日报》在2024年报道了此事。
Anthropic、Google、Meta、Microsoft和OpenAI等公司都承诺遵循欧盟的AI生成内容规范。