在文本输出中,一个不可见且可被机器识别的水印正被应用于 ChatGPT 和 Codex,但最初仅针对欧盟用户。
OpenAI表示,其 textGrain 水印技术“与”其他方法相匹配或优于 Google DeepMind 的 SynthID 文本水印技术,后者也是 Anthropic 在八月发布的水印技术的基础。与 OpenAI 一样,Anthropic 也采取了这一措施,以符合欧盟的人工智能法案的要求;然而,并非所有人都对这一变化感到满意。
OpenAI 还提供了 AI 基准测试的得分结果,显示带有水印和未带水印的文本表现相似。不过它指出 textGrain “无法确保可靠的检测效果”,并说明文本水印无法验证准确性、确定文本的所有者、衡量人类贡献的程度或证明人类作者身份。
关注这个故事中的主题和作者,即可在您的个性化主页信息流中看到更多类似内容,并接收电子邮件更新。在欧盟推广文本水印功能。 在接下来的几周里,我们仅会在欧盟所有套餐中的符合条件的 ChatGPT 和 Codex 用户上引入文本水印功能。我们在推出时不会将文本水印作为全球默认设置。这种区域性的做法让我们有机会从实际使用中学习和获取反馈。
为 API 客户启用自愿添加水印功能。从今天开始,全球的 API 客户将能够选择对某些模型输出进行水印处理。这样,客户可以自行决定水印是否适合他们的透明度要求以及用户体验。我们还在与云合作伙伴合作,在未来几周内让通过其服务访问的 OpenAI 模型输出也支持水印功能。
为研究人员和专家组织提供检测工具的使用权限。已获批准的研究人员和专家组织可以从今天开始申请。根据操作规范,初始权限将按具体情况授予,以支持文本来源的评估与改进。该工具会报告是否检测到 OpenAI 水印,但不会识别用户或透露他们的提示或对话内容。由于存在错过水印和误报的风险,我们在发布时不会将其公开提供。
