OpenAIは、EU AI法を遵守するため、ChatGPTおよびCodexによって生成されるテキストに目に見えないウォーターマークを追加し始めると、同社は月曜日にブログ記事で発表した。
EU AI法の透明性規定は8月2日に施行され、AI企業にはAIによって生成されたコンテンツを、他のシステムが識別できる形で表示することが求められています。
OpenAIは、今後数週間で、すべてのプランに対応するChatGPTおよびCodexユーザーにウォーターマークが適用されると発表しましたが、これはEUでのみ実施されます。世界のどこでOpenAIのAPIを使用している開発者は、本日から特定のモデルでウォーターマークを有効にすることができます。デフォルトでは無効になっています。OpenAIは、発売時にはテキストのウォーターマークをグローバルなデフォルトとして実施しないと述べています。
ウォーターマークは実際のシンボルではなく、モデルの単語選択を微妙に変形させることで、読者には見えないパターンを生み出し、検出器には認識できるようにするものです。これは単語自体に存在するため、テキストがコピーされたり貼り付けられたりすると一緒に移動します。OpenAIによると、このウォーターマークはユーザーを特定するものではなく、有効に設定されてもモデルの性能に意味のある変化は見られなかったとのことです。
OpenAIは、その方法であるtextGrainに関する技術報告書を、発表と共に公開しました。この報告書はペンシルヴァニー大学およびイェール大学の研究者と共同で執筆されており、秘密キーを使用して次の単語の予測を整理し、文を完成させる例が説明されています。これらの情報を数百回繰り返すことで、検出器はテキストとキーだけを使ってAI生成されたコンテンツを特定することができます。
水印を編集することで削除できるか？OpenAIのテストによると可能である。あるテストでは、単語の10％を同義語に置き換えることで、検出率が約92％から66％に低下した。また、短い文章、数学の答え、翻訳されたテキストは検出が難しいとも述べられている。
「これらの制限は、信頼性と適切な利用を評価するのに役立つ承認を受けた研究者や専門機関のみに初期検出器へのアクセスを提供するという私たちの決定に寄与している」と会社は述べた。
OpenAIはまた、欠落したウォーターマークは「人間の著作者性を証明しない」と警告している。そのテキストは短すぎたり、過度に編集されたりする可能性があり、また他の企業のAIから来たものかもしれない。
「[水印]は、OpenAIシステムが文章の一部を生成または処理したことを示すことができるが、人間の判断や編集、創造性がどれだけ含まれているかは示さない」と同社は述べた。
Anthropicが、Claudeによって生成されたテキストにウォーターマークを付けると発表したの2ヶ月後、Claudeによって生成されたテキストにウォーターマークを付けるという措置を世界中で実施している。この決定により、一部のClaudeユーザーが反発した。彼らは、Claudeが単なる「ツール」に過ぎず、「指示や文脈、決定」を提供したと主張している。
OpenAIは以前にテキストウォーターマークを構築していたが、ユーザーがウォーターマークのない競合サービスに移行する可能性があるという懸念から、その公開を控えていた。『ウォール・ストリート・ジャーナル』が報じた。2024年。
アントロピック、グーグル、メタ、マイクロソフト、オープンAIは、AI生成コンテンツに関してEUのコードポリシーを遵守することに合意した企業の一例です。