IT之家 AI

OpenAIはEUでChatGPTおよびCodexのテキスト出力に隠し水印を追加する予定です

IT之家…

IT之家のユーザー 咩咩洋 からの手がかりを提供してくれたことに感謝!

IT之家 10月5日の報道によると、OpenAIは本日、欧州連合の人工知能法の内容透明性要件に応じて、今後数週間で欧州連合地域において条件を満たすChatGPTおよびCodexのテキスト出力に、機械が認識できる隠し水印を追加すると発表した。

報道によると、テキストウォータイン技術の名前はtextGrain(テキスト粒水印)であり、モデル選定の過程で見えない統計信号が埋め込まれます。検出器はこの信号を認識することにより、あるテキストにOpenAIの水印があるかどうかを判断します。

IT之家によると、OpenAIは次に欧州連合でテキストウォーターマークを推進する予定です。今後数週間で、チームは欧州連合内の全てのプロジェクトにおいて、条件を満たすChatGPTおよびCodexのユーザーにのみテキストウォーターマーク機能を導入します。注目すべき点は、OpenAIは発表時にテキストウォーターマークを世界的なデフォルトに設定しないということです。

OpenAIは、API利用者が選択して追加できるウィンター機能を導入する。本日から、世界中のAPI利用者は、一部のモデルにウィンターテキストを出力することができる。これにより、利用者はウィンターの内容が透明性義務やユーザー体験にどのように合致するかを決定できる。また、チームはクラウドパートナーと協力して、今後数週間以内に自身のサービスを通じてOpenAIモデルにアクセスする場合の出力にウィンター機能を提供する予定だ。

OpenAIは、研究者や専門家組織に対して探査機のアクセスを提供することも行う。承認された研究者や専門家組織は、今日から申請することができる。行動規範に基づくアクセスは、テキストの出所の評価と改善を支援するために、具体的な状況に応じて個別に与えられる。このツールは、OpenAIのウォータープリントが検出されたかどうかを報告するが、ユーザーの身元やヒント内容、対話内容は明らかにしない。

原文の出典

IT之家 AI

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください