OpenAI wird mit der Einführung eines unsichtbaren Watchers in den von ChatGPT und Codex generierten Texten in der Europäischen Union beginnen, um den EU-AI-Gesetzgebungen zu entsprechen, teilte das Unternehmen am Montag in einem Blogpost mit.
Die Transparenzregeln der EU-AI-Gesetzgebung, die am 2. August in Kraft traten, verlangen von AI-Unternehmen, dass das von AI erstellte Inhalt auf eine Weise markiert wird, die andere Systeme erkennen können.
OpenAI sagte, dass das Watermark in den kommenden Wochen an Nutzer von ChatGPT und Codex unter allen Planen verfügbar sein wird – allerdings nur in der EU. Entwickler, die über die API von OpenAI weltweit verfügen, können es heute anfangs für bestimmte Modelle aktivieren; standardmäßig ist es deaktiviert. OpenAI sagte, dass es beim Launch keine globale Standardeinstellung für den Textwatermark nicht geben wird.
Der Watermark ist kein echtes Symbol, sondern verändert subtil die Wortwahl der Modelle, sodass ein Muster entsteht, das die Leser nicht sehen können, aber von einem Detektor erkannt werden kann. Da er in den Worten selbst steckt, wird er mit dem Text, wenn dieser kopiert und eingefügt wird, mitgenommen. OpenAI sagte, dass der Watermark den Benutzer nicht identifiziert und dass es keine bedeutende Veränderung in der Leistung der Modelle gab, wenn er aktiviert ist.
OpenAI veröffentlichte auch einen technischen Bericht über seine Methode, die textGrain heißt, zusammen mit der Ankündigung. Er wurde gemeinsam mit Forschern von der University of Pennsylvania und Yale verfasst und beschreibt ein Beispiel dafür, wie eine geheime Schlüsselstelle verwendet wird, um die nächsten Wörter vorherzusagen und den Satz zu beenden. Wenn Hunderte dieser Hinweise zusammengefügt werden, kann der Detektor Inhalte, die von einer KI erstellt wurden, allein anhand des Textes und des Schlüssels erkennen.
Kann das Wassermuster durch Bearbeitung entfernt werden? Die Tests von OpenAI deuten darauf hin, dass ja möglich ist. In einem Test führte die Ersetzung von 10% der Wörter durch Synonyme dazu, dass die Detektion von etwa 92% auf 66% sank. Das Unternehmen sagte auch, dass kurze Abschnitte, mathematische Antworten und übersetztes Text vermutlich schwieriger zu erkennen sind.
„Diese Beschränkungen tragen dazu bei, dass wir beschlossen haben, den ersten Zugang zum Detektor nur an genehmigte Forscher und Expertenorganisationen zu gewähren, die uns dabei helfen können, die Zuverlässigkeit und verantwortungsvolle Nutzung zu bewerten“, sagte das Unternehmen.
OpenAI warf außerdem vor, dass ein fehlender Watermark „nicht die menschliche Autorenschaft beweist“. Der Text könnte zu kurz sein oder stark bearbeitet sein, oder er könnte von der KI einer anderen Firma stammen.
„[Wasserzeichen] können darauf hinweisen, dass ein OpenAI-System einen Teil eines Textabschnitts generiert oder verarbeitet hat, aber nicht, wie viel menschliches Urteil, Bearbeitung oder Kreativität daran hinzukommt“, sagte das Unternehmen.
Die Ankündigung erfolgt zwei Monate nach dem Bericht von Anthropic, in dem es heißt, dass das Unternehmen Watermark-Texte verwenden werde, die von Claude erstellt wurden. Dieser Schritt wird weltweit umgesetzt. Die Entscheidung hat bei einigen Claude-Benutzern negative Reaktionen ausgelöst, die behaupteten, sie hätten „die Anweisungen, den Kontext und die Entscheidungen“ geliefert, während Claude lediglich das „Werkzeug“ war.
OpenAI hatte bereits einen Textwatermark entwickelt, hielt ihn aber bisher nicht veröffentlicht – teilweise aus Bedenken, dass Nutzer zu Konkurrenten wechseln könnten, die keinen Watermark haben wie das Wall Street Journal berichtete – im Jahr 2024.
Anthropic, Google, Meta, Microsoft und OpenAI gehören zu den Unternehmen, die sich dazu verpflichtet haben, das EU-Code of Practice bezüglich von AI-generierten Inhalten zu befolgen.