OpenAI wird ChatGPT-Texte in der EU mit Wasserzeichen versehen, macht dies aber für API-Nutzer weltweit optional

OpenAI wird ChatGPT-Texte in der EU mit Wasserzeichen versehen, macht dies aber für API-Nutzer weltweit optional

OpenAI fügt ChatGPT-Texten unsichtbare Wasserzeichen hinzu, um EU-Vorschriften zu erfüllen. Anders als Anthropic wird das Unternehmen API-Kunden weltweit ermöglichen, diese abzuschalten.

Die Reports zufolge verlangt der EU AI Act von KI-Anbietern, generierten Text in einem maschinenlesbaren Format zu kennzeichnen. OpenAIs Antwort darauf ist textGrain, eine Technologie, die ein unsichtbares statistisches Signal in die Wortwahl des Modells einbettet. Sie funktioniert ähnlich wie Claudes SynthID-Wasserzeichen, das auf Googles Open-Source-Technologie.

OpenAI sagt, es werde in den kommenden Wochen die Wasserzeichenfunktion für ChatGPT- und Codex-Nutzer in der Europäischen Union aktivieren. API-Wasserzeichen werden weltweit auf Opt-in-Basis sein, anders als Anthropics verpflichtende Wasserzeichenfunktion für Claude, die global gilt, unabhängig davon, wie Nutzer auf die Modelle zugreifen. OpenAIs API-Wasserzeichen werden in den kommenden Wochen auch über Cloud-Partner wie Microsoft Azure verfügbar sein.

Textbearbeitungen senken die Erkennungsraten drastisch

OpenAI sagt, textGrain habe in internen Tests andere Ansätze erreicht oder übertroffen, darunter Googles SynthID für Text. Das Unternehmen plant außerdem, die Technologie als Open Source zu veröffentlichen, damit andere darauf aufbauen können.Ad

Die Erkennungsraten hängen stark von der Textlänge und dem Thema ab. Bei einer auf eine Zielfehlerrate von 1 Prozent eingestellten Erkennung identifizierte der Detektor Wasserzeichen in etwa 95 Prozent der 400-Token-Passagen über Psychologie. Bei 200 Token sank das auf etwa 80 Prozent.

Für Mathe-Inhalte seien die Erkennungsraten "deutlich niedriger", sagt OpenAI, da das Modell dort weniger Freiheit bei der Wortwahl hat. Längere Passagen könnten das statistische Signal verstärken und die Erkennung verbessern, wobei die Ergebnisse dennoch vom Inhalt abhängen könnten. OpenAI liefert keine Daten, um diese Annahme zu testen.

Auch das Bearbeiten des Textes macht das Wasserzeichen schwerer erkennbar. OpenAI sagt, dass das Ersetzen von nur 10 Prozent der Wörter durch Synonyme die Erkennungsrate für 400-Token-Passagen von etwa 92 Prozent auf 66 Prozent senkt. Werden ein Viertel der Wörter ersetzt, sinkt die Erkennung auf 17 Prozent, wodurch sich das Wasserzeichen leicht umgehen lässt. Diese Schwäche könnte OpenAI in die Hände spielen. Nutzer, die nicht wollen, dass ihre ChatGPT-Nutzung erkannt wird, könnten zu Open-Weight-Modellen wechseln, wenn seine Wasserzeichen schwerer zu entfernen sind.

Ein technischer Bericht erklärt im Detail, wie textGrain funktioniert. Anthropic hat für Claudes Wasserzeichen keine Erkennungsraten veröffentlicht, sagt aber, sein System halte Bearbeitungen gut stand.Ad

OpenAI sagt, die Wasserzeichenführung beeinträchtige die Ausgabequalität nicht, und verweist auf Tests seines Frontier-Modells Astra. Das Unternehmen berichtet von keinen signifikanten Leistungsunterschieden mit aktivierten oder deaktivierten Wasserzeichen über acht Benchmarks hinweg, darunter GPQA Diamond, BrowseComp und DeepSWE. Diese Ergebnisse zeigen nicht, ob die Wasserzeichen die Schreibqualität beeinträchtigen, was Kritiker auch bei Claudes Wasserzeichen hinterfragt haben.

OpenAI sagt außerdem, ein erkanntes Wasserzeichen verrate nichts darüber, wie viel menschliche Kreativität oder Bearbeitung in den Text eingeflossen ist. Es begründet kein Eigentum, weist keine Verantwortung zu, identifiziert keinen Nutzer und zeigt nicht, ob der Text korrekt ist; und ein nicht erkanntes Wasserzeichen beweist ebenfalls nicht, dass ein Mensch den Text geschrieben hat. Die Passage könnte zu kurz sein, bearbeitet oder übersetzt worden sein oder von einem Modell stammen, das der Detektor nicht unterstützt.

OpenAI wird den Detektorzugang vorerst einschränken

Nur ausgewählte Forscher und Fachorganisationen erhalten zunächst Zugang zu textGrains Detektor. Sie können sich über einen Bewerbungsformular„. OpenAI wird den Zugang im Einzelfall nach der EU-“ Verhaltenskodex„. Anthropic verfolgt einen ähnlichen" Ansatz mit seiner Detection API.

Das Tool meldet nur, ob es ein OpenAI-Wasserzeichen erkannt hat. Es wird weder Benutzer identifizieren noch deren Eingaben oder Konversationen offenlegen.

OpenAI sagt, es schränke den Zugang ein, weil der Detektor unkennzeichneten Text markieren oder Wasserzeichen übersehen kann. Das Unternehmen plant, den Zugang zu erweitern, "wenn wir glauben, dass die Ergebnisse verantwortungsvoll interpretiert werden können". Es hat nicht gesagt, wann das passieren könnte.

Bestehende Verifizierungstools für Bilder und Audio bleiben öffentlich verfügbar, darunter openai.com/verify und die Content Provenance API.

KI-Nachrichten ohne Hype – kuratiert von Menschen

Abonnieren Sie THE DECODER für werbefreies Lesen, einen wöchentlichen KI-Newsletter, unseren exklusiven "AI Radar" Frontier-Report sechs Mal im Jahr, vollen Archivzugang und Zugang zu unserem Kommentarbereich.