Ein unsichtbarer, maschinenlesbarer Watermark in der Textausgabe wird für ChatGPT und Codex eingeführt, aber zunächst nur für Nutzer in der Europäischen Union.
OpenAI sagt, dass ihr textGrain-Watermarking „mit anderen Ansätzen wie Google DeepMinds SynthID für Text übereinstimmte oder übertrifft“, und dies ist auch die Grundlage für das Watermarking von Anthropic was im August bekannt wurde. Wie OpenAI hat auch Anthropic den Schritt unternommen, um die Anforderungen der EU-AI-Gesetz zu erfüllen; allerdings waren nicht alle erfreut über diese Ergänzung.
OpenAI hat außerdem Scores aus AI-Benchmarks eingeführt, die eine ähnliche Leistung bei watermarkiertem und unwatermarkiertem Text zeigen. Allerdings weist das Unternehmen darauf hin, dass textGrain „keine zuverlässige Detektion garantiert“, und erklärt, dass Text-Watermarken die Genauigkeit nicht überprüfen, nicht bestimmen können, wer dem Text gehört, nicht messen können, wie viel eine menschliche Leistung beiträgt, oder den menschlichen Autor nicht beweisen.
Folgen Sie den Themen und Autoren Von dieser Geschichte können Sie mehr solche Inhalte auf Ihrem persönlichen Homepage-Feed sehen und E-Mail-Updates erhalten.Die Einführung von Text-Watermarking in der EU. In den kommenden Wochen werden wir Text-Watermarking für die geeigneten ChatGPT- und Codex-Benutzer in allen Tarifen in der EU einführen – jedoch nur dort. Wir machen Text-Watermarking beim Start nicht zum globalen Standard. Dieser regionale Ansatz gibt uns Raum, aus der tatsächlichen Nutzung und den Rückmeldungen zu lernen.
Verfügbarkeit von opt-in-Watermarking für API-Kunden. Ab heute können API-Kunden auf der ganzen Welt opt-out für wassergesicherte Textausgaben für bestimmte Modelle wählen. Dadurch können die Kunden entscheiden, wie das Watermarking zu ihren Transparenzpflichten und den Erfahrungen für die Nutzer passt. Wir arbeiten auch mit Cloud-Partners zusammen, um das Watermarking in den kommenden Wochen für die über ihre Dienste zugänglichen OpenAI-Modellausgaben verfügbar zu machen.
Der Zugang zum Detektor wird Forschern und Expertenorganisationen gewährt. Genehmigte Forscher und Expertenorganisationen können ab heute beantragungen einreichen. Gemäß dem Handbuch werden der Zugang anhand von Einzelfällen gewährt, um die Bewertung und Verbesserung der Quellen des Textes zu unterstützen. Das Tool wird berichten, ob ein OpenAI-Watermark erkannt wird, ohne den Benutzer oder seine Anweisungen oder Gespräche offenzulegen. Aufgrund des Risikos von übersehenen Watermarks und falschen Ergebnissen werden wir das Tool nicht öffentlich verfügbar machen.