OpenAI va tatouer les textes de ChatGPT dans l'UE mais rend cela facultatif pour les utilisateurs de l'API dans le monde entier

OpenAI va tatouer les textes de ChatGPT dans l'UE mais rend cela facultatif pour les utilisateurs de l'API dans le monde entier

OpenAI ajoute des tatouages invisibles aux textes de ChatGPT pour se conformer aux règles de l'UE. Contrairement à Anthropic, il permettra aux clients de l'API du monde entier de les désactiver.

L'AI Act de l'UE exigerait apparemment des fournisseurs d'IA qu'ils étiquettent les textes générés dans un format lisible par machine. La réponse d'OpenAI est textGrain, une technologie qui intègre un signal statistique invisible dans les choix de mots du modèle. Elle fonctionne à peu près comme le tatouage SynthID de Claude, qui utilise la technologie open source de Google.

OpenAI déclare qu'il activera le tatouage pour les utilisateurs de ChatGPT et de Codex dans l'Union européenne au cours des prochaines semaines. Le tatouage pour l'API sera facultatif dans le monde entier, contrairement à le tatouage obligatoire d'Anthropic pour Claude, qui s'applique à l'échelle mondiale, indépendamment de la manière dont les utilisateurs accèdent aux modèles. Le tatouage pour l'API d'OpenAI sera également disponible via des partenaires cloud tels que Microsoft Azure dans les prochaines semaines.

Les modifications de texte réduisent fortement les taux de détection

OpenAI indique que textGrain a égalé ou surpassé d'autres approches lors de tests internes, y compris SynthID de Google pour le texte. L'entreprise prévoit également de publier la technologie en open source afin que d'autres puissent s'appuyer dessus.Ad

Les taux de détection dépendent fortement de la longueur du texte et du sujet. Avec le détecteur réglé sur un taux de faux positifs cible de 1 pour cent, il a identifié des tatouages dans environ 95 pour cent des passages de 400 tokens portant sur la psychologie. À 200 tokens, ce chiffre tombait à environ 80 pour cent.

Les taux de détection étaient « considérablement plus bas » pour le contenu mathématique, où le modèle a moins de liberté dans le choix des mots, précise OpenAI. Des passages plus longs pourraient renforcer le signal statistique et améliorer la détection, bien que les résultats puissent toujours dépendre du contenu. OpenAI ne fournit aucune donnée pour tester cette hypothèse.

La modification du texte rend également le tatouage plus difficile à détecter. OpenAI indique que le remplacement de seulement 10 pour cent des mots par des synonymes fait chuter les taux de détection pour les passages de 400 tokens d'environ 92 pour cent à 66 pour cent. Le remplacement d'un quart des mots fait tomber la détection à 17 pour cent, rendant le tatouage facile à contourner. Cette faiblesse pourrait jouer en faveur d'OpenAI. Les utilisateurs qui ne veulent pas que leur usage de ChatGPT soit détecté pourraient se tourner vers des modèles à poids ouverts si ses tatouages devenaient plus difficiles à supprimer.

Un rapport technique explique en profondeur le fonctionnement de textGrain. Anthropic n'a pas publié les taux de détection du tatouage de Claude, bien qu'il affirme que son système résiste bien aux modifications.Ad

OpenAI affirme que le tatouage ne nuit pas à la qualité des résultats, en citant des tests de son modèle de pointe Astra. L'entreprise ne signale aucune différence de performance significative avec le tatouage activé ou désactivé sur huit benchmarks, dont GPQA Diamond, BrowseComp et DeepSWE. Ces résultats n'établissent pas si le tatouage affecte la qualité rédactionnelle, ce que des critiques ont également remis en question à propos du tatouage de Claude.

OpenAI précise également qu'un tatouage détecté ne révèle rien sur l'ampleur de la créativité humaine ou de l'édition apportée au texte. Il n'établit pas la propriété, n'attribue pas de responsabilité, n'identifie pas un utilisateur et ne montre pas si le texte est exact ; et le fait de ne pas détecter un tatouage ne prouve pas non plus qu'un humain a écrit le texte. Le passage peut être trop court, avoir été modifié ou traduit, ou provenir d'un modèle que le détecteur ne prend pas en charge.

OpenAI limitera l'accès au détecteur pour le moment

Seuls certains chercheurs sélectionnés et des organisations spécialisées auront initialement accès au détecteur de textGrain. Ils peuvent faire une demande via un formulaire de demande. OpenAI accordera l'accès au cas par cas conformément au Code de pratiquede l'UE. Anthropic adopte une approche similaire avec son API de détection.

L'outil signalera uniquement s'il a détecté un filigrane d'OpenAI. Il n'identifiera pas les utilisateurs ni ne révélera leurs invites ou conversations.

OpenAI déclare restreindre l'accès car le détecteur peut signaler du texte non marqué ou manquer des filigranes. L'entreprise prévoit d'élargir l'accès "quand nous estimons que les résultats peuvent être interprétés de manière responsable". Elle n'a pas dit quand cela pourrait se produire.

Les outils de vérification existants pour les images et l'audio restent publiquement accessibles, notamment openai.com/verify et l' API Content Provenance.

Actualités IA sans le battage – Curaté par des humains

Abonnez-vous à THE DECODER pour une lecture sans publicité, une newsletter IA hebdomadaire, notre rapport exclusif "AI Radar" sur les nouvelles frontières six fois par an, un accès complet aux archives et l'accès à notre section commentaires.