Un tache invisible et lisible par les machines dans la sortie textuelle est en cours d’implémentation pour ChatGPT et Codex, mais uniquement pour les utilisateurs de l’Union européenne au début.
OpenAI déclare que son système de marquage textGrain « correspond ou dépasse » d’autres approches comme SynthID de Google DeepMind pour le texte, qui constitue également la base du marquage d’Anthropic annoncé en août. Tout comme OpenAI, Anthropic a adopté cette mesure afin de respecter les exigences de la Loi sur l’IA de l’UE ; cependant, tout le monde n’a pas été satisfait de cette nouvelle.
OpenAI a également inclus des scores obtenus à partir de tests d’IA, montrant une performance similaire pour les textes marqués et non marqués. Cependant, il souligne que textGrain « ne garantit pas une détection fiable », et affirme que les marques d’eau sur le texte ne vérifient pas l’exactitude, ne déterminent pas qui possède le texte, ne mesurent pas l’apport humain, ni ne prouvent l’autorité humaine.
Suivez les sujets et les auteurs de cette histoire pour voir davantage de contenu similaire sur votre flux personnalisé de page d'accueil, et pour recevoir des mises à jour par e-mail.Introduction de l’impression de marqueur de texte dans l’UE. Au cours des prochaines semaines, nous introduirons l’impression de marqueur de texte pour les utilisateurs éligibles de ChatGPT et Codex dans toutes les offres disponibles en UE. Nous ne ferons pas de l’impression de marqueur de texte une option par défaut à l’échelle mondiale dès le lancement. Cette approche régionale nous permet de tirer des enseignements de l’utilisation réelle et des retours des utilisateurs.
Activation de l’option de marquage à l’aide de logos pour les clients d’API. À partir d’aujourd’hui, les clients d’API dans le monde entier pourront choisir de recevoir des textes marqués de logos pour certains modèles. Cela permet aux clients de déterminer comment le marquage s’intègre à leurs obligations en matière de transparence et aux expériences qu’ils offrent aux utilisateurs. Nous travaillons également avec nos partenaires cloud pour rendre le marquage disponible pour les sorties de modèle OpenAI accessibles via leurs services dans les prochaines semaines.
Offrir l’accès au détecteur aux chercheurs et aux organisations expertes. Les chercheurs approuvés et les organisations expertes peuvent postuler à partir d’aujourd’hui. Conformément au Code de pratique, l’accès sera accordé initialement cas par cas afin de soutenir l’évaluation et l’amélioration de l’origine du texte. L’outil indiquera si un filtre OpenAI est détecté, sans identifier l’utilisateur ni révéler ses prompts ou conversations. Compte tenu du risque de manquer les filtres ou de faux positifs, nous ne le rendrons pas public dès le lancement.