IT之家 Message du 5/10 : OpenAI a annoncé aujourd'hui que, afin de se conformer aux exigences de transparence du contenu de la loi européenne sur l'intelligence artificielle, un filigrane invisible détectable par machine sera ajouté dans les prochaines semaines aux sorties textuelles éligibles de ChatGPT et Codex dans la région de l'UE.
Selon les informations communiquées, la technologie de filigrane textuel s'appelle textGrain (filigrane à grain de texte), et intègre des signaux statistiques invisibles lors du processus de sélection des mots par le modèle. Le détecteur, en identifiant ce signal, détermine si un texte porte le filigrane d'OpenAI.
IT之家 a remarqué qu'OpenAI déploiera ensuite le filigrane textuel dans l'UE. Dans les prochaines semaines, l'équipe introduira la fonctionnalité de filigrane textuel uniquement pour les utilisateurs éligibles de ChatGPT et Codex, dans tous les plans, au sein de l'UE. Il convient de noter qu'OpenAI ne fera pas du filigrane textuel la valeur par défaut mondiale lors du lancement.
OpenAI activera une fonctionnalité de filigrane sur inscription pour les clients de l'API. À partir d'aujourd'hui, les clients de l'API dans le monde entier pourront choisir d'ajouter des sorties textuelles filigranées pour certains modèles. Cela permet aux clients de décider comment le filigrane s'aligne avec leurs obligations de transparence ainsi qu'avec l'expérience offerte aux utilisateurs. L'équipe collabore également avec des partenaires cloud pour offrir, dans les prochaines semaines, la fonctionnalité de filigrane aux sorties des modèles OpenAI accessibles via leurs services.
OpenAI offrira également un accès au détecteur aux chercheurs et aux organisations d'experts ; les chercheurs et organisations d'experts approuvés peuvent faire une demande à partir d'aujourd'hui. L'accès, conformément au code de conduite, sera initialement accordé au cas par cas, afin de soutenir l'évaluation et l'amélioration de la provenance des textes. L'outil indiquera si un filigrane OpenAI a été détecté, mais ne révélera pas l'identité des utilisateurs, ni le contenu des invites ou des conversations.