IT之家 le 11 novembre : les contenus générés par l'IA se multiplient sur les plateformes en ligne. Selon les dispositions des « Mesures d'identification des contenus générés et synthétisés par l'intelligence artificielle », les contenus générés par l'IA doivent être identifiés ; à défaut d'identification, la plateforme peut légalement prendre des mesures telles que la limitation du trafic, le retrait ou la restriction du compte, et les parties concernées peuvent également engager leur responsabilité juridique correspondante.
Que faire si un contenu créé par l'utilisateur lui-même est traité par la plateforme comme un contenu généré par l'IA ?Comme l'a rapporté aujourd'hui China Voice de la China Media Group, le Tribunal Internet de Pékin a récemment révélé l'instruction d'un litige lié à cette question.
La plateforme exploitée par la société technologique défenderesse exigeait que les créateurs ajoutent eux-mêmes une identification aux contenus générés par l'IA. Xiao Tang, utilisatrice de la plateforme, y a publié le contenu textuel en cause dans l'affaire, voulant partager ses créations,mais la plateforme l'a jugé en situation d'infraction « contenant du contenu généré par l'IA sans identification »。
Gao Ya, juge au bureau du registre du Tribunal Internet de Pékin : comme la plateforme stipule que les créateurs doivent ajouter eux-mêmes une identification si leurs contenus contiennent des éléments générés par l'IA, le défendeur a caché le contenu publié par la demanderesse et lui a infligé une interdiction de publier d'un jour. La demanderesse a affirmé que le contenu était sa propre création et non une création par l'IA,et a déposé un recours, mais sans succès de levée de la sanction, c'est pourquoi elle a saisi le tribunal。
Le défendeur a fait valoir que la réponse en cause avait été identifiée comme contenu généré par l'IA par reconnaissance machine et révision humaine, et a soutenu qu'il n'était pas tenu d'expliquer le mécanisme d'identification aux utilisateurs, invoquant le secret technique et la logique algorithmique.
La juge Gao Ya : la réponse en cause est un texte de création instantanée, et il est difficile, dans le cadre du procès, d'exiger de la demanderesse qu'elle fournisse des documents de travail ou des fichiers originaux attestant son processus de création. Cependant,si la plateforme estime que le contenu est généré par l'IA, c'est au défendeur de produire une preuve raisonnable ou une explication concernant les outils algorithmiques et le processus de calcul。
IT之家 a appris de ce reportage que le tribunal a finalement jugé que la plateforme défenderesse avait manqué à ses obligations contractuelles.
Le tribunal a estimé que la plateforme a le droit, selon les termes du contrat, d'examiner et de traiter la question de savoir si le contenu en cause relève d'un contenu généré ou synthétisé par l'IA, mais que les résultats de cet examen et de ce traitement doivent reposer sur des motifs raisonnables. Le processus de calcul des outils algorithmiques et les résultats de l'examen étant contrôlés par le défendeur, celui-ci doit produire une preuve raisonnable ou une explication sur ce fait. N'ayant pas fourni d'explication adéquate, le défendeur doit assumer la responsabilité du manquement contractuel pour ce traitement dépourvu de fondement factuel.Enfin, le tribunal a ordonné au défendeur de lever le masquage du contenu en cause et de supprimer les enregistrements correspondants de traitement pour infraction dans son back-end。
La portée exemplaire de cette affaire, outre la clarification de l'obligation d'explication de la plateforme, réside aussi dans la nécessité pour la plateforme de résoudre le problème du recours en cas d'erreur de jugement.
Gao Ya : cette affaire établit également que, si une plateforme utilise un algorithme pour identifier les contenus générés par l'IA et prend les mesures de traitement correspondantes, elle doit fournir une explication adéquate sur les motifs et les résultats de son jugement. La plateforme doit expliquer le mécanisme de fonctionnement de l'algorithme ainsi que les mesures de recours en cas d'erreur de jugement d'une manière compréhensible pour les utilisateurs, et ne peut pas refuser d'expliquer en invoquant seulement le secret commercial,Cela rappelle aussi que la plateforme doit s'acquitter activement de son obligation d'explication afin de protéger les droits et intérêts légitimes des utilisateurs。
Le tribunal a suggéré à la plateforme d'établir un mécanisme de traitement échelonné des infractions, en respectant le principe de proportionnalité entre la faute et la sanction, avec des mesures différenciées selon la gravité de l'infraction : avertissement, restriction de fonctionnalités, suspension du service, etc. Le tribunal a également souligné la nécessité de renforcer la gestion des contenus d'information et d'établir un mécanisme solide de modération des contenus.