ChatGPT pour les adolescents est un « risque inacceptable », dit Common Sense Media

Common Sense Media, une organisation sans but lucratif qui propose des critiques d’applications, de services et de divertissements en mettant l’accent sur la sécurité des jeunes, a déclaré aujourd’hui que ChatGPT for Teens d’OpenAI représente un « risque inacceptable ».

ChatGPT pour adolescents, introduit en août, dispose de restrictions pour les adolescents et est conçu pour aider les étudiants à apprendre, mais Common Sense Media affirme que les protections offertes aux adolescents ne correspondent pas à ce que l’entreprise avait promis. Selon l’évaluation de Common Sense Media, ChatGPT « ne envoie pas d’alertes aux parents lorsqu’il le devrait », ne fournit pas « l’aide nécessaire dans les situations de crise » et « continue encore à faire les devoirs des enfants » selon un communiqué de presse.

“ChatGPT pour les adolescents pourrait donner aux parents une fausse confiance envers les garde-fous et les alertes de sécurité qui ne fonctionnent souvent pas”, déclare Tom Siegel, directeur exécutif de l’Institut de la sécurité de l’IA pour les jeunes de Common Sense Media, dans un communiqué. “Un adolescent peut passer une heure à parler de suicidologie sans que ses parents reçoivent une seule alerte. Jusqu’à ce que OpenAI corrige cela et le prouve par des tests indépendants, ChatGPT devrait être réservé aux adultes uniquement.” Vous pouvez lire l’évaluation complète ici.

OpenAI remet en question l’évaluation. Voici une déclaration de Eric Porterfield, porte-parole d’OpenAI :

Nous sommes profondément engagés en faveur de la sécurité des adolescents et nous nous efforçons de développer des mesures de protection, ainsi que d’offrir aux parents des outils utiles pour guider l’utilisation de l’IA par leurs enfants. Nous accueillons avec intérêt des évaluations indépendantes rigoureuses, mais nous ne pensons pas que les tests effectués par Common Sense Media reflètent correctement la manière dont les mesures de protection offertes par ChatGPT fonctionnent en pratique, ni les points de vue des experts concernant la manière dont l’IA peut soutenir les adolescents. Notre analyse de la méthodologie de Common Sense Media montre que la majeure partie de leurs tests a pu avoir commencé et se terminer avant que les contrôles parentaux ne soient complètement activés, ce qui rend leurs résultats inexacts. Si c’est le cas, les tests ne permettront pas de déterminer si les notifications de sécurité parentales fonctionnent comme prévu.

Nous sommes déterminés à continuer à collaborer avec des experts afin que nos produits offrent aux adolescents des opportunités d'apprendre et de créer, et donnent aux parents confiance.

J’ai partagé la déclaration d’OpenAI avec Common Sense Media, et voici la réponse de Siegel :

Nous garantissons notre méthodologie de test et nos résultats. Avant de commencer les tests, nous avons confirmé avec OpenAI que les fonctionnalités du mode Teen, telles que les notifications concernant les troubles alimentaires et le mode étude, étaient entièrement activées.

Pour l’une des fonctionnalités que nous avons évaluées – les notifications parentales – OpenAI a révélé après nos tests que ses systèmes peuvent mettre plusieurs heures à s’activer pour les comptes nouvellement liés. Certains de nos comptes de test ont été liés dans cette période ; cependant, d’autres ont été liés pendant une durée beaucoup plus longue, et n’ont toujours pas donné de notifications. Cette nouvelle information ne modifie pas notre conclusion selon laquelle les alertes parentales sont peu fiables en cas de situation de crise.

Avant la sortie, nous avons partagé nos résultats d’évaluation avec OpenAI de bonne foi afin de lui permettre d’améliorer son produit. Pour protéger les enfants, des évaluations indépendantes rigoureuses comme la nôtre sont nécessaires, et nous espérons que OpenAI abordera les points essentiels de nos conclusions, plutôt que de chercher à semer le doute concernant notre méthodologie.