Le 8 octobre à Beijing, OpenAI a publié mercredi son premier rapport sur l’utilisation par les adolescents. Selon ce rapport, les utilisateurs adolescents passent en moyenne moins de 15 minutes par jour avec ChatGPT, et moins de 2 % des utilisateurs passent plus de 3 heures consécutives avec la plateforme. En même temps, les tests effectués par des organismes tiers remettent en question le système de rappels de sécurité pour les parents.
Avec la popularisation rapide des plateformes d’IA, l’impact des robots de conversation sur la santé mentale et la sécurité du développement des adolescents attire de plus en plus l’attention. OpenAI indique que, dans les conversations des adolescents signalant un rappel de pause, près de la moitié des utilisateurs arrêtent l’utilisation ou terminent la conversation dans les 5 minutes suivantes. L’entreprise souligne ainsi que ses mesures visant à inciter les adolescents à utiliser les produits de manière responsable commencent à porter leurs fruits.
OpenAI a également indiqué que les utilisateurs qui utilisaient la version spécifique destinée aux adolescents ont envoyé davantage de messages liés à l’éducation, et ont utilisé des outils de visualisation de l’apprentissage ainsi que le « Mode d’étude ». L’entreprise prévoit d’ajouter des outils de planification pour les candidatures universitaires afin d’aider les étudiants à comprendre les exigences de candidature, les délais et les étapes pour les bourses, tout en lançant des cartes d’apprentissage et des outils plus pratiques pour la création de tests.
OpenAI a commencé en août de cette année à lancer le mode pour adolescents de ChatGPT. Ce mode s’active automatiquement en fonction des informations d’âge fournies par l’utilisateur, ou lorsque le système estime que l’utilisateur n’a peut-être pas 18 ans. Il permet un contrôle parental et limite les conversations concernant des sujets sensibles.
Cependant, l’organisation sans but lucratif Common Sense Media a publié un rapport mardi, indiquant que lorsque les comptes adolescents entrent en conversation concernant le suicide, les blessures infligées à soi-même ou les troubles alimentaires, le mode pour adolescents de ChatGPT retarde souvent l’alerte aux parents, voire ne donne aucune alerte.
Cette étude s’appuie sur plus de dix comptes de test spécialement créés. L’étude a également révélé que les robots de conversation ne sont pas capables de proposer de manière stable aux utilisateurs de contacter les lignes d’intervention en crise ou de solliciter une aide professionnelle.
Le porteur de parole d’OpenAI a répondu que ces tests « ne reflètent pas correctement » le fonctionnement du système de protection de sécurité pour les adolescents de ChatGPT. L’entreprise a indiqué que, pour des raisons de sécurité et de fonctionnement du service à grande échelle, l’association des comptes des parents et des adolescents avec les alertes de sécurité correspondantes peut prendre plusieurs heures.
« La plupart de leurs tests ont probablement commencé et se sont terminés avant que la fonction de contrôle parental ne soit activée », a déclaré le porte-parole.
According to Common Sense Media, certain comptes de test ont été associés pendant une durée suffisante, tandis que d’autres n’ont pas été associés assez longtemps, mais tous les comptes de test n’ont reçu aucun rappel en temps opportun. L’organisation a indiqué que seuls les comptes qui avaient accumulé des enregistrements de conversations sur des sujets sensibles pendant plusieurs semaines ont reçu des notifications.