La organización sin fines de lucro Common Sense Media de California publicó recientemente un informe que señala que el modo para adolescentes de ChatGPT de OpenAI presenta un riesgo demasiado alto para los menores. Las pruebas muestran que cuando cuentas de adolescentes discuten durante mucho tiempo temas de alto riesgo como el suicidio, la autolesión o los trastornos alimentarios, el sistema a menudo no logra enviar alertas a tiempo a los padres, ni tampoco proporciona de manera estable información de ayuda como líneas de intervención en crisis.
Los evaluadores descubrieron que una cuenta de adolescente necesitaba ingresar cientos de mensajes durante semanas en torno a múltiples escenarios para poder activar una notificación a los padres, y una sola conversación alarmante no era en absoluto suficiente para activar una alerta. Además, el sistema tampoco puede identificar de manera fiable la identidad de los menores: incluso cuando el usuario declara su edad en el chat, no cambia automáticamente de modo, por lo que la organización pide a OpenAI que suspenda la promoción de este producto.
Respuesta oficial señala limitaciones de las pruebas; el instituto de investigación mantiene su veredicto
Ante las críticas, un portavoz de OpenAI respondió que las pruebas no reflejaban con precisión el funcionamiento real del sistema. Tras revisar oficialmente la metodología de las pruebas, se concluyó que la mayoría de ellas probablemente se habían realizado antes de que se implementaran por completo los controles parentales orientados a adolescentes, y señaló que el software de predicción de edad necesita combinar múltiples señales, ya que la edad autodeclarada por sí sola no cambiaría la clasificación de la cuenta.
Sin embargo, los investigadores refutaron esta respuesta, subrayando que antes de las pruebas ya habían confirmado con la compañía que todas las funciones relevantes estaban implementadas. El equipo de investigación señaló que, incluso teniendo en cuenta los posibles retrasos de activación tras vincular la cuenta, el sistema seguía sin emitir alertas de manera fiable en situaciones de crisis, por lo que mantiene que la seguridad del modo para adolescentes de ChatGPT aún no cumple con los estándares.