El 8 de octubre, según el tiempo de Pekín, OpenAI publicó el primer informe sobre el uso por parte de adolescentes. Según este informe, los usuarios adolescentes utilizan ChatGPT en promedio menos de 15 minutos al día, y menos del 2% de ellos utiliza el servicio durante más de 3 horas continuas. Al mismo tiempo, pruebas realizadas por entidades tercerizas cuestionan el mecanismo de alertas de seguridad para los padres.
A medida que las plataformas de IA se popularizan rápidamente, el impacto de los robots de chat en la salud mental y la seguridad del crecimiento de los jóvenes gana cada vez más atención. OpenAI indica que, en los diálogos de los jóvenes a los que se les da recordatorios de descanso, casi la mitad de los usuarios suspenden el uso o terminan la conversación en los siguientes 5 minutos. La empresa sostiene que las medidas que guían a los jóvenes para usar los productos de manera responsable están dando resultados.
OpenAI también señaló que los usuarios que utilizan la versión exclusiva para jóvenes enviaron más mensajes relacionados con la educación, y utilizaron herramientas de visualización del aprendizaje y el “Modo de Estudio”. La empresa planea agregar herramientas de planificación para solicitudes universitarias, para ayudar a los estudiantes a organizar los requisitos de solicitud, las fechas límite y los pasos para solicitar becas. Además, lanzará tarjetas de estudio y herramientas más convenientes para crear pruebas.
OpenAI comenzó a lanzar el modo juvenil de ChatGPT en agosto de este año. Este modo se activa automáticamente según la información de edad proporcionada por el usuario, o cuando el sistema determina que el usuario podría ser menor de 18 años. Soporta control parental y limita las conversaciones relacionadas con temas sensibles.
Sin embargo, la organización sin fines de lucro Common Sense Media publicó un informe el miércoles en el que señalaba que, cuando los cuentas de adolescentes mantienen conversaciones relacionadas con suicidio, autolesión o trastornos alimentarios, el modo para adolescentes de ChatGPT a menudo retrasa la notificación a los padres, e incluso no envía ninguna notificación.
Este estudio se basa en más de diez cuentas de prueba especialmente creadas. El estudio también reveló que los robots de chat no pudieron sugerir de manera estable a los usuarios que contactaran las líneas de crisis o buscar ayuda profesional.
El portavoz de OpenAI declaró que esos tests “no lograron reflejar con precisión” la forma en que funciona el mecanismo de protección de seguridad para adolescentes de ChatGPT. La empresa señaló que, por razones de seguridad y operación del servicio a gran escala, puede tardar varias horas para que se establezca la asociación entre los cuentas de padres y adolescentes y para que funcione la función de recordatorios de seguridad correspondiente.
“La mayoría de las pruebas que realizaron probablemente comenzaron y terminaron antes de que se activara la función de control parental”, dijo el portavoz.
Según Common Sense Media, algunas cuentas de prueba mantienen la asociación durante un tiempo suficiente, mientras que otras cuentas tienen una asociación insuficiente, pero todas las cuentas de prueba no recibieron recordatorios en el momento adecuado. La institución indica que solo aquellas cuentas que han acumulado registros de diálogos sobre temas sensibles durante varias semanas recibieron notificaciones.