ChatGPT para adolescentes es un ‘riesgo inaceptable’, dice Common Sense Media

Common Sense Media, una organización sin fines de lucro que ofrece reseñas de aplicaciones, servicios y entretenimiento con un enfoque en la seguridad de los jóvenes, dijo hoy que ChatGPT para Adolescentes de OpenAI es un “riesgo inaceptable”.

ChatGPT para adolescentes, introducido en agosto, tiene controles para adolescentes y está diseñado para ayudar a los estudiantes a aprender, pero Common Sense Media dice que las protecciones para adolescentes ofrecidas por esta función “no cumplen con lo que la empresa prometió”. La evaluación de Common Sense Media reveló que ChatGPT “no envía alertas a los padres cuando debería”, no ofrece “la ayuda adecuada en situaciones de crisis” y “todavía hace la tarea escolar de los niños”, según un comunicado de prensa.

“ChatGPT para adolescentes podría dar a los padres una falsa confianza en las medidas de seguridad y los avisos de seguridad que con frecuencia no funcionan”, dice Tom Siegel, director ejecutivo del Instituto de Seguridad AI para Jóvenes de Common Sense Media, en un comunicado. “Un adolescente puede pasar una hora hablando sobre autolesión sin que su padre reciba ningún aviso. Hasta que OpenAI corrija ese problema y lo demuestre mediante pruebas independientes, ChatGPT debe estar dirigido únicamente a adultos”. Puede leer la evaluación completa aquí.

OpenAI está rechazando la evaluación. Aquí hay una declaración del portavoz de OpenAI, Eric Porterfield:

Estamos profundamente comprometidos con la seguridad de los adolescentes y con el desarrollo de medidas de protección, además de proporcionar a los padres herramientas útiles para guiar el uso de la IA por parte de sus hijos. Accepemos evaluaciones independientes rigurosas, pero no creemos que las pruebas realizadas por Common Sense Media reflejen con precisión cómo funcionan las medidas de protección de ChatGPT en la práctica, ni las perspectivas de expertos sobre cómo la IA puede apoyar a los adolescentes. Nuestra revisión de la metodología de Common Sense Media muestra que gran parte de sus pruebas podría haber comenzado y terminado antes de que se completaran los controles parentales, lo que hace que sus hallazgos sean inexactos. Si ese fuera el caso, las pruebas no determinarían si las notificaciones de seguridad para padres funcionan como están diseñadas.

Estamos comprometidos a seguir colaborando con expertos para garantizar que nuestros productos ofrezcan a los adolescentes oportunidades de aprender y crear, y para dar confianza a los padres.

Compartí la declaración de OpenAI con Common Sense Media, y aquí está la respuesta de Siegel:

Estamos comprometidos con nuestra metodología de prueba y nuestros resultados. Antes de comenzar las pruebas, confirmamos con OpenAI que las funciones del modo Teen, como las notificaciones sobre trastornos alimenticios y el modo de estudio, ya estaban completamente activas.

Para una de las características que evaluamos —las notificaciones parentales— OpenAI reveló después de nuestros tests que sus sistemas pueden tardar varias horas en activarse en cuentas recién vinculadas. Algunas de nuestras cuentas de prueba se vincularon dentro de ese período; sin embargo, otras se vincularon durante un tiempo mucho más largo, y aún así no se proporcionaron notificaciones. Esta nueva información no cambia nuestra conclusión de que las alertas parentales son poco confiables en situaciones de crisis.

Antes de la lanzamiento, compartimos nuestros resultados de evaluación con OpenAI de buena fe para permitirle mejorar su producto. Para mantener a los niños seguros se necesitan evaluaciones independientes rigurosas como las nuestras, y esperamos que OpenAI se involucre en el contenido de lo que encontramos, en lugar de intentar sembrar dudas sobre nuestra metodología.