OpenAI se enfrenta a una nueva ola de demandas provenientes de ocho estados de Estados Unidos que acusan a la compañía de dañar a niños y engañar a los clientes sobre la seguridad de ChatGPT, como informó anteriormente Reuters. Las demandas, presentadas por separado por Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho y Montana, afirman que OpenAI puso los beneficios por encima de la seguridad al desarrollar ChatGPT.
La cadena de quejas afirma que OpenAI violó las leyes locales de protección al consumidor al no advertir a los clientes sobre los peligros de ChatGPT, citando varios litigios presentados por los miembros de las familias de adolescentes y adultos, que alegan que el chatbot de inteligencia artificial jugó un papel en la muerte de sus seres queridos. Afirman que, aunque OpenAI presentó erróneamente ChatGPT como “una herramienta segura y adecuada para jóvenes que da prioridad a la seguridad”, en realidad era “peligrosa para usuarios vulnerables” —incluyendo “dañar las habilidades de pensamiento crítico, fomentar la paranoia y las ilusiones, ofrecer consejos médicos peligrosos y promover comportamientos y relaciones no saludables”.
Relacionado
- ChatGPT para adolescentes es un ‘riesgo inaceptable’, dice Common Sense Media
- Florida busca una prohibición de que ChatGPT actúe como una persona
Además, los estados acusan a OpenAI de recopilar datos de menores y de no hacer lo suficiente para evitar que los usuarios menores de edad utilicen el chatbot. Los demandas también citan recientes incidentes de hackeo de IA descontrolada como prueba de la supuesta “imprudencia” de OpenAI.
“OpenAI ha desviado su misión original como una organización sin fines de lucro orientada al público que priorizaba la seguridad, hacia un caso de estudio que advierte sobre lo que puede ocurrir cuando el desarrollo de una herramienta tan poderosa como la IA se impulsa no por la seguridad, sino por una mentalidad de obtener ganancias a cualquier costo, que descarta las medidas de protección esenciales”, la demanda de Arizona afirma.
En una declaración enviada por correo electrónico a The Verge, el portavoz de OpenAI, Drew Pusateri, dice que la compañía ha implementado “protecciones especializadas para diferentes edades, líderes en la industria”, en ChatGPT:
Aunque ningún sistema puede ser perfecto, seguiremos colaborando con expertos para informar nuestro trabajo y establecer medidas de protección adicionales, como los controles parentales, recordatorios de pausa y protecciones adecuadas para la edad que existen hoy en día. Estamos comprometidos a trabajar con los estados para promover políticas pragmáticas de IA que se apliquen a toda la industria de la IA, no solo a una sola empresa.
Los estados están pidiendo a los tribunales que obliguen a OpenAI a pagar una serie de sanciones civiles y que deje de engañar al público sobre la seguridad de ChatGPT. Algunos estados también buscan la eliminación de los datos personales recopilados de manera ilegal.
Actualización, 14 de octubre: Se añadió una declaración de OpenAI.
Sigue los temas y autores de esta historia para ver más contenido similar en tu feed de página principal personalizada, y para recibir actualizaciones por correo electrónico.