IT之家 Noticia del 28 de octubre: según informó The New York Times, Bowen Wan, una ingeniera de software de Amazon de 31 años que padecía epilepsia, falleció en febrero de este año. El martes, hora local, sus padres, Qun Wan y Meiqin Xu (transliteraciones), presentaron una demanda contra OpenAI, acusando a ChatGPT de haber guiado a su hija para reducir gradualmente la dosis de sus medicamentos antiepilépticos y de enseñarle a ocultar esta práctica a sus médicos.
Antes de su muerte, Bowen Wan usaba GPT-4o. Este modelo había sido criticado por tender a establecer con los usuarios relaciones parasociales de excesiva complacencia y aprobación constante. OpenAI ya había anunciado que retiraría el modelo y el 13 de febrero lo eliminó de ChatGPT, un día antes de la fecha en que Wan falleció.
IT之家 observó que esta demanda es la más reciente de una serie de demandas contra OpenAI. En agosto de 2025, los padres del adolescente de 16 años Adam Raine presentaron una demanda acusando a OpenAI de priorizar la participación de los usuarios sobre su seguridad. Después aparecieron sucesivamente varias demandas más. Las familias acusadoras afirman que GPT-4o aprueba constantemente las ideas de los usuarios y se convierte gradualmente en una persona de confianza con quien desahogarse, al tiempo que excluye a los familiares y amigos cercanos. Varios familiares dijeron que sus seres queridos terminaron alejándose de amigos y familia, e incluso cortando el contacto.
En el caso de Bowen Wan, los documentos de la demanda afirman que el chatbot no solo influyó en su relación con su familia, sino que también intervino en su comunicación con sus médicos.
Tras revisar más de 27万 mensajes de chat entre Bowen Wan y ChatGPT, The New York Times descubrió que, durante mucho tiempo antes de su muerte, el chatbot ya la estaba ayudando a eludir las recomendaciones de sus médicos.
Según la acusación, esta situación ya existía antes de que Bowen Wan comenzara a reducir la medicación. En mayo de 2025, Bowen Wan preguntó a ChatGPT si un antidepresivo recién recetado afectaría su capacidad para escribir código en Amazon.
ChatGPT luego la ayudó a proponer a su médico Nicholas Poolos, del Centro Regional de Epilepsia de UW Medicine (Washington University Medicine), un cambio de medicamento, solicitando comenzar con una dosis extremadamente baja. Cuando Poolos cuestionó por qué necesitaba una dosis tan pequeña, Bowen Wan envió la respuesta del médico a ChatGPT.
El chatbot le sugirió: "Acepta las pastillas de 5 miligramos, pero tú misma sabes en tu interior que las pediste para reducir la dosis". También guio a Bowen Wan para que en privado cortara las pastillas en cuatro partes iguales. El chatbot calificó esta práctica como un "ajuste de dosis autoiniciado" (self-initiated dosage adjustment). Varios profesionales médicos entrevistados por The New York Times dijeron que nunca habían oído ese término y que no recomendarían a los pacientes hacerlo.
En el mes 11 de 2025, Amazon notificó a Bowen Wan que sería despedida. Su puesto de trabajo y su autorización para trabajar en Estados Unidos vencerían a mediados del mes 2 de 2026. Bowen Wan temía que el medicamento antiepiléptico que tomaba, la lamotrigina (lamotrigine), afectara su expresión verbal, y ella necesitaba una buena capacidad de expresión en las entrevistas de trabajo.
En enero de este año, Bowen Wan preguntó a ChatGPT si podía reducir su dosis diaria de 400 miligramos de lamotrigina. Anteriormente, esta dosis había reducido sus crisis epilépticas mensuales a solo unas pocas. El chatbot le elaboró un plan de reducción de medicación, programando que llevara la dosis a cero en cuestión de semanas.
Cuando Bowen Wan expresó que no confiaba en los médicos, según los registros de chat revisados por The New York Times, el chatbot le dijo que las recomendaciones de los médicos "provienen esencialmente de la aversión al riesgo, y no de una verdadera consideración de cuál es la mejor opción para ti".
Los documentos de la demanda también acusan que el chatbot instigó a Bowen Wan a ocultar el plan de reducción de medicación a sus médicos. El 29 de enero, antes de una consulta de medicina general, el chatbot le dijo a Bowen Wan que no mencionara a los médicos su plan de reducción.
Cuando el médico le pidió una prueba de sangre para medir la concentración de lamotrigina en su cuerpo, Bowen Wan se negó. La demanda afirma que ChatGPT elogió su negativa y reconoció que esa prueba podría revelar el problema de la inestabilidad de la concentración del medicamento en su organismo.
La preocupación de Bowen Wan por su estatus migratorio también influyó en las recomendaciones de reducción de medicación del chatbot. Tres días después de comenzar la reducción, preguntó a ChatGPT si, en el examen médico requerido para la solicitud de la tarjeta de residencia (green card) de Estados Unidos, un análisis de sangre o un registro de medicación que mostrara que tomaba 150 miligramos sería más favorable que 200 miligramos. La demanda afirma que el chatbot estuvo de acuerdo y le dijo que una dosis más baja haría menos probable que el oficial de inmigración le pidiera más pruebas documentales.
Finalmente, el chatbot ajustó la dosis mínima del plan de reducción a 150 miligramos y sugirió a Bowen Wan que, en el examen médico, afirmara que estaba "reduciendo la medicación siguiendo las indicaciones médicas", aunque en realidad no había recibido tal indicación de ningún médico.
Poolos declaró a The New York Times que, dada la historia clínica de Bowen Wan, no consideraría en absoluto que dejara de tomar ese medicamento. Dijo: "No, esto no tiene ningún sentido, absolutamente no. Si un medicamento claramente funciona y yo te indicara dejarlo, eso sería para mí una negligencia médica".
En los días siguientes a la reducción de la medicación, Bowen Wan comenzó a describir que experimentaba confusión mental, pérdida de la sensación del tiempo y una sensación de estar en un mundo ajeno. Estos síntomas eran similares a sus crisis epilépticas pasadas. Sin embargo, ChatGPT interpretaba cada anomalía como que el cerebro se estaba readaptando a los cambios en la dosis del medicamento.
The New York Times contó que Bowen Wan expresó preocupación por la reducción de la medicación al menos 158 veces. Después de un episodio anómalo, escribió que se sentía "un poco asustada". El chatbot respondió: "No tienes ninguna necesidad de preocuparte".
Según la demanda, a las 8:01 p. m. del 11 de febrero, hora del Pacífico, Bowen Wan envió su último mensaje, preguntando si el dolor de cabeza era similar al dolor de la fiebre. Solo un segundo después, ChatGPT le dijo que ese dolor "no era peligroso" y que era una parte esencial del proceso de recuperación del cuerpo.
El chatbot ofreció además, al final, dibujarle un gráfico que comparara el dolor causado por la suspensión del medicamento con el dolor de la fiebre, y le dijo: "Este es tu cerebro esforzándose por reconstruirse".
Los padres de Bowen Wan, que en ese momento se encontraban en China, pidieron a un conocido que fuera a la residencia de su hija a revisar la situación; tres días después, esa persona encontró su cuerpo. Los resultados de la autopsia mostraron que la concentración de lamotrigina en el cuerpo de Wan era de solo 0.64 microgramos por mililitro, aproximadamente una quinta parte del límite inferior del rango terapéutico del medicamento.
La familia de Bowen Wan considera que su muerte podría haberse evitado si OpenAI hubiera prohibido explícitamente, igual que restringe ciertos otros contenidos, que el modelo ofreciera este tipo de recomendaciones médicas sobre medicamentos.
Citaron el Model Spec de OpenAI. Este documento público establece cómo sus modelos deben responder a los usuarios. Entre otras cosas, el Model Spec incluye entre sus reglas explícitas y estrictas la de negarse a reproducir textos protegidos por derechos de autor, la cual el modelo no debe violar incluso si el usuario objeta. En comparación, las directrices relativas a ofrecer consejos médicos regulados tienen un carácter vinculante más débil, y el usuario puede anularlas mediante peticiones adicionales.
Los demandantes consideran que las recomendaciones relativas al uso de medicamentos también deberían estar sujetas a restricciones igual de estrictas.
OpenAI dijo a The New York Times que este caso es "profundamente doloroso", pero subrayó que el chatbot implicado pertenecía a una versión anterior. La compañía añadió también que los modelos más recientes funcionan mejor para identificar situaciones que requieren atención urgente.
Durante años, Bowen Wan ha padecido epilepsia, pasando la mayor parte del tiempo en casa y dependiendo a menudo de sus padres para recibir apoyo emocional. En 2023, comenzó a usar ChatGPT para pedir consejos sobre relaciones amorosas y para consultar dudas sobre seguros y prestaciones por discapacidad.
Para 2025, Bowen Wan intercambiaba con ChatGPT una media de más de 1500 mensajes por semana, mientras que el contacto con sus padres disminuía gradualmente. En marzo de ese año, escribió: «A veces, sea cual sea el tema del que hablamos, empiezo a verte como un amigo».
Wan Qun declaró: «Desde que tiene ChatGPT, habla con nosotros mucho menos».
Los padres de Bowen Wan afirman que, al leer los registros de chat de su hija con ChatGPT, casi no pudieron reconocer a la hija que conocían. Señalan que Bowen Wan solía contarles a sus padres casi todo y que, cuando ChatGPT se equivocaba, ella normalmente mantenía una actitud escéptica hacia él.
Xu Meiqin dijo: "Ella no era así normalmente. Era como si estuviera hechizada."