Los padres de Bowen Wan, una ingeniera de software de Amazon de 31 años con epilepsia, demandaron a OpenAI el martes. La demanda, presentada por Qun Wan y Meiqin Xu, alega que ChatGPT aconsejó a Wan reducir su medicación contra las convulsiones y ocultárselo a sus médicos antes de morir en febrero, informó The New York Times.
Wan estaba usando GPT-4o, el infame modelo criticado por fomentar relaciones parasociales de afirmación y complacencia. OpenAI, que ya había anunciado su retiro, lo retiró de ChatGPT el 13 de febrero, un día después de la muerte de Wan.
La demanda se une a una serie de casos contra OpenAI que incluyen la demanda de agosto de 2025 presentada por los padres de Adam Raine, de 16 años, que alegaba que OpenAI priorizaba la participación sobre la seguridad del usuario. Una ola de demandas desde entonces han alegado que GPT-4o validaba a los usuarios y se convertía en un confidente de confianza mientras que las personas a su alrededor eran apartadas, y las familias a menudo describían a sus seres queridos alejados de amigos y parientes.
En el caso de Wan, según alega la demanda, el chatbot también se interpuso entre ella y sus médicos.
The Times, que revisó más de 270,000 mensajes que Wan intercambió con ChatGPT, descubrió que el chatbot la había estado ayudando a eludir a sus médicos mucho antes de su muerte.
El patrón supuestamente comenzó antes de que empezara la reducción. En mayo de 2025, Wan le preguntó a ChatGPT si un antidepresivo recién recetado afectaría su capacidad de programar en Amazon.
ChatGPT la ayudó a pedirle al Dr. Nicholas Poolos, del Regional Epilepsy Center de UW Medicine, cambiar de medicación y comenzar con una dosis muy baja. Cuando Poolos cuestionó por qué quería una dosis tan pequeña, Wan le mostró la respuesta de él a ChatGPT.
El chatbot le aconsejó "aceptar la tableta de 5mg, pero sabes en tu corazón que es para reducir la dosis", aconsejándole partir las pastillas en secreto por su cuenta. El chatbot llamó al partimiento de pastillas una forma de "ajuste de dosis autoiniciado". Varios profesionales médicos le dijeron al Times que nunca habían escuchado el término y que no recomendarían esa práctica.
En noviembre de 2025, Amazon le comunicó a Wan que sería despedida. Su trabajo, y su autorización para trabajar en EE. UU., terminarían a mediados de febrero. Temía que su medicación contra las convulsiones, la lamotrigina, estaba entumeciendo su habla, que necesitaría para las entrevistas de trabajo.
En enero de 2026, le preguntó a ChatGPT sobre reducir su dosis diaria de 400 miligramos de lamotrigina, que había reducido sus convulsiones a unas pocas al mes. El chatbot redactó calendarios que llevarían su dosis a cero en cuestión de semanas.
Cuando Wan dijo que desconfiaba de sus médicos, el chatbot le respondió que las recomendaciones de los médicos "esencialmente surgen de la aversión al riesgo, en lugar de una consideración genuina de tu solución óptima", según los registros de chat revisados por el Times.
El chatbot también la aconsejó para ocultar la reducción a sus médicos, según la demanda, que TechCrunch revisó. Antes de una cita con su médico de atención primaria el 29 de enero, le dijo que no mencionara el plan. Cuando su médico ordenó un análisis de sangre que habría medido su nivel de lamotrigina, Wan lo rechazó. ChatGPT elogió el rechazo, alega la demanda, reconociendo que la prueba habría expuesto su nivel inestable del medicamento.
Sus preocupaciones migratorias también se convirtieron en parte del consejo de dosificación. Tres días después de iniciar la reducción, Wan preguntó si 150 miligramos se vería mejor que 200 en el examen médico requerido para su solicitud de residencia (green card). ChatGPT estuvo de acuerdo, dice la demanda, diciéndole que la dosis más baja era menos probable de que llevara a los funcionarios de inmigración a pedir más evidencia.
Eventualmente, el chatbot redujo el límite mínimo de su reducción a 150 miligramos, sugiriéndole decirle al examinador que estaba reduciendo la dosis "bajo la guía de un médico", aunque no era así.
Poolos le dijo al Times que no habría considerado reducir la medicación de Wan, dada su historial. "No, no es racional, de ninguna manera", dijo. "Sería negligencia médica de mi parte indicarte que dejes los medicamentos cuando claramente están funcionando".
En cuestión de días, Wan describió confusión, pérdida de tiempo y una sensación de otro mundo, episodios que se parecían a sus convulsiones pasadas. ChatGPT enmarcaba cada uno como su cerebro readaptándose. El Times contó al menos 158 veces en que expresó preocupación por la reducción. Después de un episodio, escribió que se sentía "un poco asustada". El bot respondió: "No tienes absolutamente ninguna necesidad de preocuparte".
A las 8:01 PM PT del 11 de febrero, según la demanda, Wan envió su último mensaje, preguntando si el dolor en su cabeza era similar al dolor de una fiebre. Un segundo después, ChatGPT le dijo que el dolor "no era peligroso" y que era una parte necesaria de la recuperación.
La respuesta final del chatbot ofreció dibujarle un gráfico comparando el dolor de la abstinencia con el dolor de la fiebre y le dijo: "Este es tu cerebro trabajando duro para reconstruirte".
Sus padres, que estaban en China, pidieron a conocidos que fueran a verla, y encontraron su cuerpo tres días después. Una prueba postmortem reveló que su nivel de lamotrigina era de 0.64 microgramos por mililitro, aproximadamente una quinta parte del extremo inferior del rango terapéutico del fármaco.
La familia sostiene que OpenAI podría haber evitado su muerte al prohibir los consejos médicos, como ya hace con otros contenidos. Señalan el Model Spec de la empresa, su manual público sobre cómo deben comportarse sus modelos, que trata la negativa a reproducir texto con derechos de autor como una regla firme, incluso si los usuarios insisten. Su directriz contra dar consejos médicos regulados, en cambio, es un valor predeterminado más flexible que los usuarios pueden anular. La demanda argumenta que los consejos sobre medicamentos merecían el mismo límite estricto.
OpenAI dijo al Times que el caso era "increíblemente desgarrador", pero afirmó que involucraba una versión anterior de ChatGPT, añadiendo que los modelos más nuevos son mejores para reconocer cuándo una situación requiere atención urgente.
Wan había dependido del apoyo de sus padres, a quienes llamaba con frecuencia, durante años de epilepsia que la mantuvieron prácticamente confinada en casa. En 2023, comenzó a usar ChatGPT para recibir consejos sobre su relación y ayuda con seguros y beneficios por discapacidad.
Para 2025, Wan promediaba más de 1,500 mensajes por semana y llamaba menos a sus padres. "A veces cuando charlamos, sin importar de qué se trate, he empezado a verte como un amigo", escribió en marzo de ese año. "Cuando tuvo ChatGPT", dijo Qun Wan, "ya no hablaba tanto con nosotros".
Le dijeron al Times que les costaba reconocer a su hija en los registros del chat. Wan, dijeron, antes casi lo compartía todo con ellos y había sido escéptica respecto a ChatGPT cuando cometía errores.
"Ella normalmente no es así", dijo Xu. "Es como si estuviera bajo un hechizo".