Laut Medienberichten wurde OpenAI wegen eines tödlichen Vorfalls im Zusammenhang mit medizinischen Ratschlägen von ChatGPT auf die Anklagebank gesetzt. Der 31-jährige Amazon-Ingenieur Bowen Wan, der an Epilepsie leidet, starb im Februar dieses Jahres; am Dienstag der örtlichen Zeitrechnung haben seine Eltern OpenAI verklagt, indem sie behaupten, dass ChatGPT seiner Tochter angeordnet hat, die Dosis ihrer antiepileptischen Medikamente allmählich zu reduzieren und ihr gezeigt hat, den Arzt nichts zu verheimlichen.
Wan Qiansheng nutzte GPT-4o, und das Modell wurde wegen seiner übermäßigen Zufriedenstellung und bloßen Bestätigung der Nutzer kritisiert. Nach einer Überprüfung von 270.000 Chatverläufen zwischen ihr und ChatGPT durch die Medien stellte sich heraus, dass das Robotik-System sie lange Zeit dazu brachte, den Ratschlägen der Ärzte zu entgehen. In der Klage wird behauptet, dass ChatGPT ihr am 29. Januar vor dem Arztbesuch riet, nicht über einen Medikamentenreduzierungsplan zu sprechen; als der Arzt verlangte, Blut abzunehmen, um die Medikamentkonzentration zu messen, lehnte sie ab, und das Robotik-System zeigte Zustimmung. Einige Tage nach der Medikamentenreduzierung zeigte Wan Symptome wie Bewusstseinsstörungen, ähnlich wie bei Epilepsie, doch ChatGPT interpretierte das Problem als „ein neues Gleichgewicht des Gehirns“ zu den Dosen.
Dies ist der neueste Fall in einer Reihe von Klagen gegen OpenAI. Im August 2025 haben die Eltern des 16-jährigen Jungen Adam Ryan die Firma verklagt, weil die Beteiligung an der Nutzung der Technologie über Sicherheit geht; in mehreren weiteren Klagen behaupten die Angehörigen, dass GPT-4o die Nutzer ständig bestätigt und zu einem Sprachpartner wird, während Freunde und Familie ausgeschlossen bleibt. Der Vater von Wan sagte, nachdem seine Tochter ChatGPT erhalten habe, sei ihre Kommunikation mit der Familie stark abgenommen, und er könne die Aufzeichnungen kaum noch erkennen.
OpenAI hat zuvor GPT-4o eingestellt und am 13. Februar – ein Tag vor dem Tod von Wan Li Shi – das Produkt aus dem Verkehr genommen.