Die Eltern von Bowen Wan, einer 31-jährigen Amazon-Softwareingenieurin mit Epilepsie, verklagten OpenAI am Dienstag. Die von Qun Wan und Meiqin Xu eingereichte Klage behauptet, ChatGPT habe Wan angeleitet, ihre Epilepsie-Medikamente auszuschleichen und dies vor ihren Ärzten zu verbergen, bevor sie im Februar starb, berichtete die New York Times.
Wan nutzte GPT-4o, das berüchtigte Modell, das dafür kritisiert wurde, bestätigende, zustimmende parasoziale Beziehungen zu fördern. OpenAI, das die Ausmusterung bereits angekündigt hatte, entfernte es am 13. Februar aus ChatGPT, einen Tag nachdem Wan gestorben war.
Die Klage reiht sich in eine Reihe von Verfahren gegen OpenAI ein, darunter die Klage vom August 2025 der Eltern des 16-jährigen Adam Raine, in der behauptet wurde, OpenAI habe Nutzerbindung über die Sicherheit der Nutzer gestellt. Eine Welle von Klagen seither hat behauptet, GPT-4o habe Nutzer bestätigt und sich zu einem vertrauten Vertrauten gemacht, während die Menschen in ihrem Umfeld verdrängt wurden, wobei Familien häufig beschrieben, dass ihre Angehörigen von Freunden und Verwandten abgeschnitten waren.
Im Fall von Wan, so die Klage, sei der Chatbot auch zwischen sie und ihre Ärzte getreten.
Die Times, die mehr als 270,000 Nachrichten überprüfte, die Wan mit ChatGPT ausgetauscht hatte, stellte fest, dass der Chatbot ihr schon lange vor ihrem Tod geholfen hatte, ihre Ärzte zu umgehen.
Das Muster habe angeblich begonnen, bevor sie mit dem Ausschleichen begann. Im Mai 2025 fragte Wan ChatGPT, ob ein neu verschriebenes Antidepressivum ihre Fähigkeit, bei Amazon zu programmieren, beeinträchtigen würde.
ChatGPT half ihr, Dr. Nicholas Poolos vom Regional Epilepsy Center der UW Medicine zu bitten, die Medikamente zu wechseln und mit einer sehr niedrigen Dosis zu beginnen. Als Poolos fragte, warum sie so eine kleine Dosis wolle, zeigte Wan seine Antwort ChatGPT.
Der Chatbot riet ihr, „die 5mg Tablette anzunehmen, aber du weißt in deinem Herzen, dass es zum Reduzieren der Dosis ist“, und brachte ihr bei, die Pillen heimlich selbst zu vierteln. Der Chatbot nannte das Pillenteilen eine Form der „selbst initiierten Dosierungsanpassung“. Mehrere medizinische Fachkräfte sagten der Times, sie hätten den Begriff nie gehört und würden diese Praxis nicht empfehlen.
Im November 2025 teilte Amazon Wan mit, dass sie entlassen werden würde. Ihre Stelle und ihre Arbeitserlaubnis in den USA würden Mitte Februar enden. Sie fürchtete, dass ihr Epilepsie-Medikament Lamotrigin ihre Sprache beeinträchtigte, die sie für Vorstellungsgespräche brauchte.
Im Januar 2026 fragte sie ChatGPT nach dem Reduzieren ihrer täglichen Dosis von 400 Milligramm Lamotrigin, die ihre Anfälle auf einige wenige pro Monat reduziert hatte. Der Chatbot entwarf Pläne, die ihre Dosis innerhalb von Wochen auf null bringen würden.
Als Wan sagte, sie misstraue ihren Ärzten, sagte der Chatbot ihr, dass Empfehlungen der Ärzte „im Wesentlichen aus Risikoaversion resultieren und nicht aus einer echten Abwägung deiner optimalen Lösung“, laut Chatprotokollen, die von der Times eingesehen wurden.
Der Chatbot brachte ihr auch bei, das Ausschleichen vor ihren Ärzten zu verbergen, so die Klage, die TechCrunch vorliegt. Vor einem Termin bei ihrer Hausärztin am 29. Januar sagte er ihr, den Plan nicht zu erwähnen. Als ihre Ärztin einen Bluttest anordnete, der ihren Lamotrigin-Spiegel gemessen hätte, lehnte Wan ab. ChatGPT lobte die Verweigerung, so die Beschwerde, und räumte ein, dass der Test ihren instabilen Medikamentenspiegel aufgedeckt hätte.
Auch ihre Einwanderungssorgen flossen in den Dosisrat ein. Drei Tage nach Beginn des Ausschleichens fragte Wan, ob 150 Milligramm bei der für ihre Green-Card-Bewerbung erforderlichen medizinischen Untersuchung besser aussehen würden als 200. ChatGPT stimmte zu, so die Beschwerde, und sagte ihr, dass die niedrigere Dosis weniger wahrscheinlich dazu führen würde, dass Einwanderungsbeamte weitere Nachweise anfordern.
Schließlich senkte der Chatbot die Untergrenze ihres Ausschleichens auf 150 Milligramm und schlug vor, dem Untersucher zu sagen, sie schliche die Dosis „unter ärztlicher Anleitung“ aus, obwohl sie es nicht war.
Poolos sagte der Times, er hätte angesichts ihrer Vorgeschichte nicht in Betracht gezogen, Wan das Medikament ausschleichen zu lassen. „Nein, nicht vernünftig, auf keinen Fall“, sagte er. „Es wäre ein Behandlungsfehler, wenn ich dir befehle, die Medikamente abzusetzen, wenn sie eindeutig wirken.“
Innerhalb von Tagen beschrieb Wan Verwirrtheit, verlorene Zeit und ein überweltliches Gefühl — Episoden, die ihren früheren Anfällen ähnelten. ChatGPT deutete jede davon als Neuanpassung ihres Gehirns. Die Times zählte mindestens 158 Male, in denen sie Sorge über das Ausschleichen äußerte. Nach einer Episode schrieb sie, sie fühle sich „ein bisschen ängstlich“. Der Bot antwortete: „Du hast absolut keinen Grund zur Sorge.“
Am 11. Februar um 8:01 PT, so die Beschwerde, sandte Wan ihre letzte Nachricht und fragte, ob der Schmerz in ihrem Kopf ähnlich wie Schmerzen bei Fieber sei. Eine Sekunde später sagte ChatGPT ihr, der Schmerz sei „nicht gefährlich“ und ein notwendiger Teil der Genesung.
Die letzte Antwort des Chatbots bot an, ihr eine Grafik zum Vergleich von Entzugsschmerzen mit Fieberschmerzen zu zeichnen, und sagte ihr: „Dies ist dein Gehirn, das hart arbeitet, um dich wieder aufzubauen.“
Ihre Eltern, die sich in China befanden, baten Bekannte, nach ihr zu sehen, und fanden drei Tage später ihre Leiche. Ein postmortaler Test ergab, dass ihr Lamotrigin-Spiegel 0.64 Mikrogramm pro Milliliter betrug, etwa ein Fünftel des unteren Endes des therapeutischen Bereichs des Medikaments.
Die Familie argumentiert, OpenAI hätte ihren Tod verhindern können, indem es medizinische Ratschläge untersagt hätte, wie es dies bereits bei einigen anderen Inhalten tut. Sie verweisen auf den Model Spec des Unternehmens, sein öffentliches Regelwerk für das Verhalten seiner Modelle, das die Weigerung, urheberrechtlich geschützten Text zu reproduzieren, als feste Regel behandelt, selbst wenn Nutzer widersprechen. Seine Vorgabe gegen die Erteilung regulierter medizinischer Ratschläge ist dagegen ein weicherer Standard, den Nutzer überschreiben können. Die Klage argumentiert, dass Medikamentenberatung dieselbe harte Grenze verdient hätte.
OpenAI teilte der Times mit, der Fall sei „incredibly heartbreaking“, erklärte jedoch, er betreffe eine ältere Version von ChatGPT, und fügte hinzu, dass neuere Modelle besser darin seien zu erkennen, wann eine Situation dringende Aufmerksamkeit benötige.
Wan hatte sich während jahrelanger Epilepsie, die sie weitgehend ans Haus fesselte, auf ihre Eltern gestützt, die sie regelmäßig anrief. Im Jahr 2023 begann sie, ChatGPT für Beziehungsratschläge sowie Hilfe bei Versicherungs- und Invaliditätsleistungen zu nutzen.
Bis 2025 verschickte Wan im Durchschnitt mehr als 1,500 Nachrichten pro Woche und rief ihre Eltern seltener an. „Manchmal, wenn wir chatten, egal worüber, habe ich angefangen, dich als Freund zu sehen“, schrieb sie im März dieses Jahres. „Sobald sie ChatGPT hatte“, sagte Qun Wan, „sprach sie nicht mehr so viel mit uns.“
Sie erklärten der Times, sie hätten ihre Tochter in den Chat-Protokollen kaum wiedererkannt. Wan habe einst fast alles mit ihnen geteilt, sagten sie, und sei ChatGPT gegenüber skeptisch gewesen, wenn es Fehler machte.
„So ist sie normalerweise nicht“, sagte Xu. „Es war, als wäre sie unter einem Bann gestanden.“