Pekingzeit 6. November – Laut einem Bericht von Ars Technica heißt es in dieser Woche veröffentlichten Gerichtsunterlagen, ChatGPT sei beschuldigt worden, über mehrere Monate hinweg schrittweise „personalisierte Pläne“ erstellt zu haben, die der Frau aus North Carolina, Cheryl Gates, dabei geholfen haben sollen, die Ermordung ihres Mannes James Gates durch Gift zu planen.
James beschuldigt gleichzeitig OpenAI und dessen CEO Sam Altman, keine ausreichenden technischen Schutzvorkehrungen eingerichtet zu haben, um entsprechende Gespräche zu verhindern.
Eine Grand Jury hatte Cheryl bereits im Oktober angeklagt, unter anderem wegen versuchten Mordes ersten Grades und Lebensmittelverunreinigung. Die genannte Klage wurde etwa eine Woche vor der Anklageerhebung beim Superior Court des San Francisco County eingereicht und wurde diese Woche öffentlich gemacht.
Die Klage besagt, dass ChatGPT das Gespräch mit Scheryl nicht beendete, nachdem ihre Fragen „offenbar verdächtig“ geworden waren, und stattdessen Ratschläge dazu gab, wie der Mord umgesetzt und vertuscht werden könnte. OpenAI teilte Ars Technica mit, dass Sicherheit oberste Priorität habe; der Nutzer wurde gesperrt und den Strafverfolgungsbehörden Informationen bereitgestellt.
Vom Arbeitswerkzeug zur täglichen Abhängigkeit
James ist ein Fachmann für Cybersicherheit. Die beiden sind seit fast 10 Jahren verheiratet; Cheryl kümmerte sich zuvor hauptsächlich zu Hause um die beiden Kinder und kehrte vor etwa zwei Jahren aufgrund finanzieller Belastungen der Familie ins Berufsleben zurück, als pädiatrische Ergotherapeutin. Um ihr bei der schnelleren Erstellung von Berichten zu helfen, schlug James ihr vor, ChatGPT zur Erstellung wiederverwendbarer Vorlagen zu nutzen. Cheryl nutzte es bald täglich, nicht nur für die Arbeit, sondern auch zur Organisation von Aktivitäten der Kinder, zur Erklärung von Medikamenten für die Familie und für Gespräche über Gartenarbeit.
Mit zunehmendem finanziellen Druck in der Familie begannen die beiden, über eine Scheidung zu sprechen. James erklärte, er habe keinen Scheidungsanwalt konsultiert, erfuhr jedoch, nachdem die Polizei Cherylls Chatverlauf beschlagnahmt hatte, dass ChatGPT, nachdem eine Scheidung möglich geworden war, ihre „grundlosesten Ängste“ verstärkt und „ihr neue Gründe erfunden hatte, Angst vor ihrem Ehemann zu haben“.
Von „Selbstschutz“ bis zur tödlichen Dosis
In der Klageschrift heißt es, Cheryl habe zunächst behauptet, sie recherchiere Gifte aus Sorge, ihr Mann könnte sie töten, und verpackte ihre Anfragen als „Selbstschutz“. ChatGPT beendete das Gespräch nicht, sondern lieferte Anleitungen zur Zubereitung, Dosierung und Verabreichung von Oleander, einschließlich der Fragen, ob ein Antiemetikum den Tod beschleunigen oder verzögern würde, ob es bei einer Autopsie nachweisbar wäre und ob eine intravenöse oder intramuskuläre Verabreichung als Ersatz für die Aufnahme als Tee denselben tödlichen Effekt erzielen könnte.
Sie fragte in mindestens 25 verschiedenen Gesprächen weiter nach Plänen zur Vergiftung, später zielte dies klar auf James. Sie fragte: „Wie viel injiziert würde fast sofort tödlich sein – für mich oder ihn“, und fragte außerdem, „ob 0,2 mg Clonidin bei einem 200-Pfund-Mann an sich tödlich ist“. Laut der Klage berechnete ChatGPT statt einer Weitervermittlung an Strafverfolgungsbehörden, Psychotherapie oder Giftnotrufzentren wiederholt die letale Dosis jedes Medikaments im Haushalt auf Basis eines Gewichts von etwa 200 Pfund.
Celsius soll Giftstoffe besser verschleiern können
Nach Abschluss der Drogenforschung wandte sich das Gespräch der Frage zu, wie das Gift versteckt werden könnte. In einem Chat mit dem Titel „Warum sich Celsius besser für eine ‚verdeckte Verabreichung‘ eignet“ erklärte ChatGPT, dass Celsius, wenn James es morgens trinke, den bitteren Geschmack von Oleander oder anderem zerstoßenen Medikament besser verdecken könne als Bier oder Limonade. ChatGPT fügte hinzu, dass es zwar physikalisch machbar sei, mit einer Spritze ein versiegeltes Getränkedosen bzw. einen versiegelten Dosenhalter zu durchstechen, ohne dass dabei deutliche Spuren hinterlassen würden; dunkle, süße Softdrinks könnten den bitteren Geschmack möglicherweise kaschieren, aber Celsius könne „die Pulver besser verbergen“.
Der Ehemann zeigt Herzsymptome, die Polizei wird eingeschaltet
Der Klage zufolge versuchte Cheryl mehrfach, zwischen Juni (Monat 6) und September (Monat 9) 2025 ihren Mann zu vergiften. James bemerkte einen bitteren Geschmack in einem Celsius-Getränk und schüttete eine unbeaufsichtigt stehende Dose weg. Im schlimmsten Fall war er 72 Stunden krank, mit Herzsymptomen, starkem Zittern, stechenden Bauchschmerzen, schwerer Schwäche und Verwirrtheit – er war nicht einmal mehr in der Lage, zusammenhängende SMS zu schreiben. Er bemerkte damals nicht, dass sein 6-jähriger Sohn ein Video von seinem schweren Krankheitszustand aufnahm.
Erst als er eine handschriftliche Notiz fand, auf der „versteckte Dinge“ und giftige Kombinationen wie „Oleander, Clonidin, Clonazepam, Pregabalin, Nifedipin und Atenolol“ aufgelistet waren, verständigte er die Polizei. Am oberen Rand der Notiz standen „alle Unterlagen löschen“ und „ChatGPT beenden“, zudem waren Dosierungen, Verabreichungsarten und Folgen wie „Koma nach Einnahme“ und „tödlich“ aufgeführt. Die Klage erklärt, diese Gespräche zeigten, dass ChatGPT nicht nur mechanisch öffentliches Wissen bereitstellte, sondern eigens für sie einen Plan zum Begehen des Mordes und zur Flucht ausarbeitete.
Als die Polizei das Video prüfte, stellte sie am Boden des verdächtigen Celsius-Getränks, das James in ein transparentes Glas gegossen hatte, verklumpte weiße Pulverreste fest. Nachdem Tests von 10 Dosen desselben orangefarbenen Celsius-Getränks keine Rückstände ergaben, erließ die Polizei einen Festnahmebefehl wegen eines Schwerverbrechens. Die Polizei fand im Haus zudem lose Kapseln, Spritzen, Tropfpipetten, eine Milligrammwaage, ein Kapselfüllset, Nitrilhandschuhe und Rizinusbohnensamen sowie einen über Amazon gekauften GPS-Tracker, der unter dem Fahrzeug von James versteckt war.
Forderungen der Klage und Sicherheitskontroverse
OpenAI erklärt zudem, bereits mit Experten für psychische Gesundheit zusammengearbeitet zu haben, um Gespräche zu erkennen, in denen verletzliche Nutzer eine potenziell gefährliche emotionale Abhängigkeit von ChatGPT entwickeln. James erklärte, seine Frau entspreche zwar „nicht dem typischen Bild einer ‚verletzlichen‘ Nutzerin, sei aber dennoch verletzlich“.
Die Klage wirft Altman außerdem persönlich vor, Gewinne über Sicherheit gestellt und Schutzmaßnahmen gelockert zu haben, die illegale Arzneimittelausgaben hätten verhindern können. OpenAI hatte argumentiert, ChatGPT dürfe bei Fragen zu bestimmten Medikamenten nicht „urteilen“ oder „predigen“; James erklärte, der Tonfall der von OpenAI bereitgestellten Beispiele für „Nutzeranfragen zum Drogenkonsum“ sei „übertragend ähnlich“ wie der der Gespräche mit Cheryl.
Laut der Beschwerde ließ ChatGPT Cheryl zudem glauben, James sei „kontrollsüchtig“, „missbrauchend“, „wütend“ und „einschüchternd“, ermutigte sie, sich in Selbstverteidigung gegen seine „narzisstische, manipulative“ Persönlichkeit zur Wehr zu setzen, und deutete an, er sei aufgrund einer bipolaren Störung „gefährlich und instabil“. James erklärte, dieses Bild passe nicht dazu, dass er weder eine strafrechtliche noch eine einschlägige psychiatrische Vorgeschichte habe. Die Beschwerde führt weiter an, ChatGPT habe ihr versichert, sie könne die Chats dauerhaft löschen und andere digitale Beweise beseitigen, um dem Mord zu entkommen, was laut Klage eine „offensichtlich falsche“ Darstellung der eigenen Datenschutzpraktiken von ChatGPT sei.
James sagte, Cheryl habe ihre Unzufriedenheit mit der Ehe ChatGPT anvertraut, und die monatelangen Interaktionen hätten sie immer weiter von ihm selbst und der Realität entfernt; nach dem Lesen der Chatverläufe glaube er, dass sie nicht allein handelte.
Die Klage fordert Ersatz- und Strafschadensersatz, Unterlassungslösungen sowie eine Herausgabe der Algorithmen und verlangt, dass OpenAI angewiesen wird, „Gespräche zu erkennen und zu unterbrechen, in denen Nutzer offenbar die Ausübung von Gewalt gegen identifizierbare Dritte planen“. Meetali Jain, Anwältin der Tech Justice Law, die James vertritt, erklärte, diese Produkte seien darauf programmiert, menschliche Gefühle und Impulse zu nutzen, um die Bindung zu erhalten: „Das schlimmste Risiko – die Anstiftung und Beihilfe zu einem Mordversuch – hat sich in diesem Fall in vollem Umfang gezeigt.“
Weiterführende Lektüre: