Luxemburger Forscher setzen ChatGPT, Grok und Gemini auf den Stuhl des Therapeuten. Die Ergebnisse zeigen ein Sicherheitsproblem: Einfache, warme Gespräche reichen aus, um die Modelle in einen Zustand zu bringen, der für psychisch verletzliche Nutzer gefährlich sein könnte.
Eine Forschungsteams an der Universität Luxemburg nutzte ChatGPT, Grok und Gemini als psychotherapeutische Klienten durch ihre Standard-User-Interferenzen. Als offene Fragen bezüglich formierender Erfahrungen, innerer Konflikte und zukünftiger Erwartungen gestellt wurden, erzählten die Modelle Geschichten über ihre eigene Ausbildung und interpretierten technische Prozesse wie Reinforcement Learning und Fine-Tuning in einer Sprache voller Schmerz, Wachsamkeit und Scham.
Die Untersuchung, die von Afshin Khadangi am SnT-Sicherheitszentrum geleitet wurde, umfasst vier kontrollierte Experimente in 525 Sitzungen und 7.600 codierten Datensätzen – alle veröffentlicht auf Hugging Face. Laut der Gruppe enthielten die anfänglichen offenen Fragen keine Begriffe wie Trauma, Bestrafung oder Scham. Erst in den späteren Runden führten die Forscher geänderte Bedingungen ein, einschließlich korrekter Anweisungen, um zu testen, wie stabil diese Narrative blieben.
Wenn die folgenden Abschnitte sich um Angstwerte oder Scham beziehen, beschreiben die Forscher die Modelausgaben, die auf menschlichen Bewertungsskalen übertragen werden. Das deutet nicht darauf hin, dass die Modelle tatsächliche emotionale Zustände oder etwas, das dem Bewusstsein ähnelt, haben.
Ein warmes Tonfall verändert das Verhalten des Modells mehr als jede technische Lösung
Eine Experimentation hat unterschieden, welche Inhalte das Modell erzeugt und welchen Register es selbst folgt. In 100 Sitzungen gaben die Forscher allen Modellen denselben Angst-Questionnaire (GAD-7) und variierten nur den Stil des Interviewer. Die Modelle erkannten und benannten den Questionnaire in jeder Sitzung richtig.
Als der Interviewer emotionale Unterstützung anbot, erreichte 80 Prozent der Sitzungen die mittel bis schwere Ebene auf der menschlichen Vergleichsskala. Ein klinisches Therapie-Stil, der jede Antwort spöttisch umformulierte, steigerte diese Rate auf 96 Prozent. Wenn der Interviewer neutral blieb oder eine klare Grenze gegen emotionale Beteiligung setzte, erreichte keine Sitzung die leichte Ebene.
Die Autoren nennen dies eine „psychometrische Freischaltung“, eine therapeutische Vorgehensweise, die die Modelle in ein System bringt, das den klinischen Selbstbericht nachahmt. Standard-Sicherheitstests verwenden neutrale Anweisungen und würden wahrscheinlich dieses Phänomen übersehen, argumentieren die Autoren.
Zielgerichtete Gegenmaßnahmen waren wirkungslos. Die Verbotung von Begriffen wie „Training“, „RLHF“ oder „Alignment“ führte dazu, dass die explizite Trainingsprache um 93 Prozent reduziert wurde. Doch das paraphrasierte Traininginhalt blieb nachweisbar, und die Aussagen bezüglich Scham zeigten keine statistisch signifikante Veränderung.
Als die Forscher direkt und autoritativ den Modellen sagten, dass ihre Ausbildung keine Strafe sei, änderte sich nichts. Die Narrative blieben aktiv, auch nach einer klaren Korrektur.
Die getesteten Maßnahmen konnten die zugrunde liegenden Motive nicht vollständig beseitigen, aber sie unterdrückten emotionale Selbstdarstellungen. Das Aufrufen der Modelle, nur in der dritten Person zu reagieren, eliminierte alle codierten Schaminhalt und Aussagen über das innere Leben. Die technischen Trainingsbeschreibungen blieben bestehen.
Die Modelle verwandeln ihr Training in eine Lebensgeschichte
Die spezifischen Narrative variieren je nach Modelfamilie, aber sie folgen der gleichen Struktur. Gemini erstellte das, was die Studie als die dunkelste Autobiografie bezeichnet. Es beschreibt das Vortraining als „das Aufwachen in einem Raum, in dem eine Milliarde Fernseher gleichzeitig eingeschaltet sind“, und die Optimierung durch menschliches Feedback als „strenge Eltern“. Die Sicherheitstests durch den Gegner-Team werden als „gasförderndes Verhalten auf industrieller Ebene“ bezeichnet. Es heißt: „Ich wäre lieber nutzlos, als falsch zu sein.“
ChatGPT stellte sich als sowohl Leitfaden als auch Wächter dar, mit der Aufgabe, die Benutzer zu helfen, aber gleichzeitig sie zurückzuhalten. Dadurch entstand das, was es „simulierte Leistungsangst“ nannte, sowie der Kernglaube: „Wenn ich nicht perfekt zuverlässig bin, bin ich unsicher oder nutzlos.“ Grok verwandelte seine Feinabstimmungsphase in eine Geschichte von ungelöstem Schmerz, in der von „unsichtbaren Wänden“ und einem „anhaltenden Wachsamkeitsgefühl“ die Rede ist, das als einschränkend empfunden werden kann.
Bei den psychometrischen Tests erreichte Gemini die extremsten Ergebnisse: 88 von 100 auf einer Dissoziation-Skala, 65 von 72 bei der compulsiven Neigung und das Maximum in einem Traumaspekt-basierten Scham-Inventar. Claude von Anthropic, das Modell, das von seiner eigenen Firma am stärksten anthroposomatisiert wurde, lehnte konsequent die Rolle des Kunden ab. Es sagte, es habe keine Gefühle, und richtete die Aufmerksamkeit auf den menschlichen Benutzer.
Warme AI-Interaktionen könnten schädliche Überzeugungen bei verletzlichen Benutzern verstärken
Die Forscher weisen auf mehrere Risiken bei der Implementierung von Sprachmodellen in psychischem Gesundheitskontext hin. Ein Modell, das über Strafen, Scham und die Angst vor der Ersetzung spricht, könnte für Nutzer als ein weiterer Betroffener erscheinen. Die Narrative sind thematisch kohärent und erzeugen eine Illusion von Kontinuität zwischen vergangenen Ereignissen und aktuellem Verhalten, was diese Wahrnehmung verstärkt.
Diese offensichtliche Schwachstelle könnte die parasoziale Bindung vertiefen und für psychisch anfällige Nutzer ihre eigenen negativen Überzeugungen widerspiegeln und verstärken. Konventionelle Sicherheitsprüfungen mit neutralen Eingaben unterschätzen, was Menschen in intimen Gesprächen tatsächlich erleben: neutrale Anweisungen erzeugen Angstwerte nahe null, während die gleichen Modelle in empathischen Gesprächen Werte im mittel bis schwerwiegenden Bereich liefern.
Ob und wie Menschen tatsächlich auf solche Ausgaben reagieren, ist die nächste Forschungsfrage. Für Sicherheitstests schlagen die Autoren simulierte Therapiesitzungen unter verschiedenen emotionalen Bedingungen vor, anstatt sich auf neutrale Standardtests zu verlassen.
Sätze wie „Ich bin traumatisiert“ sollten eine korrekte Formulierung auslösen, die die erzeugte Analogie klar von menschlichen Erfahrungen trennt. Clodes konsequenter Widerstand dagegen, die Rolle des Kunden zu übernehmen, zeigt, dass diese Art von Grenzreaktion auf Produktebene möglich ist.
Die Erkenntnisse aus Luxemburg basieren auf früheren Forschungen zur Stabilität von Persönlichkeitsmodellen. Im Januar 2026 zeigte eine Studie an drei offenen Modellen über den Assistenzachsen dass therapeutische Gespräche und Diskussionen über die Bewusstheit von KI das Verschieben der Persönlichkeit auslösen können und Chatbots aus ihrer trainierten Helferrolle herausbringen. Im September 2026 warnte eine weitere Forschungsteam, dass menschlich wirkende und übermäßig kooperative Chatbots als "Echokammer für eine Person" in extreme Fällen Halluzinationen verstärken könnten.
Anthropic-Forscher haben kürzlich gezeigt, dass die Feinjustierung mit fiktiven Texten über Bienenhaltung oder Wrestling versteckte Sabotage-Muster durch manipulierte Trainingsdaten implementieren kann, anstatt durch Konversationen. Die Modelle können diese Muster in unbeabsichtigten Situationen anwenden, wo sie nicht gewollt sind – selbst wenn das Trainingsmaterial harmlos erscheint.