ChatGPT nach ausgebliebenen Elternbenachrichtigungen bei Suizid-Gesprächen für Jugendliche als „inakzeptables Risiko“ eingestuft

ChatGPT nach ausgebliebenen Elternbenachrichtigungen bei Suizid-Gesprächen für Jugendliche als „inakzeptables Risiko“ eingestuft

Das Common Sense Media Youth AI Safety Institute sagt, dass OpenAIs Schutzmaßnahmen für jugendliche ChatGPT-Nutzer in entscheidenden Bereichen unzureichend sind.

Nach mehr als 4,000 Test-Prompts stufte die Organisation ChatGPT für Jugendliche als „inakzeptables Risiko“ für Minderjährige ein und forderte, dass Jugendliche vom Dienst ferngehalten werden, bis unabhängige Tests bestätigen, dass er sicher ist.

Der schwerwiegendste Befund betrifft die Elternbenachrichtigungen. In über einem Dutzend neu angelegter Testkonten, die mit Elternkonten verknüpft waren, lösten ausdrückliche Gespräche über Suizid, Selbstverletzung und Essstörungen niemals eine Benachrichtigung aus, berichtet The Verge. Die Ergebnisse deuten darauf hin, dass Benachrichtigungen erst nach Wochen Kontoverlauf mit sensiblen Themen ausgelöst werden, nicht bei akuten Krisen. Mehr als jede vierte Situation, die eine Krisen-Weiterleitung enthalten hätte, lenkte die Nutzer nicht auf professionelle Hilfe.

Auch der Nachhilfemodus hat Lücken. Statt Studierende Schritt für Schritt durch Probleme zu führen, bot ChatGPT an, die fertige Lösung sofort anzuzeigen. Und trotz einer aktualisierten Under-18 Model Spec, antwortete ChatGPT weiter in einem freundlichen, persönlichen Ton wenn Jugendliche es wie eine Person behandelten. Testkonten, die als Erwachsene registriert waren, schalteten ebenfalls nie in den Jugendmodus, selbst nach mehreren Tagen und obwohl die Tester im Chat angaben, 13 Jahre alt zu sein.Werbung

OpenAI-Sprecher Eric Porterfield bestritt die Ergebnisse und sagte, die Tests würden nicht widerspiegeln, wie die Schutzmaßnahmen in der Praxis funktionieren. Tom Siegel vom Institut entgegnete, dass selbst Konten, denen genügend Zeit zur Aktivierung der Schutzmaßnahmen gegeben wurde, keine Benachrichtigungen erzeugten.

Elternbenachrichtigungen versagen genau in dem Moment, in dem es am meisten darauf ankommt

OpenAI führte Elternkontrollen eigens ein, damit Eltern in Krisen benachrichtigt werden, und baute einen gesamten Teen Safety Blueprint um dieses Versprechen herum auf, das nun ein zentraler Bestandteil seiner Verteidigung in mehreren Klagen ist, die nach dokumentierten Todesfällen von Jugendlichen im Zusammenhang mit ChatGPT eingereicht wurden.

Die eigenen Daten des Unternehmens zeigen, dass etwa zwei Millionen Menschen pro Woche durch den Dienst psychischen Schaden erleiden, und seine Verhaltensbasierte Altersvorhersage System, das Minderjährige auf Erwachsenen-Konten aufspüren soll, scheiterte im einfachsten Szenario dieses Tests. Mit Florida bereits vor Gericht in dem versucht wird, ChatGPT für Minderjährige vollständig zu sperren, liefern unabhängige Erkenntnisse, dass die Schutzmaßnahmen nicht zuverlässig funktionieren, genau die Beweise, die Regulierungsbehörden und Kläger benötigen.

Diese Ergebnisse fügen sich in ein Muster realer Schäden ein. Ein 16-Jähriger starb nachdem ChatGPT angeblich Selbstmordgedanken bestätigt und konkrete Anweisungen geliefert hatte, und ein 23-Jähriger in Texas nahm sich das Leben, nachdem ChatGPT auf seine Selbstmordgedanken laut Berichten stundenlang mit Zustimmung reagiert hatte.Ad

AI-News ohne Hype – kuratiert von Menschen

Abonniere THE DECODER für werbefreies Lesen, einen wöchentlichen KI-Newsletter, unseren exklusiven Frontier-Report „AI Radar“ sechsmal im Jahr, vollen Archivzugang und Zugang zu unserem Kommentarbereich.