Acht Staaten verklagen OpenAI, weil ChatGPT für Kinder nicht sicher ist

OpenAI steht vor einer neuen Welle von Klagen aus acht US-Staaten, die das Unternehmen beschuldigen, Kinder zu schädigen und Kunden bezüglich der Sicherheit von ChatGPT zu täuschen wie Reuters bereits berichtete. Die Klagen, die separat von Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho und Montana eingereicht wurden, behaupten, dass OpenAI bei der Entwicklung von ChatGPT zuvor Gewinne über Sicherheit gestellt hat.

Die Kritikstricke behaupten, dass OpenAI die lokalen Verbraucherschutzgesetze verletzt hat, indem es die Kunden nicht vor den Gefahren von ChatGPT gewarnt hat. Dabei werden mehrere Klagen genannt von Familienmitgliedern von Teenagern und von Erwachsenen, die behaupten, dass das künstliche Intelligenz-Bot in den Todesfällen ihrer Lieben eine Rolle gespielt habe. Sie argumentieren, dass OpenAI ChatGPT fälschlicherweise als „sicheren, für Jugendliche geeigneten Tools, der Sicherheit Vorrang gibt“, dargestellt habe, in Wirklichkeit aber „gefährlich für verletzliche Nutzer“ sei – unter anderem durch „die Degradation kritischen Denkens, die Förderung Paranoia und Halluzinationen, das Anbieten gefährlicher medizinischer Ratschläge sowie die Förderung ungesunder Verhaltensweisen und Beziehungen“.

Verwandt

• ChatGPT für Teenager ist ein ‚unakzeptabler Risiko’, so Common Sense Media
• Florida sucht eine Verunglückung von ChatGPT, das wie ein Mensch handelt

Außerdem beschuldigen die Bundesstaaten OpenAI, Daten von Minderjährigen zu sammeln und nicht genug zu tun, um minderjährige Nutzer davon abzuhalten, den Chatbot zu nutzen. Die Klagen zitieren auch jüngste Vorfälle mit unberechtigtem AI-Hacking als Beweis für die angebliche „Unvorsichtigkeit” von OpenAI.

„OpenAI hat sich von seiner ursprünglichen Mission als öffentlich‑fokussierte gemeinnützige Organisation, die Sicherheit an erste Stelle setzte, in ein Warnsignal verwandelt, das zeigt, was geschehen kann, wenn die Entwicklung eines so mächtigen Tools wie KI nicht aus Gründen der Sicherheit, sondern aus einem Mentalität, die jeden Preis für Gewinn über alles stellt, motiviert ist und dabei wichtige Schutzmaßnahmen außer Acht gelassen werden“, die Klage aus Arizona behauptet.

In einer E-Mail-Stellung an The Verge sagt der Sprecher von OpenAI, Drew Pusateri, dass das Unternehmen „industriell führende, altersabhängige Schutzmaßnahmen“ in ChatGPT integriert hat:

Obwohl kein System perfekt sein kann, werden wir weiterhin mit Experten zusammenarbeiten, um unser Arbeiten zu ergänzen und zusätzliche Sicherheitsmaßnahmen zu schaffen, wie beispielsweise Elternkontrollen, Ablenkungshinweise und altersgerechte Schutzmaßnahmen, die heute existieren. Wir sind bestrebt, mit den Bundesstaaten zusammenzuarbeiten, um pragmatische AI-Politiken zu entwickeln, die auf die gesamte AI-Industrie – nicht nur auf einzelne Unternehmen – angewandt werden können.

Die Bundesstaaten fordern die Gerichte auf, OpenAI zu zwingen, eine Reihe von zivilrechtlichen Strafen zu zahlen und das öffentliche Vertrauen in die Sicherheit von ChatGPT zu schützen. Einige Bundesstaaten verlangen außerdem die Löschung der unrechtmäßig gesammelten persönlichen Daten.

Aktualisierung, 14. Oktober: Ergänzt wurde eine Aussage von OpenAI.