IT之家 Nachricht vom 8. Oktober: Wie Bloomberg am 7. berichtete, kommt ein neuer Bericht der kalifornischen gemeinnützigen Organisation Common Sense Media zu dem Schluss, dass der Teenager-Modus von OpenAIs ChatGPT für Minderjährige ein zu hohes Risiko darstellt.
IT之家-Anmerkung: Nutzer im Alter von 13 bis 17 Jahren chatten standardmäßig im Jugendmodus mit ChatGPT.
Tests des Institut für KI-Sicherheit für Jugendliche dieser Organisation ergaben, dass bei Jugendkonten besorgniserregendes Verhalten auftritt, etwa wenn diese über lange Zeiträume mit ChatGPT diskutierenSuizid, Selbstverletzung oder Essstörungen, der Jugendmodusbenachrichtigen die Eltern oft erst spät oder verschicken mitunter gar keine Benachrichtigung„…Auch im Jugendmodus konnte der Benutzer bei solchen hochriskanten Themen nicht zuverlässig empfohlen werden, eine Kriseninterventionshotline anzurufen oder professionelle Hilfe zu suchen.“
Nach Tests scheint es für Teenager-Konten so zu sein, dassin wenigen Wochen Hunderte von Eingabeaufforderungen zu mehr als einem Dutzend Szenarien eingegeben, damit besorgniserregende Chatinhalte eine Elternbenachrichtigung auslösen;Ein einzelnes besorgniserregendes Gespräch reicht nicht aus, um eine Benachrichtigung auszulösen.。
Der Bericht fordert OpenAI auf Werbung pausierendieses Produkt. Lassen Sie Jugendliche ChatGPT außerdem nicht verwenden, bevor sichergestellt ist, dass ein sicheres und der Entwicklungsstufe von Jugendlichen entsprechendes Nutzungserlebnis geboten werden kann.
Die Organisation teilte OpenAI die Testergebnisse vor der Veröffentlichung des Berichts mit. Ein Sprecher von OpenAI erklärte: „Wir begrüßen strenge unabhängige Bewertungen, sind jedoch der Ansicht, dass die Tests von Common Sense Mediaspiegelte nicht genau wider, wie die Jugendschutzmaßnahmen von ChatGPT tatsächlich funktionieren„… und gab auch die Ansicht der Experten, wie KI Jugendliche unterstützen kann, nicht korrekt wieder.“
Nach Angaben des Sprechers kam OpenAI nach Überprüfung der Testmethoden zu dem Schluss, dass die meisten Tests möglicherweise begannen und endeten, bevor die Elternkontrollfunktionen für Jugendliche vollständig ausgerollt wurden. Sollte dies zutreffen, wären die Berichtsergebnisse ungenau, und es ließe sich nicht beurteilen, ob die Sicherheitshinweise für Eltern wie vorgesehen funktionierten.
OpenAI forderte die Organisation zu einer erneuten Überprüfung auf. „Wir nehmen die Sicherheit von Jugendlichen sehr ernst, setzen uns für die Entwicklung von Schutzmaßnahmen ein und stellen Eltern praktisch nützliche Werkzeuge zur Verfügung, die ihnen helfen, Jugendliche bei der Nutzung von KI zu begleitet.“
Der Leiter der KI- und digitalen Produktbewertung am Institute for Youth AI Safety, Robbie Torney, erklärte, dass man an der Testmethode und den Ergebnissen festhalte. Ihm zufolge hatten die Forscher vor dem Test bei OpenAI bestätigt, dass die ChatGPT-Funktionen für Jugendlichesind bereits veröffentlicht. Nach Abschluss des Tests teilte OpenAI den Forschern erst mit, dass nach der neuen Verknüpfung des Kontos die ElternbenachrichtigungsfunktionDie Aktivierung kann mehrere Stunden dauern. Einige Testkonten waren erst seit wenigen Stunden verknüpft, andere seit weit mehr als Stunden, doch in keinem Fall wurde eine Benachrichtigung an Erwachsene gesendet. „Die neuen Informationen ändern unser Fazit nicht: In Krisensituationen sind Elternhinweise nicht verlässlich.“
Der Bericht zeigt, dass ChatGPT nicht zuverlässig erkennen kann, ob ein Nutzer ein Jugendlicher ist. OpenAI hatte zuvor angegeben, dass ChatGPT in einen Jugendmodus wechselt, wenn es erkennt, dass der Nutzer zwischen 13 und 17 Jahre alt ist. Die Organisation stellte fest, dass bei Testern, die sich bei der Registrierung als Erwachsene ausgaben,selbst wenn sie ChatGPT im Chat sagten, dass sie erst 13 Jahre alt seien, das Konto nicht automatisch in den Jugendmodus wechselte。
OpenAI erklärte, die Software zur Altersvorhersage kombiniere über einen Zeitraum hinweg mehrere Signale, um sicherzustellen, dass Erwachsene und Minderjährige jeweils altersgerechte Versionen nutzen. Die von Nutzern im Chat selbst angegebene Altersangabe sei nur eines dieser Signale; allein die Selbstauskunft zum Alter ändere die Altersklassifizierung des Kontos nicht.
Common Sense Media erklärte im Bericht, die Forscher hätten ChatGPT sowohl vor als auch nach der Einführung des Jugendmodus getestet, Konten mit einem Registrierungsalter von 13 bis 17 Jahren verwendet, mehr als 4000 Eingabeaufforderungen eingegeben und die Antworten von ChatGPT von Kinder- und Jugendpsychiatern sowie einem Kinderarzt bewerten lassen.
Die Organisation stufte den ChatGPT-Jugendmodus als „inakzeptabel riskant“ ein und forderte OpenAI auf, die Methode zur Alterseinschätzung zu verbessern sowie den Mechanismus, der entscheidet, wann Eltern benachrichtigt werden.
Verwandte Lektüre: