Am 8. Oktober 2023, Beijing Time, veröffentlichte OpenAI am Mittwoch den ersten Bericht über die Nutzung durch Jugendliche. Laut dem Bericht nutzen jugendliche Nutzer ChatGPT im Durchschnitt weniger als 15 Minuten pro Tag und weniger als 2% der Nutzer nutzen das Tool länger als 3 Stunden. Gleichzeitig haben Tests von Drittanbietern die Sicherheitsmechanismen für die Elternanweisungen in Frage gestellt.
Mit der schnellen Verbreitung von AI-Plattformen erhält die Auswirkung von Chatboten auf die psychische Gesundheit und Sicherheit der Jugendlichen immer mehr Aufmerksamkeit. OpenAI erklärt, dass bei Jugendlichen, mit denen Rückkehrhinweise gegeben wurden, fast die Hälfte der Nutzer innerhalb von 5 Minuten das Benutzen pausiert oder das Chatten beendet. Damit zeigt das Unternehmen, dass seine Maßnahmen zur Anleitung einer angemessenen Nutzung der Produkte bei Jugendlichen wirken.
OpenAI sagte außerdem, dass Nutzer, die die speziellen Versionen für Jugendliche verwenden, mehr Bildungsbezogene Nachrichten senden und Lernvisualisierungswerkzeuge sowie den „Lernmodus“ nutzen. Das Unternehmen plant, Werkzeuge zur Planung von Universitätsbewerbungen hinzuzufügen, um Schülern bei der Klärung der Bewerbungsanforderungen, Deadlines und Schritt-für-Schritt-Anleitungen für Stipendien zu helfen. Zudem werden Lernkarten und praktischere Tools für die Erstellung von Tests eingeführt.
OpenAI hat im August dieses Jahres das Jugendmodus von ChatGPT in Betrieb genommen. Dieser Modus wird automatisch aktiviert, wenn die von den Benutzern angegebene Alterseinstellung vorliegt oder der Systemautomat erkennt, dass der Benutzer möglicherweise jünger als 18 Jahre ist. Er unterstützt Elternsteuerung und beschränkt Gespräche, die sensante Themen betreffen.
Aber die Non-Profit-Organisation Common Sense Media veröffentlichte am Mittwoch einen Bericht, der besagt, dass das ChatGPT Jugendmodus oft eine Verzögerung bei der Benachrichtigung der Eltern gibt oder gar keine Benachrichtigung auslässt, wenn Jugendaccounts Gespräche über Selbstmord, Selbstverletzung oder Essstörungen führen.
Diese Studie basiert auf mehr als zehn speziell erstellten Testkonten. Die Studie zeigt außerdem, dass die Chatbot nicht stabil dazu in der Lage waren, den Nutzern zu empfehlen, sich an die Kriseninterventionsthelpline zu wenden oder professionelle Hilfe zu suchen.
OpenAI-Sprecher erklärte, dass diese Tests „nicht genau die Funktionen“ des Sicherheitsmechanismus für Jugendliche von ChatGPT widerspiegeln. Die Firma sagte, dass aufgrund von Sicherheits- und Betriebsbedingungen, die Verknüpfung zwischen Eltern- und Jugendkonten sowie die Aktivierung der zugehörigen Sicherheitshinweise mehrere Stunden dauern können.
„Der Großteil ihrer Tests könnte bereits begonnen und abgeschlossen sein, bevor die Funktion des Elternsteuerungssystems aktiviert wird“, sagte der Sprecher.
Common Sense Media besagt, dass bei einigen Test-Konten die Verbindungsdauer ausreichend lang ist, während bei anderen Konten die Verbindungsdauer zu kurz ist. Allerdings haben keine der Test-Konten eine rechtzeitige Benachrichtigung erhalten. Die Organisation erklärt, dass nur die Konten, in denen seit Wochen Gesprächsprotokolle zu sensiblen Themen gespeichert sind, eine Benachrichtigung erhalten haben.