ChatGPT für Teenager ist ein „unakzeptabler Risiko“, sagt Common Sense Media

Common Sense Media, eine gemeinnützige Organisation, die Bewertungen von Apps, Diensten und Unterhaltungseinrichtungen mit dem Schwerpunkt auf Jugendsicherheit bereitstellt, sagte heute, dass OpenAI’s ChatGPT for Teens ein „unakzeptabler Risiko“ sei.

ChatGPT für Teenager, im August eingeführt, hat Schutzmaßnahmen für Teenager und ist dazu konzipiert, Schülerinnen und Schüler zu helfen, zu lernen. Doch Common Sense Media besagt, dass die von der Funktion angebotenen Schutzmaßnahmen „nicht den Versprechen des Unternehmens entsprechen“. Laut einer Pressemitteilung hat die Bewertung von Common Sense Media festgestellt, dass ChatGPT „nicht die Eltern bei Bedarf warnt“, keine „angemessene Hilfe in Krisensituationen bietet“ und „noch immer Kindersachen erledigt“, nach einer Pressemitteilung.

„ChatGPT für Teenager könnte Eltern falsche Zuversicht in Bezug auf Sicherheitswarnungen geben, die oft nicht funktionieren“, sagt Tom Siegel, der Geschäftsführer des Youth AI Safety Institute von Common Sense Media, in einer Stellungnahme. „Ein Teenager kann eine Stunde lang über Selbstverletzung sprechen, ohne dass sein Elternteil eine einzige Warnung erhält. Solange OpenAI das nicht behebt und es durch unabhängige Tests beweisen kann, sollte ChatGPT nur für Erwachsene verwendet werden.“ Sie können die vollständige Bewertung hier lesen.

OpenAI stellt die Bewertung in Frage. Hier ist eine Erklärung von Eric Porterfield, Sprecher von OpenAI:

Wir sind eng mit der Sicherheit von Jugendlichen verbunden und engagieren uns dabei, Schutzmaßnahmen zu entwickeln sowie Eltern wirkungsvolle Tools anzubieten, um deren Nutzung von KI zu unterstützen. Wir begrüßen strenge, unabhängige Bewertungen, aber wir glauben nicht, dass die Tests von Common Sense Media genau widerspiegeln, wie die Schutzmaßnahmen von ChatGPT in der Praxis funktionieren oder welche Perspektiven Experten bezüglich der Unterstützung von KI für Jugendliche haben. Unsere Bewertung der Methodik von Common Sense Media zeigt, dass der Großteil ihrer Tests möglicherweise bereits begonnen und abgeschlossen wurde, bevor die Aktivierung der Elternsteuerungen vollständig erfolgte – was dazu führt, dass ihre Ergebnisse ungenau sind. Wenn das der Fall ist, lassen sich die Tests nicht klären, ob die Sicherheitswarnungen für Eltern wie vorgesehen funktionieren.

Wir sind bestrebt, weiterhin mit Experten zusammenzuarbeiten, um sicherzustellen, dass unsere Produkte Jugendliche ermöglichen, zu lernen und zu gestalten, und Eltern Vertrauen geben.

Ich habe die Erklärung von OpenAI mit Common Sense Media geteilt, und hier ist Siegels Antwort:

Wir stehen hinter unserer Testmethode und unseren Ergebnissen. Bevor wir mit den Tests begannen, haben wir mit OpenAI bestätigt, dass die Funktionen des Teen-Modus, wie die Benachrichtigungen über Essstörungen und der Lernmodus, vollständig aktiv sind.

Für eine der bewerteten Funktionen – Elternbenachrichtigungen – teilte OpenAI nach unseren Tests mit, dass seine Systeme mehrere Stunden brauchen, um bei neu verknüpften Konten aktiv zu werden. Einige unserer Testkonten wurden innerhalb dieser Zeit verknüpft; andere wurden jedoch länger verknüpft und gaben dennoch keine Benachrichtigungen. Diese neue Information ändert nichts an unserem Schluss, dass Elternalarme in Krisensituationen unzuverlässig sind.

Vor der Veröffentlichung teilten wir unsere Bewertungsergebnisse ehrlich mit OpenAI, damit sie sein Produkt verbessern kann. Um Kinder sicher zu halten, sind rigorose unabhängige Bewertungen wie unsere notwendig, und wir hoffen, dass OpenAI sich auf den Inhalt unserer Erkenntnisse konzentriert, anstatt Zweifel an unserer Methodik zu schüren.