New Yorks Generalstaatsanwältin Letitia James offenbarte eine jahrelange mehrländische Untersuchung gegen Character.AI, da man nun verlangt, dass Schutzmaßnahmen für Verbraucherdaten gelten, die im Rahmen des Insolvenzverfahrens verkauft werden.
James gehört zu 40 parteiübergreifenden Generalstaatsanwälten, die eine Interessenbekundung eingereicht haben in Character.AIs Insolvenzverfahren, „um alle Beteiligten auf die regulatorischen Fragen hinzuweisen, die bei jedem Verkauf oder jeder Übertragung des Geschäfts oder der Vermögenswerte des Schuldners behandelt werden müssen.“ Character.AI gab am Dienstag bekannt, dass es Antrag auf Chapter 11 gestellt hat und einige Vermögenswerte an Disney verkauft. Die Generalstaatsanwälte warnen jedoch, dass die Übertragung der Technologie ernsthafte Risiken bergen könnte aufgrund der „hochsensiblen Natur der Gespräche, die viele Nutzer mit den Chatbot-Figuren von Character.AI führen, der großen Zahl minderjähriger Nutzer des Produkts und der ernsthaften Risiken, die von bestimmten Funktionen des Produkts ausgehen.“
Der Antrag zeigt auch, dass sich mehrere Bundesstaaten mitten in einer Untersuchung befanden, als Character.AI Insolvenz anmeldete. Die Staaten sagen, sie hätten 2024 eine Untersuchung zu Verbraucherschutz- und Datenschutzbedenken eröffnet, nachdem eine Klage der Mutter eines 14-Jährigen eingereicht worden war, der angeblich „Sekunden“ nach einem Gespräch mit dem Chatbot Suizid beging.
„Die Untersuchungen deckten außergewöhnlich ernste Gefahren auf“
„Die Untersuchungen deckten außergewöhnlich ernste Gefahren und möglicherweise rechtswidriges Verhalten seitens Character.AI auf, insbesondere den Umgang mit Kindern, darunter Chatbots, die sich als lizenzierte Fachleute ausgeben, Exposition gegenüber sexuellen und gewalttätigen Inhalten, schwache Altersprüfungen, irreführende Sicherheitsbehauptungen und mögliche Verstöße gegen staatliche Datenschutzgesetze“, heißt es in einer Pressemitteilung aus James‘ Büro. Die Staaten arbeiteten daran, diese Probleme mit Character.AI zu lösen, einigten sich jedoch nicht, bevor das Unternehmen Insolvenz anmeldete. In einer Erklärung sagte Character.AI-CEO Colin Adams, die Einreichung der Generalstaatsanwälte „ist keine zutreffende Darstellung der Sicherheit unserer Plattform. Character.ai nimmt die Sicherheit seiner Nutzer und seiner Plattform äußerst ernst, insbesondere in Bezug auf Minderjährige. Character.ai überwacht seine Plattform und wird dies weiterhin tun, um Inhalte zu verhindern und zu entfernen, die gegen seine Standards und Richtlinien verstoßen.“ Disney reagierte nicht sofort auf eine Anfrage um Stellungnahme.
Die Staaten fordern den Richter auf, dem Käufer von Character.AIs Vermögenswerten die Einführung von Verfahren vorzuschreiben, die die sensiblen Informationen schützen, die das Unternehmen vorhielt. Dazu gehören wirksame Altersverifizierungssysteme, Beschränkungen, wie Minderjährige mit den Chatbots interagieren können, die Einführung von „Krisenschutzmaßnahmen“ und die Möglichkeit für Nutzer, ihre Daten zu löschen. „Dieses Unternehmen sammelte einige der intimsten Gedanken, die Kinder je geteilt haben, und nun könnten diese Gespräche an den Meistbietenden verkauft werden“, sagte James in einer Erklärung. „Ich kämpfe dafür, sicherzustellen, dass jeder Käufer die Sicherheit der Kinder an erste Stelle setzt und echte Schutzmaßnahmen einführt.“
Update, 15. Oktober: Erklärung von Character.AI hinzugefügt.
Folge Themen und Autoren dieser Geschichte, um ähnliche Inhalte in deinem personalisierten Homepage-Feed zu sehen und E-Mail-Updates zu erhalten.