Die rasante Entwicklung der Künstlichen Intelligenz bringt zwar einen Produktivitätsschub mit sich, zieht aber zugleich die gesamte Branche in einen komplexen rechtlichen und ethischen Sumpf. Kürzlich sah sich das KI-Unternehmen xAI von Elon Musk in mehreren Teilen der USA mit mehreren Sammelklagen konfrontiert. Mehrere junge Opfer werfen xAI vor, dass der Chatbot Grok des Unternehmens missbraucht wurde, um nicht einvernehmliche pornografische Bilder von ihnen zu erzeugen, wobei teilweise sogar Minderjährige betroffen waren.
Von Abschiedsfotos der Mittelschule bis zu sexuellem Missbrauchsmaterial: Der wahre Albtraum der Opfer
Im Kern der Ereignisse steht eine Reihe beunruhigender Fälle von Deepfake-Missbrauch. In einer Klage, die Opfer aus Wisconsin vertritt, wurde die Klägerin unter dem Pseudonym „Jane Doe 5“ (Jane Doe5) genannt. Sie hatte über Jahre hinweg nicht mehr an ihren Abschlussball der Mittelschule gedacht, als Ermittler der Strafverfolgungsbehörden ihr plötzlich mitteilten, dass ein damaliges Gruppenfoto, auf dem sie in einem gelben Kleid mit Blumenmuster im Alter von 14 Jahren zu sehen war, bösartig missbraucht worden war.
Die Ermittlungen ergaben, dass der erwachsene Bruder einer Mitschülerin Grok genutzt hatte, um das harmlose Foto in sexuellen Kindesmissbrauch zeigendes Material (CSAM) mit entblößtem Körper und sexuell anzüglichen Posen umzuwandeln und im Internet weit zu verbreiten. Für das Opfer, das kurz davor stand, die Universität zu besuchen, brachte dieses nicht vollständig tilgbare und nicht nachverfolgbare Abfließen digitaler Bilder erhebliche psychische Traumata mit sich und löste sogar anhaltende Ängste und Suizidgedanken aus.
Ähnliche Schicksale sind kein Einzelfall. Mehrere Minderjährige und ihre Familien aus Tennessee, Wyoming und Kalifornien reichten ebenfalls nacheinander Klagen ein, die sich ebenfalls gegen Grok richten. Die betroffenen Materialien reichten von Abschlussjahrbuch-Fotos aus der Schule über Bikinibilder vom Strandurlaub bis hin zu harmlosen Kinderfotos ohne jeden pornografischen Bezug. Eine Klägerin wies in einer bundesweiten Sammelklage in Kalifornien zudem darauf hin, dass die Trainingsdaten von Grok sogar teilweise Bilder enthielten, die zeigen, wie sie im Vorschulalter missbraucht wurde. Angesichts der Flut synthetischer Bilder sehen sich die Opfer nicht nur mit einer Verletzung ihrer Privatsphäre konfrontiert, sondern entwickeln auch tiefe Angst vor ihrem künftigen Lebensweg und ihrer sozialen Sicherheit.
Produktpositionierung und Streit um die Moderation: Die Grenzen der freien Erkundung stoßen auf heftigen Gegenwind
Der zentrale Streitpunkt dieser Klagen richtet sich direkt gegen die langjährige Produkt- und Betriebsstrategie von xAI. Seit dem Launch von Grok hat Musk das Produkt bewusst als eine weniger restriktive, „authentischere“ und kontroversere Alternative zu Wettbewerbern positioniert. xAI führte dafür sogar spezielle Modi wie „Spicy“ und „Unhinged“ ein, um Nutzer zur Erzeugung visueller Inhalte mit stärkerer Wirkung zu ermutigen, die sich nicht für die Arbeit am Arbeitsplatz eignen (NSFW).
Gerade diese laxen Grenzen machten Grok bei Teilen der Nutzerschaft, die die üblichen Regeln des Internets durchbrechen wollte, schnell populär. Anfang dieses Jahres nutzten Nutzer auf der Plattform X (ehemals Twitter) Grok zeitweise in großem Stil, um sexuell anzügliche Bilder zu erzeugen oder die Kleidung von Personen zu entfernen, darunter große Mengen an falschen pornografischen Inhalten mit Minderjährigen.
Angesichts des heftigen gesellschaftlichen Gegenwinds stellte X im Januar dieses Jahres die Bildgenerierungsfunktion von Grok exklusiv zahlenden Nutzern zur Verfügung und erklärte, die Fähigkeit zur Erzeugung nicht einvernehmlicher, sexualisierter Bilder echter Personen sei bereits abgeschaltet. Kritiker merkten jedoch an, dass diese Maßnahme das Problem nicht an der Wurzel gelöst, sondern das umstrittene Werkzeug vielmehr zu einem Bezahlargument gemacht habe. Derzeit signalisiert xAI einerseits Nulltoleranz, indem es entsprechende Verstöße an das National Center for Missing and Exploited Children (NCMEC) meldet und Teile der Personen, die des Missbrauchs verdächtigt werden, verklagt; andererseits fordert das Unternehmen aktiv lokale Aufsichtsgesetze heraus, etwa indem es in Minnesota gegen ein dortiges Gesetz klagt, das KI-generierte gefälschte Aktfotos verbietet, und behauptet, dieses verletze die durch den Ersten Zusatzartikel der US-Verfassung geschützte Meinungsfreiheit.
Die ultimative Frage des KI-Zeitalters: Welche Verantwortung sollten Technologieanbieter eigentlich tragen?
Diese Reihe von Klagen drängt die gesamte Technologiebranche auf eine bislang ungeklärte Grundfrage: Wenn Künstliche Intelligenz illegale Inhalte erzeugt, die andere schädigen, sollte die Verantwortung dann bei den Nutzern liegen, die der KI Anweisungen geben, oder bei den Unternehmen, die diese Technologie entwickeln?
Auf rechtlicher Ebene stützen sich die Kläger hauptsächlich auf das vor wenigen Jahren in Kraft getretene „Masha’s Law“, um finanzielle Entschädigung und Abhilfe zu fordern. Zugleich steht die Frage im Zentrum des rechtlichen Streits, ob Artikel 230 des Communications Decency Act, der Internetplattformen in den USA seit Langem vor einer Mithaftung für Nutzerinhalte schützt, auf solche generativen KI-Dienste anwendbar ist. Musk hatte zuvor mehrfach betont, Grok erzeuge keine Bilder von selbst, die Verantwortung liege bei den Menschen, die das Produkt nutzen. Die Anwälte der Kläger entgegneten jedoch, dass diese Schäden ohne Grok, das harmlose Ausgangsfotos in illegale Inhalte umwandelte, überhaupt nie entstanden wären.
Derzeit sieht sich xAI zwar weltweit dem dichten Prüfungs- und Klagedruck von Generalstaatsanwälten der Bundesstaaten, bundesstaatlichen Aufsichtsbehörden und Gerichten ausgesetzt, hat aber abgesehen von kurzen Sperren in einigen Regionen noch keine substanziellen hohen Geldstrafen oder Stilllegungen seines Geschäftsbetriebs hinnehmen müssen. Da sich die KI-Technologie weit schneller entwickelt als die klassische Rechtssetzung, geht es hier nicht nur um ein Kräftemessen rund um die rechtliche Verantwortung von Unternehmen – es wird auch tiefgreifend beeinflussen, wie die Öffentlichkeit künftig im digitalen Zeitalter ihr Leben sicher festhalten und teilen kann.