Niemand ist sicher vor KI-Deepfakes von Promis

Im Nachhinein hätte der Beitrag auf Instagram mehr Warnsignale auslösen müssen. Das Bild zeigte angeblich die Schauspielerin Mia Goth, nur wenige Tage nach der Einreichung der Scheidung von dem Schauspieler und Filmemacher Shia LaBeouf, in einem T-Shirt mit einer spitzen Botschaft: MY EX IS MY BIGGEST FAN. Um den Punkt wirklich zu unterstreichen, wurde der Song “Single Ladies (Put a Ring on It)” von Beyoncé zum Beitrag hinzugefügt.

Es wäre völlig untypisch für den Star von Pearlgewesen, der oder das kaum – wenn überhaupt – auf Social Media präsent ist. Doch das Instagram-Konto, das den Beitrag veröffentlichte, @miagoth_, hatte mehr als eine Million Follower und war mit einem blauen „verifiziert“-Häkchen gekennzeichnet. Innerhalb von Tagen sammelte das Bild fast 500,000 Likes, darunter von Kolleginnen und Kollegen aus der Unterhaltungsbranche, obwohl die Seite als Fan-Konto gekennzeichnet war.

Das Bild war, wie The Verge berichtete, KI-generiert und wurde von einem Konto gepostet, über das Goths Sprecherin sagte, man habe sich zuvor schon bei Instagram über die Veröffentlichung von „gefälschten, KI-Bildern“ von Goth beschwert. Meta erlaubt Nutzern, blaue „verifiziert“-Häkchen zu kaufen, selbst wenn das Konto nicht von einer prominenten Person betrieben wird oder keine offizielle Seite ist.

„Die Tatsache, dass dieses Fan-Konto die Kriterien von Instagram erfüllt, um sich für einen ‚blauen Haken‘ zu qualifizieren, ist auf grundlegender Ebene beunruhigend“, sagte Christine Tripicchio, eine Sprecherin von Goth, gegenüber The Verge in einer E-Mail. „Darüber hinaus ist es unverständlich, dass Instagram offenbar die Verbreitung von gefälschten und manipulierten Bildern über den Schutz und die Integrität des Abbilds einer öffentlichen Person stellt.“

Aufgrund der Nachrichten über ihre Scheidung machte der Beitrag die Runde durch die Promi-Klatsch-Portale, und diese Berichterstattung verbreitete den Beitrag wiederum über die Google-Suche. Suchanfragen nach der Schauspielerin und dem Shirt lösten eine KI-generierte Übersicht aus, die sagte, Goth mache „einen klaren Seitenhieb auf ihren Ex, Shia LaBeouf, nach der kürzlichen Scheidungseinreichung“, und zitierte dabei die oben genannten Blogs. Ein Abschnitt in den Google-Suchergebnissen mit der Bezeichnung „Mia Goth turns heads on Instagram by wearing a sassy ‘My ex is my biggest fan’ t-shirt“ wurde prominent hervorgehoben, zusammen mit Links zu Social-Media-Beiträgen, die das Bild diskutierten. Instagram entfernte das Konto schließlich wegen der Imitation einer öffentlichen Person.

Seit vor einigen Jahren KI-Generierungstools für Verbraucher verfügbar wurden, betrafen einige der denkwürdigeren – und umstritteneren – Anwendungsfälle berühmte Personen. Die betroffenen menschlichen Subjekte haben historisch gesehen nicht gut darauf reagiert, digital geklont und als Spielzeug benutzt zu werden: Ein KI-generierter Song im Drake-Stil wurde nach Copyright-Verstößen von YouTube entfernt. Scarlett Johansson engagierte ein Rechtsteam , nachdem OpenAI eine Stimme für ChatGPT veröffentlicht hatte, die ohne ihre Zustimmung wie ihre klang. Ariana Grande soll letztes Jahr ein Konto gesperrt haben , das KI-generierte Inhalte über sie veröffentlichte. Taylor Swift unterstützte 2024 öffentlich Kamala Harris als Präsidentschaftskandidatin und sagte, sie habe sich veranlasst gesehen, ihre Position zu klären , nachdem Donald Trump gefälschte Bilder gepostet hatte, die andeuteten, sie unterstütze ihn.

. Es gab einen Moment, in dem jeder, selbst die Reichen und Berühmten, mit den Normen rund um eine neue Technologie rang. Nun wächst die Flut an KI-Inhalten im Netz immer weiter – und es ist unklar, ob jemand versucht oder in der Lage ist, sie aufzuhalten.

Verwandt

• Es sei „unverständlich“, dass Instagram die Verbreitung eines KI-Bildes von Mia Goth zugelassen habe, sagen ihre Sprecherinnen
• Scarlett Johansson hat OpenAI mitgeteilt, dass sie ihre Stimme nicht verwenden sollen — und sie ist nicht erfreut, dass sie es möglicherweise trotzdem getan haben

KI-generierte Inhalte, die weibliche Prominente darstellen, sind oft offen sexuell. Ein Profil, das ausschließlich KI-generierte Bilder von Johansson postet – oft mit barfüßigen Füßen auffällig in Szene gesetzt – enthielt Kontaktinformationen, damit Unternehmen auf dem Account werben konnten, sowie Links zu Patreon- und Telegram-Kanälen, die Abonnements verkauften. Die Inhalte außerhalb der Plattform nutzten Johannsons Namen und (KI-)Bild, um für Erotikinhalte zu werben. Ein weiterer Account postet realistische KI-generierte Bilder von Schauspielern und Musikern wie Millie Bobby Brown, Zendaya und Grande, immer teilweise entkleidet oder in sexualisierten Posen. Manche Accounts haben ihre eigene Nische, wie „Stranger Things -Schauspieler, die einander heiraten.”

Nachdem The Verge Meta zu acht Accounts gefragt hatte, die Celebrity-Deepfake-Inhalte posteten, erklärte der Sprecher Alex Dziedzan, das Unternehmen habe einige der Accounts entfernt. Zwei davon – der Goth-Account und der Johansson-Account – scheinen gelöscht zu sein.

„Wir erlauben es nicht, dass Accounts das Ebenbild einer Person nutzen, um sich als diese Person auszugeben, unabhängig davon, ob die Inhalte authentisch oder KI-generiert sind“, schrieb Dziedzan in einer E-Mail.

Taylor Swift hält ein Getränk in der Hand, rappt zu Drakes „Burning Bridges“ mit allen Kraftausdrücken. „I’m off a [Quaalude]/it make my body tingle“, singt sie, in dem Kleid von dem schicksalhaften VMA-Auftritt 2009. Das Video ist offensichtlich KI. Es hat 1,8 Millionen Aufrufe auf Instagram.

„Ich glaube, ihr PR-Team wird es nicht mögen, dass sie das N-Wort sagt“, kommentierte jemand.

Instagram ist voll mit Videos wie diesen, die oft unerklärlicherweise sehr spezifischen Formaten folgen. Ein Clip von KI-Shrek, der dasselbe tut wie KI-Swift, hat 3.1 Millionen Aufrufe. Hier ist Steve Jobs, der selbstbewusst zu einem anderen Drake-Song mit einer Flasche Champagner in der Hand umherstolziert (371,000 Aufrufe). Es gibt auch eine identische Lionel-Messi-Version (2.1 Millionen Aufrufe), gepostet von einem anderen Account. Hier synchronisieren die Formel-1-Fahrer Lewis Hamilton und Max Verstappen zu „APT“ von Bruno Mars und Rosé die Lippen (2.9 Millionen Aufrufe). Ein weiterer Clip zeigt KI-Swifts Hochzeit mit KI-Travis Kelce in der KI-Madison Square Garden.

„ai er trug einen weißen Smoking“, fakt人与prüfte ein Fan hilfreich nach.

Angesichts des Fehlens nationaler Rechtsgesetze zum Persönlichkeitsrechtwerden KI-generierte Inhalte mit echten Menschen auf Plattformebene verhandelt. (Der US Take It Down Act, der 2025 in Kraft getreten ist im Jahr 2025 kriminalisiert ausdrücklich die Verbreitung nicht einvernehmlicher intimer Bilder, einschließlich KI-generierter Inhalte, und verpflichtet Plattformen, diese innerhalb von 48 Stunden zu entfernen.)

YouTube hat eine Ebenbild-Erkennung, vielleicht das robusteste Deepfake-Überwachungs- und Entfernungssystem. Im Rahmen des Programms durchsucht YouTube seine Plattform nach visuellen Übereinstimmungen mit einer Person – und seit Kurzem auch nach klanglichen Ähnlichkeiten – und ermöglicht ihr, die Entfernung von Inhalten zu beantragen. Nicht jeder Entfernungsantrag wird angenommen; das Unternehmen sagt bei der Bewertung von Entfernungen das öffentliche Interesse, die Nachrichtenwertigkeit und die Einwilligung berücksichtigt. Das Programm stand zunächst öffentlichen Persönlichkeiten wie Prominenten, Content-Erstellern, Politikern und Journalisten offen, umfasst nun aber jeder Erwachsene mit einem YouTube-Konto. In der Vergangenheit hat das Unternehmen erklärt, dass die Anzahl der Entfernungsanfragen, die es erhält, relativ gering ist. Creator möchten wissen, was von ihnen auf YouTube veröffentlicht wurde, aber es erweist sich oft als „recht harmlos oder ergänzend für ihr Gesamtgeschäft“, sagt Amjad Hanif, Vice President of Creator Products, sagte in einer Pressekonferenz im März.

Ein YouTube-Sprecher, Jack Malon, erklärte in einer E-Mail an The Verge dass die Ähnlichkeitserkennung des Unternehmens entwickelt in Partnerschaft mit der Unterhaltungsindustrie. Malon sagte, dass YouTube in der ersten Hälfte von 2026 über 95 Prozent der Videos entfernt hat, die über das Programm zum Abruf gemeldet worden waren.

Standbilder sind von Metas KI-Kennzeichnungspflicht ausgenommen

KI-generierte Inhalte auf Meta-Plattformen sind oft mit Beschriftungen gekennzeichnet, die darauf hinweisen. Manche Inhalte, wie realistische Videos von Personen oder Audioaufnahmen von KI-generierten Stimmen, sind erforderlich …eine KI-Kennzeichnung zu erhalten. Standbilder hingegen sind von der Kennzeichnungspflicht ausgenommen – das bedeutet, dass das gefälschte Bild von Mia Goth unter Metas Regeln keine Offenlegung erfordert hätte. Das Unternehmen führte auch „KI-generiertes Profil“-Kennzeichnungen ein, die gelten für ein gesamtes Konto wo die dargestellte Person im Avatar in der realen Welt nicht existiert, nachdem eine Flut von KI-Influencer-Typen die Plattform übernommen hatte.

Es gibt aber eine regelrechte Branche von Konten, die KI-generierte Bilder echter Menschen produzieren, die der Algorithmus offenbar mag. Einige der Inhalte sind nicht offensichtlich böswillig, sondern nur irgendwie seltsam: Auf Facebook gibt es zum Beispiel ein Genre von KI-generierte Filmpremieren-Videos bei dem die ursprüngliche Besetzung (in Kostümen) neben den Schauspielern einer neu besetzten Version den roten Teppich entlanggeht. Ein Profil bewirbt Online-Kurse für 29 Dollar pro Monat, wie man mit KI-Inhalten Geld verdient.

KI-generierte Promi-Inhalte können Menschen auch wirklich davon überzeugen, dass sie echt sind, wie im Fall des Bildes (und des Kontos), das Goth zeigte. Der spezifische Beitrag, der viral ging, deutete an, dass die Schauspielerin LaBeouf verspottete, der bereits von einem anderen Ex-Partner wegen Missbrauchs beschuldigt und war gedreht im Jahr 2015 indem er sagte, er „hätte [Goth] getötet“, wenn sie weiter mit ihm gestritten hätte. Das gefälschte Bild war Aufmerksamkeit erregend, fragwürdig und zeitgerecht – mit anderen Worten: perfekt für virale Verbreitung in sozialen Medien, aber ein potenzielles Risiko für die Beteiligten. Der Vorfall veranschaulicht das Versagen der Trust- und Safety-Vorkehrungen, die eigentlich vor dieser Art von Verwirrung schützen sollen.

In sozialen Medien vermengt sich KI-Inhalt frei mit gewöhnlichen Reposts echter Bilder. Und selbst wenn eine Seite entfernt wird, gibt es andere, die weiterhin Inhalte verbreiten: Ein weiteres Instagram-Konto – weiterhin online – mit über 300,000 Followern veröffentlicht einen stetigen Strom von Bildern und Videos von Johansson, die offenbar eine Mischung aus authentischen Bildern und KI-generierten Inhalten sind. Einer seiner beliebtesten Beiträge ist ein KI-Bild von Johansson mit fast einer halben Million Likes. Es gibt keine KI-Kennzeichnung, im Einklang mit Metas Regeln. Die Deepfake-Johansson liegt auf einem Sofa, ihre nackten Füße sind prominent zur Schau gestellt. Es ist natürlich nicht sie – aber ihre Fans in den Kommentaren wissen es entweder nicht oder es interessiert sie nicht.