Die Schauspielerin Wu Yue erklärte gestern in einer Stellungnahme, der WeChat-Video-Account „Huajie Meifu-Tagebuch“ habe mit KI gefälschte Verkaufsvideos von ihr produziert. Die von ihr veröffentlichte Bildschirmaufnahme zeigt, dass der Account ein KI-Video veröffentlicht hat, in dem „Wu Yue“ auftritt: Gleich zu Beginn verkauft „Wu Yue“ Produkte, anschließend werden Aufnahmen ihrer öffentlichen Auftritte eingeblendet, und in ihrem Namen heißt es: „Dieses Produkt wurde nicht von ihnen angefragt, sondern ich habe sie angefragt … die Wirkung ist wirklich unmittelbar sichtbar“. Noch absurder: Am Ende des Videos erscheint außerdem ein mutmaßliches Verkaufsvideosegment von Deng Yaping – der Identitätsmissbrauch einer einzigen Person zieht mehrere Menschen in Mitleidenschaft.
Wie The Paper vom WeChat-Team bestätigt erfuhr, wurde der Account inzwischen dauerhaft gesperrt, die zugehörigen Inhalte wurden gelöscht und sind nicht mehr sichtbar.
Treffer gegen die rote Linie der Sonderkampagne „Qinglang“
Dieser Vorfall trifft mitten ins Visier der Regulierungsbehörden. Am 30. September gab das Büro der Zentralen Kommission für Cyberspace-Angelegenheiten eine Mitteilung heraus und ordnete landesweit eine 2 Monate dauernde Sonderkampagne „Qinglang · Aufräumen mit chaotischen falschen Persönlichkeitsdarstellungen in Kurzvideos“ an. Im Mittelpunkt steht die Bekämpfung von Praktiken wie der Nachahmung von Personen durch KI – einschließlich der Herstellung gefälschter Audio- und Videoinhalte mittels KI-Synthese, um sich als Prominente auszugeben und damit illegale Rechtsverletzungen wie falsche Testimonials und Marketing durchzuführen.
Da die Hürde für KI-Gesichtstausch und -Stimmennachahmung inzwischen so niedrig ist, dass solche Fälschungen im Handumdrehen erstellt werden können, sind Prominente die am leichtesten „ausgeliehenen Gesichter“. Die schnelle Reaktion des WeChat-Video-Accounts mit Sperrung und Löschung ist sowohl ein sofortiges Blutsstillen gegen rechtswidrige Inhalte durch die Plattform als auch ein Echo auf die Nulltoleranz der Sonderkampagne gegenüber Nachahmungschaos. Für gewöhnliche Nutzer gilt: Wer auf „Stars verkaufen persönlich“ stößt, sollte genauer hinschauen – das ist womöglich wirksamer als eine rechtliche Durchsetzung hinterher. Schließlich lassen sich per Knopfdruck erzeugte Falschgesichter mit bloßem Auge immer schwerer erkennen.