Meta verkündete am Mittwoch, dass im ersten Halbjahr 2026 gegen 33,2 Millionen Inhalte zur kindlichen sexuellen Ausbeutung auf Facebook und Instagram vorgesehen wurden. Gleichzeitig führt das Unternehmen neue AI-Werkzeuge ein, um Werbung und Accounts zu identifizieren, die dazu dienen könnten, Menschen heimlich zu illegalen Kindesmissbrauchmaterial zu leiten.
Laut der Firma wurden mehr als 97 Prozent des von Meta bearbeiteten Inhalts bereits durch ihre Systeme gefunden, bevor die Nutzer es meldeten. In Indien bearbeitete Meta während derselben Zeitperiode 5,3 Millionen Beispiele von Kindessexverbrechen, wobei mehr als 98 Prozent bereits entdeckt wurden, bevor die Nutzer es meldeten.
Meta sagte, dass ihre neuesten KI-Tools darauf abzielen, Menschen zu helfen, die Werbung nutzen, die scheinbar harmlos ist, um sie auf illegale Inhalte außerhalb der Plattformen von Meta zu leiten.
Das Unternehmen hat ein neues System mit einem großen Sprachmodell (LLM) eingeführt, um das, was es „Signposting“ nennt, zu erkennen. Dabei handelt es sich um Werbung, die zwar normal erscheint, aber vermutet wird, dass sie Benutzer zu illegalen Inhalten oder anderen schädlichen Aktivitäten im Internet führen. Meta behauptet, dass dies eine Taktik sei, die von bösen Akteuren in letzter Zeit verwendet wird, da diese weiterhin ihre Methoden ändern, um Entdeckung zu vermeiden. Obwohl die Anzeigen selbst kein illegales Material enthalten, können sie dennoch als Tor zu Webseiten dienen, auf denen Material zum sexuellen Missbrauch von Kindern verbreitet wird.
Daher sagte Meta, dass sie jetzt nach der Quelle fragt, wo die Anzeigen Nutzer schicken, und nicht nur nach dem Inhalt der Anzeigen. Das Unternehmen kann diese Informationen nutzen, um Webseiten oder andere Ziele zu blockieren, die seine Regeln verletzen, und gegen die accounts dahinter vorzugehen.
Meta verwendet auch zusätzliche, von KI gesteuerte Scans, um Inhalte, die Kinderausbeutung darstellen und von früheren Systemen übersehen wurden, zu finden. Das Unternehmen sagte, es werde weiterhin neue Signale hinzufügen, während es mehr über die Funktionsweise dieser Netzwerke erfährt.
Ein weiterer neuer Werkzeug ist ein „Red-Teaming-AI-Agent“, der die Sicherheitsmaßnahmen von Meta selbst testet. Er sucht nach Schwachstellen, die schlechte Akteure nutzen könnten, um die Schutzmaßnahmen der Firma zu umgehen. Meta sagte, dies könnte helfen, neue Missbrauchmethoden vorher zu entdecken, bevor sie weit verbreitet werden.
Außerdem verbessert das Unternehmen seine Systeme, um Personen zu finden, die mit neuen Kontoarten wieder auf seine Plattformen zurückkehren, nachdem ihre vorherigen Konten entfernt wurden.
Die neuen Maßnahmen kommen, während Meta weiterhin unter Druck steht, was die Sicherheit von Kindern auf ihren Plattformen angeht. Das Unternehmen hat vor Gericht gekämpft und Kritik von Gesetzgebern erhalten, da seine sozialen Mediendienste potenziell Risiken für junge Nutzer darstellen könnten. Im August erreichte Meta eine Vereinbarung, einen Betrag von bis zu 18 Milliarden Dollar zu zahlen um, um einen Fall bezüglich der Kindersicherheit in 29 US-Bundesstaaten zu lösen und die Bedenken hinsichtlich der Online-Schutz von Kindern zu beseitigen.
Meta hat in diesem Jahr mehrere Sicherheitsfunktionen für Kinder eingeführt, darunter Elternsteuerung für Meta AI, Pre-teen-Konten auf WhatsApp sowie Alarme für Eltern, wenn Kinder auf Instagram nach Inhalten zum Selbstverletzungsthema suchen.
Im September fügte WhatsApp mehr Kontrollmöglichkeiten für Eltern hinzu. Sie können die Art und Weise bestimmen, wie Teenager die Channels nutzen, kontrollieren, wer ihre Status-Updates sehen darf, und entscheiden, wer ihre Kinder in Gruppen hinzufügen darf. Eltern können auch wählen, dass sie Benachrichtigungen über bestimmte Gruppenaktivitäten erhalten.