Kürzlich zeigte laut einem Bericht von Gizmodo eine Studie des Teams der MIT-Wissenschaftlerin Pattie Maes, dass KI-generierte Inhalte und Deepfake-Technologie dabei sind, das menschliche Gedächtnis erfolgreich zu verzerren und sogar völlig frei erfundene falsche Erinnerungen in die Gehirne der Teilnehmenden einzupflanzen.
Die Experimente zeigten, dass Testpersonen, die mit KI-manipulierten Fotos in Kontakt gekommen waren, nicht nur äußerst leicht dazu neigten, sich beim Originalbild zu irren, sondern auch äußerst hohes Selbstvertrauen in ihre falsche Erinnerung zeigten. Solche Phänomene treten in Szenarien wie politischen Skandalen besonders deutlich auf: Sie verringern nicht nur die Wahlbereitschaft der Öffentlichkeit, sondern wirken auch nach einer Richtigstellung der Informationen weiterhin auf politische Entscheidungen ein.
Mit der tiefgreifenden Verbreitung generativer KI in allen Branchen hofft die Branche zwar allgemein darauf, dass hochqualifizierte Experten in der „Mensch-Maschine-Kollaboration“ die Ergebnisse überprüfen, doch die Studie weist darauf hin, dass menschliche Nutzer nicht nur Schwierigkeiten haben, KI-Halluzinationen zuverlässig zu erkennen, sondern dass ihr eigenes Urteilsvermögen zudem äußerst anfällig für die Beeinflussung durch falsche Informationen ist.
Bereits zuvor hatte bei einem Luftangriff der US-Armee auf eine Grundschule im Iran mit zahlreichen Opfern eine interne Untersuchung des Verteidigungsministeriums ergeben, dass ein Teil der Ursache in der übermäßigen Abhängigkeit von einem KI-System von Palantir lag, das auf veralteten Daten basierte. Diese Reihe von Risiken macht deutlich, dass der blinde Vertrauensvorschuss und der Einsatz von KI-Systemen – mangels fehlfeilsicherer Korrekturmechanismen – derzeit tiefgreifende und potenziell katastrophale Folgen für die gesellschaftliche Wahrheit und die Sicherheit hat.