IT之家 Am 19. Oktober berichtet der Washington Post, dass Forschungen zeigen, dass KI menschliche Erinnerungen manipulieren kann. Zum Anfang des Experiments wurden 24 gewöhnliche Fotos vorbereitet: Hochzeiten, Stadtstraßen, Rennveranstaltungen. Pattie Maes, Professorin am Media Lab des MIT, und ihre Kollegen zeigten diese Fotos 200 Probanden.
Nach einer kurzen Pause sahen einige Menschen wieder das ursprüngliche Bild; andere sahen die durch KI veränderte Version – die Gesichtsausdrücke der Figuren wurden geändert, in dem Bild tauchten neue Soldaten auf oder wurden Szenen zum Thema Klimawandel hinzugefügt.
Anschließend führten die Forscher einen Gedächtnistest durch.
Als Meiß die Ergebnisse sah, war sie schockiert: Diejenigen, die das Bild durch die AI verfälscht sahen, hatten eine deutlich höhere Wahrscheinlichkeit, falsche Erinnerungen zu haben. Noch schlimmer ist, dass sie sagte, dass ihre Selbstsicherheit bezüglich dieser falschen Erinnerungen sogar höher war.
Mees sagte: „Im Grunde denke ich, dass alles sehr gefährlich ist.“
Bisher konzentrieren sich die öffentlichen Bedenken größtenteils auf das, was einige Forscher als „Kognitiven Verzicht“ bezeichnen: Mit dem immer mehr denkende Aufgaben, die Maschinen übernehmen, wird es Menschen schwieriger und weniger möglich, die von den Maschinen gelieferten Informationen zu prüfen. Es gibt jedoch eine weitere Möglichkeit, auf die viel weniger Aufmerksamkeit gerichtet wird: AI könnte unsere Erinnerung selbst verändern.
Eine Reihe neuer Studien zu politischen Ereignissen, Verbrechen und sogar zur Wahrnehmung von Neufilmen zeigen, dass von AI erstellte Bilder und Dialoge falsche Details in das menschliche Gehirn einbringen können, sodass die Menschen glauben, dass bestimmte Dinge, die nie stattgefunden haben, tatsächlich existieren.
Das Gedächtnis ist nicht nur dazu da, die Vergangenheit zu bewahren. Es liefert Wissen und Erfahrung, die uns helfen, das Hier und Jetzt zu verstehen, die Zukunft vorherzusagen, unser eigenes Bewusstsein zu formen und Beziehungen aufrechtzuerhalten. Gleichzeitig leitet es Einzelne und Gruppen bei Entscheidungen.
Doch die Erinnerung selbst ist auch ein großes Mangel des menschlichen Geistes: Wir können nur einen kleinen Teil der erlebten Dinge behalten, die Details verschwinden, die Erinnerungen werden verschwommen, und bei jeder Wiederkonditionierung ändert sich die Erinnerung selbst.
Die AI scheint genau diese Mängel auszugleichen zu können: Sie kann riesige Mengen an Informationen speichern, in Sekunden abgerufen werden und Details finden, die Menschen möglicherweise für immer verloren sind. Doch diese Eigenschaften bringen auch Risiken mit sich. AI-Systeme speichern nicht nur die Vergangenheit, sie interpretieren, synthetisieren und rekonstruieren außerdem die vorherigen Informationen – und manchmal machen sie Fehler.
Die Folgen sind weitaus schlimmer als nur ein falsch abgespeichertes Foto oder eine falsche Aussage in einem Gespräch. Von Autounfällen bis zu sexuellen Übergriffen beruhen Gerichtsverfahren oft auf den Erinnerungen von Zeugen, obwohl jahrelange Forschungen gezeigt haben, dass die Erinnerungen von Augenzeugen leicht verzerrt werden können. Die Geschichte selbst hängt von den Entscheidungen der Einzelnen und der Gesellschaft ab, welche Geschichten sie bewahren, vergessen und schließlich glauben wollen.
Die menschliche Erinnerung weist angeborene Mängel auf
Meis ist eine Pionierin im Bereich künstliche Intelligenz. In den frühen Phasen ihrer mehr als 35-jährigen Karrierebahn war sie an der Entwicklung von Algorithmen beteiligt, die die Grundlagen des frühen Internets legten. Doch seit langem beschäftigt sie sich eher mit einer anderen Möglichkeit der künstlichen Intelligenz: Nicht daraus, dass Maschinen die menschliche Intelligenz ersetzen, sondern daraus, dass die menschliche Intelligenz erweitert wird.
Für Meis ist dieses Problem persönlich. Mit zunehmendem Alter begann ihre Mutter, Fragmente des Alltags zu vergessen.
„Meine Mutter wird vergessen, wer gestern gekommen ist und was andere ihr gesagt haben“, sagte Meis, sie konnte nur eine Notiz schreiben: „‚Die Tochter sagt, sie kommt in zwei Wochen.‘“
Mae begann, ein viel mächtigeres Tool als ein Notizbuch zu konzipieren: eine Erinnerungsassistentin, die still den Lebensverlauf einer Person aufzeichnet.
Für Patienten mit Alzheimer-Krankheit und anderen Demenzformen ist dieses Thema besonders dringend. Diese Krankheiten zeichnen sich durch Gedächtnisverlust aus und nehmen den Patienten die Fähigkeit, unabhängig zu leben, weg.
Das Forschungsteam von Mei hat mehrere Generationen von externen Gedächtnissystemen entwickelt. Memoro und MemPal basieren auf KI und werden mit tragbaren oder am Körper getragenen Geräten verwendet, um Alltagsfragmente zu sammeln, die später abgerufen werden können. Vergessen Sie, was andere im Gespräch gesagt haben? Sie können das System nachfragen. Wissen Sie nicht, wo der Schlüssel ist? Das System könnte ihn finden.
Diese Herangehensweise ist nicht darauf ausgerichtet, das alternde Gehirn zu zwingen, seine Erinnerung zu verbessern, sondern es mit einer anderen Erinnerungsbibliothek zu verbinden.
Die frühen Testergebnisse für ältere Menschen sind vielversprechend. Meis sagte, ihre 96-jährige Mutter leide unter einem zu starken kognitiven Verfall und könne von dieser Technologie nicht profitieren. Doch die Wissenschaftlerin ist sehr optimistisch: Solche Systeme könnten in Zukunft viele Menschen dabei helfen, ein selbstständiges Leben zu führen, während ihr biologisches Gedächtnis nachlässt. Es gibt bereits einige kommerzielle Produkte dieser Art auf dem Markt: wie interaktive Erinnerungswerkzeuge für das persönliche Leben, sowie personalisierte Smartgläser, die bei täglichen Aktivitäten wie Zähneputzen helfen.
Wenn die Maschine zu einer Erweiterung unseres Gedächtnisses wird, was wird dann mit dem von uns selbst entstandenen Gedächtnis geschehen?
Immer mehr verlasse ich mich auf die KI
Eine weitere Studie von Meis liefert klare Belege für dieses Problem.
In einem letztjährig veröffentlichten und derzeit unter peer review stehenden Experiment wurde 54 Probanden gebeten, Aufsätze im SAT-Stil zu schreiben, deren Thema beispielsweise die Bedeutung des Glücks ist. Eine Gruppe von Personen verwendete keine Online-Werkzeuge; eine andere Gruppe konnte Google-Suche nutzen, aber keine AI zur Erstellung von Antworten einbinden; eine dritte Gruppe konnte ChatGPT verwenden.
Während des Schreibprozesses registrierten die Kopfhaut-Elektroden die Gehirnaktivität, und die Unterschiede waren sehr deutlich: Bei den Teilnehmern, die unabhängig schrieben, waren die neuronischen Verbindungen zwischen den verschiedenen Bereichen des Gehirns am stärksten und am breitesten verbreitet; bei den Teilnehmern, die Google verwendeten, lag die Situation in der Mitte; bei den Teilnehmern, die ChatGPT verwendeten, waren die Gehirnverbindungen am schwächsten.
Danach bat man die Teilnehmer, den Text zu wiederholen, den sie gerade geschrieben hatten. Menschen, die auf ChatGPT angewiesen waren, konnten es kaum erinnern, was sie geschrieben hatten.
Laut IT Home ist das Gedächtnis nicht einfach nur die Aufnahme von Informationen im Gehirn. Aufmerksamkeit, subjektive Anstrengung, Informationsextraktion und die Bildung von Verbindungen – all diese Prozesse zusammen stärken das Gedächtnis. Die generativen KI-Systeme sparen einen Teil der geistigen Arbeit.
Professor Gideon Nave, Dozent für Marketing an der Wharton School der University of Pennsylvania, und Assistenzprofessor Steven Shaw vom King’s College in London untersuchen die Auswirkungen von KI auf das menschliche Bewusstsein und äußern tiefere Bedenken. Nave macht sich weniger Sorgen über Hollywood-Übermacht – eine superkluge KI, die die Kontrolle über den Menschen übernimmt – als über ein versteckteres Risiko: Die Menschen werden allmählich die Fähigkeiten verlieren, für die Maschinen bereits arbeiten können.
„Wahrscheinlicher ist, dass die eigenen Fähigkeiten der Menschen abnehmen, anstatt dass KI die Welt übernimmt“, fügte er hinzu und befürchtete, dass „denken zu einer Option werden könnte“.
Es sind Anzeichen zu erkennen, die Forscher als „Verfall der Fähigkeiten“ bezeichnen. Shaw erwähnt mehrere Studien: Menschen, die mit Hilfe von KI arbeiten (zum Beispiel Ärzte, die KI nutzen, um Krebs zu diagnostizieren), zeigen nach dem Verlust dieser Unterstützung eine abfallende Leistung.
Eine im Jahr 2025 in „The Lancet: Gastroenterology and Hepatology“ veröffentlichte Studie zeigte diese potenzielle Wirkung. Die Forscher untersuchten die Bewertungen von 19 erfahrenen Ärzten über fast 1500 Koloskopien und stellten fest, dass nach der häufigen Verwendung von AI die Fähigkeit der Ärzte, unabhängig von AI, krebserregende Erkrankungen zu erkennen, um etwa 20% abnahm.
„Sie trainieren dieses geistige Training nicht mehr so wie früher“, sagte er, „mit Einsatz und Verbrauch.“
Für Kinder macht er sich um grundlegendere Probleme Sorgen: Sie könnten Aufgaben im Bereich des geistigen Denkens an eine AI übergeben, bevor ihre Kern-kognitiven Fähigkeiten vollständig entwickelt sind. „Sie könnten von Anfang an nicht die wichtigen kritischen Denkfähigkeiten entwickeln.“
Natürlich bedeutet das nicht, dass die Nutzung von AI-Werkzeugen wie ChatGPT unbedingt zu einer Verringerung der Fähigkeiten führt. Aktuelle Studien haben gezeigt, dass die normale Nutzung von AI nicht zu einem kognitiven Rückgang oder zu dauerhaften Gedächtnisschäden führt. Die relevanten Forschungen befinden sich noch in einer frühen Phase. Menschen haben seit langem Werkzeuge genutzt, um Erinnerungen und Denken zu übernehmen: Kalküle, Uhren, Wörterbücher, Rechner – all das ist so.
Aber die generativen KI bringen neue Variablen mit sich. Wir sind immer mehr auf sie angewiesen, um die gesammelten Informationen zu interpretieren, und es ist einfach, den Inhalt der KI zu glauben. In Naf und Shaws Experimenten folgten die Probanden, selbst wenn sie falsche Informationen erhielten, weiterhin einem hohen Prozentsatz der Empfehlungen der KI.
Was passiert, wenn die AI einen Fehler macht?
In dieser Woche veranstalteten Forscher im Bereich KI-Ethik und Gesellschaft in Malmö, Schweden, eine jährliche Konferenz. Viele konzentrierten sich auf ein gemeinsames Thema: Wie sind die Folgen, wenn künstliche Intelligenz beginnt, die menschliche Erinnerung zu beeinflussen?
Zunehmendere Studien zeigen, dass generative KI-Technologien auf erstaunlich dauerhafte Weise die Erinnerung stören: Sie verzerren die Erinnerungen, verwischen die Grenzen zwischen eigenen Gedanken und dem von der Maschine erstellten Inhalt, und sogar implantieren sie Erinnerungen, die nie stattgefunden haben.
In einer Studie ließen die Forscher die Teilnehmer einen kriminellen Videoausschnitt ansehen, anschließend wurde ihnen von einem generativen KI-Chatbot Fragen gestellt. Die Anzahl der falschen Erinnerungen, die die Teilnehmer entwickelten, war dreimal so hoch wie bei der Kontrollgruppe. In einer anderen Experimentation stellten die Teilnehmer jeweils unter Vor- und Nachbesserung durch KI Ideen zusammen; eine Woche später konnten sie nicht mehr unterscheiden, welche Ideen von der Maschine stammten und welche von ihnen selbst.
Andere Experimente zeigen, dass von der AI erstellte falsche Informationen dazu führen können, dass Menschen Dinge in Erinnerung behalten, die überhaupt nicht existieren. In einem Experiment erinnerten fast die Hälfte der Teilnehmer sich falsch an eine Neuverfilmung eines nie gedrehten Films, darunter „The Matrix“ mit Will Smith. In einem anderen Experiment sorgten AI erstellte Videos dafür, dass die Teilnehmer glaubten, sich an politische Skandale zu erinnern, die nie stattgefunden hatten. Dennoch weisen Forscher darauf hin, dass tiefe Fälschungsvideos in Bezug auf die Erzeugung falscher Erinnerungen nicht stabil besser sind als reines Textmaterial.
Die neuesten Forschungsbelege zeigen, dass dieses Problem schwieriger zu lösen ist, als die Forscher erwartet hatten.
Unternehmen und Regierungsbehörden versuchen alle, KI einzusetzen: Die Polizei versucht, mit KI die Aufnahmen von Überwachungsgeräten zu analysieren, und Krankenhäuser verwenden KI, um medizinische Unterlagen zu ordnen. Mattea Sim, Assistentin für Forschung am Institute for Mass Data at Georgetown University, sagt, dass das häufigste Sicherheitsmittel die Beachtung menschlicher Einmischung ist, bei der Menschen Fehler der Maschinen überprüfen.
Aber die Voraussetzung für dieses Konzept ist, dass Menschen das System unabhängig überprüfen können. Sims Forschungen zeigen, dass die Auswirkungen möglicherweise umgekehrt sein könnten: KI könnte die Entscheidungen und das Gedächtnis der Menschen verändern, mit denen sie Fehler in der KI überprüfen, wodurch die humanistische Überwachung als Sicherheitsmaßnahme grundlegend versagt.
In einer kürzlich durchgeführten Experimente rekrutierte Sim 331 Personen, um einen kurzen Animationvideos zu sehen, in dem ein Auto einen Fußgänger überfährt. Ein oder zwei Tage später lasen die Teilnehmer eine von der AI erstellte Zusammenfassung des Unfalls. Eine Gruppe erhielt eine Zusammenfassung, die die Verkehrsschilder im Video genau beschrieb; eine andere Gruppe erhielt eine Zusammenfassung, die falsche Informationen über die Schilder gab.
Bei den Probanden, die eine genaue Zusammenfassung erhielten, konnten fast 84 % die Identifikationsmerkmale richtig behalten; bei den Probanden, die eine irreführende Zusammenfassung erhalten hatten, lag die Trefferrate nur bei etwa 45 %. Selbst wenn den Probanden im Voraus mitgeteilt wird, dass diese Zusammenfassung von einer AI erstellt wurde, lässt sich das Einflusepot nicht verhindern.
„Alle wissen in der Regel, dass KI Fehler macht“, sagte Sim, aber Studien zeigen, dass „künstliche Überwachung vielleicht nicht die beste Lösung für dieses Problem ist.“