Unsere Gehirne sind nicht in der Lage, KI zu verarbeiten

Norbert Wiener, der Vater der Kybernetik, sagte einst: „Der Gedanke jeder Epoche spiegelt sich in seiner Technik wider.“ Im letzten Jahrhundert hat unsere Denkweise sich in unseren Computern widergespiegelt – einschließlich jener im Bereich der KI-Industrie. Google’s Demis Hassabis bezeichnet das Gehirn als „eine biologische Annäherung an eine Turing-Maschine.“ Elon Musk sagt es noch direkter: Er erklärt, dass „menschen das Gehirn einfach als biologischen Computer betrachten sollten.“ (Musks Gehirn macht mich oft Sorgen.)

Aber Menschen sind komplexer, als eine einfache Vergleichung mit Computern uns zugestehen würde – und weitaus komplexer, als die meisten in der AI-Industrie es zu schätzen scheinen. Und da ihre Produkte immer tiefer in die Kultur eindringen, erklärt das, warum sie so einen Aufruhr verursachen. Die AI ist anscheinend etwas wie eine kognitive Version eines Hot Dog: Sie spricht uns im Moment an, aber sie untergräbt die Gesundheit und Nachhaltigkeit der kognitiven Systeme, die wir über mehrere Jahrtausende entwickelt haben.

Um das Problem zu verstehen, brauchen wir etwas Neurowissenschaft und die gesamte menschliche evolutionäre Geschichte.

Die Idee, dass das Gehirn wie ein Computer ist, geht auf Alan Turing zurück. Sie stellt den Gedanken als einen dreistufigen Prozess dar, funktional als einen Algorithmus: Unsere Gedanken nehmen Informationen aus der Welt auf (Eingabe), manipulieren sie auf eine bestimmte Weise (Berechnung) und setzen anschließend Verhalten um (Ausgabe). Die Wahrnehmung führt zur Kognition, die wiederum zur Handlung führt. In etwas ausführlicherer Form sieht es so aus wie folgender Diagramm:

In vielerlei Hinsicht war dieses Modell produktiv. Indem sie unser Gehirn wie Computer betrachteten, haben Technologen die eigentliche Informationstechnik von einfachen Additionsmaschinen zu künstlichen neuronalen Netzen und generativer KI weiterentwickelt, um immer detailliertere Abbilder unserer eigenen Gedanken zu schaffen.

Aber das Bild dieses Spiegels ist zwar nicht ganz falsch, aber verzerrt und eingeschränkt. John von Neumann, eine bedeutende Persönlichkeit bei der Entwicklung von Computern und Informatik, zweifelte, dass das Rechenmodell möglicherweise die „außergewöhnliche Komplexität des menschlichen Nervensystems“ erfassen könnte. Das heißt, unsere Nervensysteme entwickelten sich, um uns bei der navigation durch das große ökologische System zu helfen, das wir „die Welt“ nennen. Und wir handeln auf der Welt, um über sie Kontrolle auszuüben – so gut es geht.

Der computergestützte Ansatz betrachtet das Endprodukt unserer Gedanken und versucht, wie sie funktionieren, „rückwärts zu analysieren“. Doch anstatt rückwärts zu arbeiten, könnten wir stattdessen die lange Entwicklungsgeschichte untersuchen, um ein Modell von Grund auf zu entwickeln. Dies ist der Ansatz, den Paul Cisek, ein Neuroscientist an der Universität Montreal, bevorzugt – er hat geduldig ein biologisches Modell zur Entwicklung des Gehirns und des Nervensystems über Millionen von Jahren entwickelt.

Cisek behauptet, dass unser Gehirn eher als Feedback-Kontrollsysteme verstanden werden sollte, anstatt als Informationsverarbeitungseinheiten. Unsere Körper erhalten nicht nur Eingaben, sondern nehmen auch Maßnahmen zur Anpassung dieser Eingaben vor, abhängig von den verfügbaren Optionen. Wie Cisek selbst schnell bemerkt, ist dies keine neue Idee – bereits am Übergang zum 20. Jahrhundert beschrieb der Philosoph John Dewey das Gehirn als einen Kreis, „mehr organisch als reflexiv, denn die motorische Reaktion bestimmt den Reiz genauso wie der sensorische Reiz die Bewegung.“

Welche genau ist der Unterschied zwischen den beiden Ansätzen?

Hier ist ein klassisches Beispiel aus Baseball: das Fangen eines Fliesballes im Outfield. Laut dem Rechenmodell umfasst die Lösung dieses Problems komplizierte und unbewusste mentalen Berechnungen, bei denen der Outfielder die Geschwindigkeit des Balls schätzt, den Einfluss der Schwerkraft berechnet und unzählige weitere mathematische Verfahren anwendet, um herauszufinden, wohin der Ball gehen wird.

Verwandt

• Ist Sprache dasselbe wie Intelligenz? Die AI-Industrie braucht dringend das.

Im Gegensatz dazu schlägt der Feedback-Kontrollansatz eine einfache Heuristik vor – im Grunde genommen: „Halte den Ball in derselben Position innerhalb deines visuellen Bereichs und bewege dich anschließend, um diese Situation zu erhalten.“ Wir handeln, um den Reiz anzupassen, den wir erhalten.

Das ist nicht nur genauer auf die Erfahrungen jeder Person zutreffend, die im Center Field gespielt hat, sondern vermeidet auch die Trennung des mentalen Prozesses von der physischen Bewegung sowie die Anwendung komplexer Berechnungen, die das Rechenmodell erfordert. Menschen sind dynamischer als das.^.

Diese Herangehensweise entspricht auch genau der biologischen Architektur des Gehirns, wie es im Laufe der Zeit entwickelt wurde. Von alten Fischen über Amphibien bis zu Säugetieren und Primaten – und schließlich den modernen Menschen – beobachtet man, dass neue Verhaltensweisen entstehen, als Reaktion auf neue Umweltmöglichkeiten. Wenn zum Beispiel die Dinosaurier ausstarben, bedeutete das, dass einige nachtaktive Kreaturen tagsüber frei in der Welt umhergehen konnten, ohne das Risiko zu haben, gefressen zu werden – was zu einer Vielzahl neuer Fähigkeiten führte. Die Geschichte unseres Nervensystems, wie Cisek beobachtet, ist eine „ununterbrochene Erweiterung des Kontrollraums immer weiter in die Welt“. Sein kommendes Buch wird all das ausführlicher untersuchen – und ja, ich hoffe, dass dieser Aufsatz ihn unter Druck setzt, es zu beenden.

Dies führt zu einem alternativen und ganz anderen Diagramm als das oben dargestellte. Wir können sowohl eine Karte der Verhaltensweisen und Fähigkeiten erstellen, die im Laufe der Zeit entstanden sind und wir können die spezifischen physischen Komponenten des Gehirns auf diese Fähigkeiten projizieren, so:

Anstatt sich von links nach rechts zu bewegen wie im computativen Modell, sollte dieses Modell als sich von oben nach unten über die evolutionäre Zeit entfaltend angesehen werden. Zum Beispiel: Vor langer Zeit, als Wirbeltierarten mehr Bewegungsfähigkeit entwickelten, wurde es nützlich, spezialisierte Systeme für die Erkundung zu haben – durch die Nutzung von Marken oder das Navigieren bei Nacht. Dies führte zur Entwicklung dessen, was wir heute als Hippocampus bezeichnen. Wichtig ist, dass dies auch unseren Vorfahren dazu brachte, wichtige Momente des Herumlaufen von einem Ort zum anderen zu erinnern, was zur Entwicklung der „episodischen Erinnerung“ an vergangene Erfahrungen führte.

Wir können nichts Derartiges mit dem computativen Modell des Geistes tun; es passt einfach nicht zu beobachtbaren neurobiologischen Strukturen. Zudem verdecken es viele Aspekte dessen, was das Gehirn tut, nämlich die Steuerung der Interaktionen lebender Organismen in ihrem Umfeld. Daher schlägt Cisek vor, dass wir den Paradigmawechsel, den wir verwenden, um die Beziehung zwischen unserem Gehirn und Verhalten zu verstehen, dramatisch vornehmen müssen. Wir sollten von algorithmischen Eingangs- und Ausgangsprozessen weggehen und stattdessen zu dynamischeren Feedbacksystemen übergehen.

Bisher hat unsere Geschichte des menschlichen Entwicklungsprozesses hauptsächlich auf Rückmeldungen aus der physischen Welt ausgerichtet sein. Doch einer der wichtigsten „Rückmeldekreise“ der Menschheit entsteht aus unseren tiefgreifend sozialen Neigungen. Das computergestützte Modell berücksichtigt dies ebenfalls nicht gut – genauso wenig wie die AI-Industrie. Wir haben tausende von Jahren damit verbracht, Institutionen und Normen zu schaffen, um von einander zu lernen und miteinander zu kommunizieren. In weniger als einem Jahrzehnt haben die großen Technologieunternehmen diese Systeme systematisch zerstört.

Wie? Wieder einmal brauchen wir einen historischen Kontext.

Um einige Zeit vor vielen Hunderttausenden von Jahren tat unsere fernen Vorfahren etwas Unglaubliches: Sie lernten, sich gegenseitig nachzuahmen. Die Nachahmung von Gesten und Körperbewegungen ermöglichte es uns, erfolgreiche Praktiken weiterzugeben – wie das Abkratzen eines Steinwerkzeugs – und komplexere Aktivitäten durch gemeinsame rituellen Verhaltensweisen zu koordinieren. Dies formte unsere Kognition. Das war der Beginn der menschlichen Kultur.

Wir haben tausende von Jahren damit verbracht, Institutionen und Normen zu schaffen, um von einander zu lernen und miteinander zu kommunizieren. Die großen Technologieunternehmen arbeiten systematisch daran, diese zu zerstören.

Menschen entwickelten sich bald dazu, Geräusche nachzuahmen und somit auch die mündliche Sprache zu erlernen. Wie wir früher bereits behandelt haben, ist die Sprache nicht dasselbe wie der Gedanke – doch sie ermöglicht es uns, unsere Gedanken gegenseitig zu vermitteln. Zu einem bestimmten Zeitpunkt begannen auch unsere Vorfahren als wandernde Jäger und Sammler, sich in dauerhaften Gemeinschaften niederzulassen und komplexe landwirtschaftliche Praktiken zu entwickeln, die es uns ermöglichten, Nahrung anzubauen, anstatt zu wandern, um sie zu finden.

Schließlich begannen wir, geschriebene Zeichen zu verwenden, um unsere gesprochenen Sprachen und andere abstrakte Ideen darzustellen. Wir waren in der Lage, komplexe Ideen über Generationen weiterzugeben. Die formale Bildung – ein Prozess, bei dem Wissen zwischen einer menschlichen Gruppe geteilt wird – entstand nicht lange danach. Auch Praktiken und Institutionen, die die menschliche Entscheidungsfindung kollektivisierten, wie „Markt“, „Recht“ und „Demokratie“, entstanden im Laufe der Zeit.

Jede Behauptung, die ich gerade gemacht habe, ist umstritten und erfordert weitaus mehr Details als ich hier liefern kann. Aber dieses Prozess ist kontinuierlich mit unserer biologischen Evolution – in dem Sinne, dass beides eine immer breitere Palette an Kontrolle über die Welt um uns herum fördert.

Und manchmal führt diese kulturelle Veränderung unbeabsichtigte Folgen hervor, die eher schaden als helfen.

Menschliche Ernährung ist vielleicht das offensichtlichste Beispiel. In den Tagen der Jäger und Sammler waren fette Lebensmittel selten, aber wertvoll für das Überleben – schauen Sie sich Alone an, wenn Sie daran zweifeln – und wir entwickelten uns dazu, sie zu suchen und in unserem Körper aufzubewahren, sobald wir sie gefunden hatten. Doch dann entwickelten wir kulturell die Praxis der Landwirtschaft und anderer landwirtschaftlicher Techniken, die – ab 10.000 Jahren – dazu führten, dass fette Lebensmittel heute reichlich vorhanden sind – wenn Sie einen Hot Dog wollen, gibt es viele zur Verfügung.

Die KI überladen unsere Kapazität, die Wissen zu entwickeln, das wir brauchen, um die Welt zu durchqueren.

Und das ist das Problem. Hotdogs sind eine Gefahr für unseren körperlichen Körper, da sie unsere Arterien mit übermäßigem Fett verstopfen, das wir nicht mehr intern speichern müssen. Die KI stellt eine ähnliche Art von Gefahr für unsere kognitiven Fähigkeiten dar, indem sie unsere Fähigkeit blockiert, das Wissen zu entwickeln, das wir brauchen – in unseren Köpfen – um die Welt zu beherrschen. Es ist ein kognitives Hotdog.

Ein gelegentlicher Hot Dog wird niemandem schaden, aber er wird sicherlich schaden, wenn er zum regulären Essen zum Mittag- oder Abendessen wird. Das Gleiche gilt für KI – der Schaden kommt nicht von seiner gelegentlichen Verwendung, sondern davon, dass sie Teil unseres mentalen Essens wird.

Doch genau das versuchen die Big-Tech-Hyperscalers zu erreichen.

In einem Podcast vom Juli 2025 über „wie KI die Bildung verändert“, Leah Belsky, Vizepräsidentin für Bildung bei OpenAI: prahelte Diese „Lernende“ machten mehr als die Hälfte der 900 Millionen durchschnittlich monatlichen Nutzer von ChatGPT aus. Die Dienstleistung sei „die größte Lernplattform der Welt“, sagte sie. Kürzlich gab es Anthropic eine neue Initiative namens „Claude für Lehrer“, indem es Lehrkräften im Unterricht kostenlosen Zugang zu Premium-Modellen bietet.

Diese Bemühungen werden weder den Schülern noch den Lehrern zugutekommen. Tatsächlich ist dies das offensichtlichste Beispiel dafür, wie KI die Systeme schwächt, auf die wir angewiesen sind, um unser Denken zu entwickeln – zum Vorteil der Bequemlichkeit.

François Chollet, ehemaliger Softwareentwickler bei Google, ist unvergesslich beschrieben Künstliche Intelligenz als Werkzeug der „kognitiven Automatisierung“, das er als „Die Kodierung menschlicher Abstraktionen in Software und anschließend die Verwendung dieser Software zur Automatisierung Aufgaben, die normalerweise von Menschen ausgeführt werden“, definiert. Letztes Jahr eine interdisziplinäre Gruppe von Wissenschaftlern argumentierten Überzeugend ist es, dass wir Generative KI in Form von großen Sprachmodellen nicht „vor allem als intelligente Agenten, sondern als eine neue Art von kulturelle und soziale Technologie, sodass Menschen von den Informationen profitieren können, die andere Menschen gesammelt haben“ (Hervorhebung hinzugefügt).

AI-Fans haben zahlreiche Vorhersagen über die Vorteile davon gemacht, und sie haben die Nachteile größtenteils als vergleichbar mit früheren Formen der Automatisierung betrachtet, wie Computern, Rechnern und sogar dem geschriebenen Wort. (Ich wurde so oft mit Zitaten zu Platons angeblicher Ablehnung des Schreibens konfrontiert, dass ich diese in einem separaten Artikel angesprochen habe — er war ein Schriftsteller!)

Noch nie haben wir etwas entwickelt und weit verbreitet, das so ausdrücklich dazu bestimmt ist, den menschlichen Denken zu ersetzen.

Egal welche Auswirkungen diese früheren Technologien haben, wir haben noch nie etwas entwickelt und weit verbreitet, das so explizit dazu gedacht ist, den menschlichen Denken zu ersetzen – das ist auch die Meinung der AI-Evangelisten selbst.

Schauen Sie sich die Bildung an. ChatGPT ist vielleicht die größte Lernplattform der Welt, aber die Studenten nutzen sie massenhaft. vermeiden Die mühsame Denkweise, die notwendig ist, um ihr nachhaltiges Wissen aufzubauen. Beweise führt fort zu mount beweisen the negativ Einfluss von AI Werkzeuge in Bildungsumgebungen (und Gen Z im Allgemeinen) hase es). Ein kürzlich Studium Chinas Studien zeigten, dass Tausende von Schülern nachdem sie das AI verwendeten, im Grunde ihre Hausaufgaben nicht mehr machten (was ihren Lernprozess erheblich beeinträchtigte). Es gibt sogar Beweis Dass Studenten, wenn sie große Sprachmodelle für angeblich lernende Zwecke verwenden, dazu gebracht werden, ihre Urteilsfähigkeit und kritische Denkweise in anderen Kontexten zu verringern.

Keine andere Art hat ein Gehirn und einen Körper, die über einen so langen Zeitraum entwickelt werden wie unser, und historisch gesehen haben wir dies durch einzigartige kulturelle Institutionen ergänzt, die Wissen von Generation zu Generation weitergeben. Wir sollten dieses einzigartige menschliche Bemühen eifrig schützen, doch stattdessen sind viele Universitäts- und Schulverwalter – ganz zu schweigen von den großen Technologiekonzernen – voll und ganz daran beteiligt, die KI so tief und schnell wie möglich in unsere Bildungsökosysteme einzuführen.

Wenn wir das Gehirn nur als einen Computer betrachten, könnte die KI den Lernprozess vorteilhaft machen – deshalb träumen viele davon, KI-Dozenten zu entwickeln. Doch bereits solche Bemühungen scheitern, denn unser Gehirn ist mehr als nur ein Eingangssystem und Ausgangssystem. Es existiert – oder besser gesagt wir existieren – in einem umfassenderen kognitiven Ökosystem, in dem wir Entscheidungen darüber treffen müssen, wie wir unsere kognitive Energie verbrauchen. Wir tun dies, um unsere Kontrolle über die Welt – auch wenn sie begrenzt ist – zu vergrößern.

Wenn wir nur den Geist als einen Computer betrachten, könnte die KI für das Lernen vorteilhaft erscheinen – aber dieses Modell ist falsch

Aber das stellt eine Herausforderung dar. Anstrengendes Denken ist schwierig, und wenn uns technologische Auswege angeboten werden, werden wir sie nutzen – was einige Forscher kürzlich als kognitive Delegation bezeichnet. Wenn die kognitive Delegation sich verbreitet, warnen sie: „Die soziale Umgebung, die autonomes Denken unterstützt, kann schwächen“ – und während dies geschieht, wird solche Delegation „noch einfacher und attraktiver“.

Die Forscher empfehlen ein Programm für kognitive Immunität gegenüber der KI – ein Programm, das die „Praktiken und Institutionen erhält, die die menschliche Kognition aktiv halten: unbehilfliches Problemlösen, Überprüfungen, kritische Diskussionen sowie Phasen des bewussten Abstands von der KI-Nutzung“.

Wir nennen solche Institutionen „Schulen“.

Die Politikpunkte müssen ebenfalls gelöst werden. Ich finde es sehr interessant, dass Norwegen kürzlich im Wesentlichen alle Nutzungen von KI in Schulen für Schüler unter 13 Jahren verboten hat. In den USA hat ein großer Lehrerverband ebenfalls forciert, dass Chatbots in Grundschulen verboten werden. Auch große Schulbezirke wie Los Angeles und New York City haben kürzlich solche Verbote umgesetzt. (Offenlegung: Ich habe informelle Ratschläge an Schools Beyond Screens gegeben, eine Organisation, die für diese Verbote eintrat.) Sie werden nicht die letzten sein, das zu tun – oder so hoffe ich.

Die gute Nachricht, wenn man sie so nennen kann, ist, dass der Widerstand zunimmt – vielleicht haben Sie die viele Videos von Hochschulabsolventen gesehen, in denen sie die Redner kritisieren, die die KI loben? Das liegt sicherlich teilweise an Arbeitsängsten, aber ich vermute, dass viele erkennen, welchen Schaden die KI ihrer eigenen kognitiven Entwicklung zugefügt hat. Sicherlich gilt das auch für die Studenten des Oberlin Luddite Club, die einen offenen Brief an den Universitätspräsidenten schrieben, um die Annahme der KI durch die Institution zu kritisieren: „Wenn Sie mit Ihrem Jahr der KI beginnen, werden wir unser eigenes Jahr der Selbstverwirklichung beginnen – des Erkennens der Früchte unserer Arbeit und des Akzeptierens der menschlichen Unvollkommenheit und des offenen Forschens.“ Genau so.

Die Kontrollsysteme in unseren Gehirnen sind das Produkt von Millionen von Jahren biologischer Evolution und mehrerer Jahrtausende kultureller Entwicklung. Wir müssen aus dem computativen Modell des Geistes herausgeholt werden, um das volle Bild zu sehen, was uns als Menschen macht, und unsere tiefgreifend soziale Natur zu erkennen – den Antriebsmotor der menschlichen Kultur. Wir haben als Spezies eine bemerkenswerte Resilienz gezeigt, aber das Essen von kognitiven „Hot Dogs“ ist für keinen von uns gut.

Essen Sie gesund und denken gesund.