Nos esprits ne sont pas équipés pour gérer l’IA

Norbert Wiener, père de la cybernétique, a un jour dit : « La pensée de chaque époque se reflète dans sa technique. » Au cours du dernier siècle, notre pensée s’est reflétée dans nos ordinateurs, y compris ceux de l’industrie de l’IA. Demis Hassabis de Google qualifie le cerveau de « l’approximation biologique d’une machine de Turing ». Elon Musk, plus direct, déclare que « les gens devraient considérer le cerveau comme un ordinateur biologique ». (Le cerveau de Musk m’inquiète souvent.)

Mais les humains sont plus complexes que ce que nous pouvons montrer en comparant simplement avec les ordinateurs – et bien plus que la plupart de l’industrie de l’IA semble apprécier. Et à mesure que leurs produits s’insinuent de plus en plus dans la culture, cela explique pourquoi ils créent une telle confusion. L’IA, il s’avère, ressemble à une version cognitive de un hot dog : elle nous attire dans l’immédiateté, mais elle compromet la santé et la durabilité des systèmes cognitifs que nous avons développés au cours de plusieurs millénaires.

Pour comprendre le problème, nous aurons besoin d’un peu de neurosciences et de toute l’histoire évolutive de l’humanité.

L’idée selon laquelle le cerveau est un ordinateur remonte à Alan Turing. Elle postule que la pensée est un processus en trois étapes, fonctionnellement un algorithme : notre esprit reçoit des informations du monde (entrée), les manipule d’une certaine manière (calcul), et ensuite produit un comportement (sortie). La perception conduit à la cognition, qui, à son tour, conduit à l’action. En termes un peu plus détaillés, cela ressemble à ce graphique :

D’une multitude de manières, ce modèle a été productif. En imaginant notre cerveau comme des ordinateurs, les technologues ont poussé la informatique à passer des simples machines d’addition aux réseaux de neurones artificiels et à l’intelligence artificielle générative, afin de trouver des reflets toujours plus détaillés de nos propres esprits.

Mais l’image de ce miroir, bien que pas tout à fait fausse, est déformée et limitée. John von Neumann, une figure majeure dans le développement des ordinateurs et de la science informatique, a douté que le modèle computationnel puisse capturer la « complexité exceptionnelle du système nerveux humain ». En d’autres termes, nos systèmes nerveux se sont développés pour nous aider à naviguer dans le grand système écologique que nous appelons « le monde ». Et nous agissons sur le monde pour exercer un contrôle sur lui (de la meilleure manière possible).

L’approche computationnelle examine le produit final de nos esprits et tente de « réverser l’ingénierie » pour comprendre comment ils fonctionnent. Mais plutôt que de faire un retour en arrière, nous pourrions examiner l’histoire évolutive longue afin de construire notre modèle à partir de zéro. C’est l’approche préférée par Paul Cisek, neuroscientifique de l’Université de Montréal, qui a patiemment développé un modèle biologique du développement du cerveau et du système nerveux sur des millions d’années.

Cisek affirme que, plutôt que de se comporter comme des processeurs d’informations, nos cerveaux peuvent être mieux compris comme des systèmes de contrôle par retour d’information. Nos corps ne reçoivent pas simplement des informations ; ils agissent pour ajuster ces informations, en fonction des options disponibles. Comme Cisek l’indique rapidement, ce n’est pas une idée nouvelle — au tournant du 20e siècle, le philosophe John Dewey décrivait l’esprit comme un circuit : « plus vraiment organique que réflexe, car la réponse motrice détermine le stimulus, tout comme le stimulus sensoriel détermine le mouvement. »

Quelle est exactement la différence entre ces deux approches ?

Voici un exemple classique du baseball : attraper une balle volante dans l’outfield. Selon le modèle computationnel, la résolution de ce problème implique des calculs mentaux complexes et inconscients, où l’outfielder estime la vitesse de la balle, calcule l’effet de la gravité et utilise d’innombrables autres procédures mathématiques pour « calculer » où la balle se dirigera.

Relatif

• Le langage est-il identique à l’intelligence ? L’industrie de l’IA en a désespérément besoin

En contraste, l’approche de contrôle par rétroaction suggère une simple heuristique : essentiellement, « maintenir le ballon dans la même position dans votre champ visuel, puis bouger pour conserver cette situation ». Nous agissons pour ajuster le stimulus que nous reçons.

Cela est non seulement plus fidèle aux expériences de toute personne qui a joué en centre-ville, mais cela évite également de séparer le processus mental du mouvement physique, et ne nécessite pas l’utilisation de calculs complexes que requiert le modèle computationnel. Les humains sont plus dynamiques que cela. ^.

Cette approche correspond également parfaitement à l’architecture biologique du cerveau, en fonction de son évolution au fil du temps. Des poissons anciens aux amphibiens, aux mammifères, aux primates, et finalement aux humains modernes : ce que nous observons, c’est que de nouvelles comportements émergent en réponse à de nouvelles possibilités environnementales. Par exemple, lorsque les dinosaures disparurent, cela permit à certains créatures nocturnes de se déplacer pendant la journée sans trop risquer d’être mangées, ce qui a donné naissance à une variété de nouvelles capacités. L’histoire de notre système nerveux, Cisek observes, est l’une de « l’extension continue du contrôle qui s’étend de plus en plus dans le monde ». (Son prochain livre explorera tout cela en détail, et oui, j’espère que cet essai exercera une pression subtile sur lui pour le terminer.)

Cela conduit à un diagramme alternatif et très différent de celui ci-dessus. Nous pouvons à la fois établir une carte des comportements et des capacités qui ont évolué au fil du temps et nous pouvons superposer les composants physiques spécifiques du cerveau à ces capacités, comme ceci :

Au lieu de se déplacer de gauche à droite comme dans le modèle computationnel, ce modèle devrait être considéré comme s’étendant de haut en bas au cours du temps évolutif. Par exemple, il y a longtemps, à mesure que les animaux vertébrés développaient plus de mobilité, il devint utile d’avoir des systèmes spécialisés pour explorer – en utilisant des repères, par exemple, ou pour naviguer la nuit. Cela a conduit au développement de ce que nous appelons aujourd’hui l’hippocampe. Il est important de noter que cela a également incité nos ancêtres à se souvenir de moments importants où ils couraient d’un endroit à l’autre, ce qui a conduit au développement de la « mémoire épisodique » des expériences passées.

Nous ne pouvons rien faire de tel avec le modèle computationnel de l’esprit ; il ne correspond simplement pas aux structures neuroscientifiques observables. De plus, cela masque le fait que beaucoup de ce que font les cerveaux consiste à contrôler les interactions des organismes vivants dans leur environnement. Ainsi, Cisek suggère que nous devons changer radicalement le paradigme que nous utilisons pour comprendre la relation entre notre cerveau et nos comportements, en écartant les entrées-sorties algorithmiques pour nous tourner vers des systèmes de rétroaction plus dynamiques.

Jusqu’à présent, notre histoire du développement humain s’est principalement concentrée sur les retours provenant du monde physique. Mais l’un des « cycles de retour d’information » les plus importants de l’humanité provient de nos dispositions profondément sociales. Le modèle computationnel ne prend pas non plus en compte cela – et l’industrie de l’IA non plus. Nous avons passé des milliers d’années à construire des institutions et des normes pour apprendre et communiquer entre nous, mais en moins d’une décennie, les grandes entreprises technologiques ont systématiquement tenté de les détruire.

Comment ? Encore une fois, nous aurons besoin de un contexte historique.

À un moment donné, il y a de nombreuses centaines de milliers d’années, nos ancêtres lointains ont fait quelque chose d’incroyable : ils ont appris à imiter les autres. En imitant les gestes et les mouvements du corps, ils ont pu transmettre des pratiques efficaces – comme l’utilisation d’un outil en pierre – et coordonner des activités plus complexes grâce à des comportements rituels partagés, ce qui a à son tour formé notre cognition. C’était le début de la culture humaine.

Nous avons passé des milliers d’années à construire des institutions et des normes pour apprendre et communiquer entre nous, et les grandes entreprises technologiques œuvrent systématiquement pour les détruire.

Les humains ont rapidement commencé à imiter les sons, et par conséquent, la langue orale. Comme nous l’avons discuté précédemment, la langue n’est pas identique au pensée, mais elle nous permet de communiquer nos idées entre nous. À un certain moment, nos ancêtres chasseurs-cueilleurs ont également commencé à s’installer dans des communautés stables, développant des pratiques agricoles complexes qui nous permettaient de cultiver de la nourriture plutôt que de partir en quête de la nourriture.

Enfin, nous avons commencé à utiliser des marques écrites pour représenter nos langues parlées et autres idées abstraites. Nous sommes devenus capables de transmettre des idées complexes entre les générations. L’éducation formelle, un processus visant à assurer la transmission du savoir au sein d’un groupe humain, est apparue peu après. Avec le temps, des pratiques et des institutions qui collectivisent la prise de décision humaine sont également apparues, telles que les « marchés », le « droit » et la « démocratie ».

Chaque affirmation que je viens de faire est contestable, et elle exige bien plus de détails que je ne peux fournir ici. Mais ce processus est continu avec notre évolution biologique, en ce sens qu’ils favorisent tous deux une gamme de contrôle toujours plus large sur le monde qui nous entoure.

Et parfois, ce changement culturel entraîne des conséquences inattendues qui nuisent plutôt qu’aider.

Les alimentations humaines sont peut-être l’exemple le plus évident. À l’époque des chasseurs-cueilleurs, les aliments gras étaient rares mais précieux pour assurer la survie – regardez Alone si vous en doutez – et nous avons évolué pour les chercher et les stocker dans notre corps une fois trouvés. Mais ensuite, nous avons développé culturellement l’agriculture et d’autres techniques agricoles qui, avec un décalage de 10 000 ans, ont rendu les aliments gras très abondants aujourd’hui – si vous voulez un hot dog, il y en a à profusion.

L’IA alourdit notre capacité à développer les connaissances nécessaires pour naviguer dans le monde

Et c’est le problème. Les hot dogs représentent un danger pour nos corps physiques, car ils obstruent nos artères avec une graisse excessive que nous n’avons plus besoin de stocker à l’intérieur. L’IA représente également un danger similaire pour nos capacités cognitives, en obstruant notre capacité à développer les connaissances nécessaires – dans nos têtes – pour naviguer dans le monde. C’est un hot dog cognitif.

Un hot dog occasionnel ne nuisera à personne, mais cela sera certainement problématique si il devient un repas régulier à l’heure du déjeuner ou du dîner. Il en va de même pour l’IA : le problème ne vient pas de son utilisation occasionnelle, mais de sa mise au cœur de notre alimentation mentale.

C’est précisément ce que les géants technologiques tentent de faire.

Dans un podcast de juillet 2025 sur « comment l’IA transforme l’éducation », Leah Belsky, vice-présidente d’OpenAI pour les études, a prétendu que les « apprenants » représentaient plus de la moitié des 900 millions d’utilisateurs moyens mensuels de ChatGPT. Elle a affirmé que ce service était « la plus grande plateforme d’apprentissage au monde ». Plus récemment, Anthropic a annoncé une nouvelle initiative appelée « Claude for Teachers », permettant un accès gratuit aux modèles premium pour les enseignants.

Ces efforts ne profiteront ni aux étudiants, ni aux enseignants. En fait, c’est l’exemple le plus évident de comment l’IA affaiblit les systèmes sur lesquels nous comptons pour développer notre cognition, au profit de la commodité.

François Chollet, ancien ingénieur logiciel chez Google, est mémorablement décrit L’IA en tant que outil de « automatisation cognitive », qu’il définit comme « l’encodage des abstractions humaines dans un logiciel, puis l’utilisation de ce logiciel pour automatiser les tâches normalement effectuées par les humains ». L’an dernier, un groupe interdisciplinaire d’étudiants… a plaidé de manière persuasive, nous devrions considérer l’IA générative sous la forme de grands modèles de langage, et non « principalement comme des agents intelligents, mais comme une nouvelle sorte de technologie culturelle et sociale, permettant aux humains de profiter des informations que d’autres humains ont accumulées” (accent ajouté).

Les amateurs d’IA ont fait de nombreuses prédictions concernant les avantages de cela, et ils ont en grande partie ignoré les inconvénients, les considérant comme comparables aux formes précédentes d’automatisation, telles que les ordinateurs, les calculatrices et même le langage écrit. (J’ai été confronté tant de fois à des citations affirmant que Platon s’opposait à l’écriture que j’ai abordé ces points dans un article distinct — il était écrivain !)

Je n’ai jamais auparavant développé et déployé de manière large quelque chose qui vise explicitement à remplacer la pensée humaine.

Quels que soient les effets de ces technologies antérieures, jamais auparavant nous n’avons développé et déployé de manière large quelque chose qui est si explicitement conçu pour remplacer la pensée humaine — c’est ce que soutiennent eux-mêmes les partisans de l’IA.

Regardez l’éducation. ChatGPT est peut-être la plus grande plateforme d’apprentissage au monde, mais les étudiants l’utilisent massivement pour éviter le travail intellectuel nécessaire à la construction de leurs connaissances durables. Des preuves continuent à construire la démonstration de l’négatif impact des outils AI dans les contextes éducatifs (et Gen Z en général le déteste). Une étude chinoise récente a révélé que des milliers d’étudiants ont cessé de faire leurs devoirs dès qu’ils ont commencé à utiliser l’AI (ce qui a considérablement nui à leur apprentissage). Il y a même des preuves que lorsque les étudiants utilisent les grands modèles de langage à des fins d’apprentissage, ils s’habituent à relâcher leur jugement et leur pensée critique dans d’autres contextes.

Aucune autre espèce n’a un cerveau et un corps qui se développent sur une période aussi longue que le nôtre. Historiquement, nous avons complété cela par des institutions culturelles uniques qui transmettent les connaissances d’une génération à l’autre. Nous devrions protéger ardemment cet effort unique de l’humanité. Cependant, de nombreux administrateurs universitaires et scolaires, sans parler des grands groupes technologiques, s’efforcent activement d’implanter l’IA aussi profondément et aussi rapidement que possible dans nos systèmes éducatifs.

Si nous seulement voyons l’esprit comme un ordinateur, l’IA pourrait sembler avantageuse pour l’apprentissage — c’est pourquoi beaucoup rêvent de créer des tutores IA. Mais déjà, de tels efforts sont échoués, car nos esprits sont plus que des dispositifs d’entrée-sortie. Ils existent, ou plutôt nous existons, dans un écosystème cognitif plus large où nous devons faire des choix quant à la manière dont nous consacrons notre énergie cognitive. Nous le faisons afin d’étendre notre agence, notre contrôle — même s’il est limité — sur notre monde.

Si nous seulement considérons l’esprit comme un ordinateur, l’IA pourrait sembler avantageuse pour l’apprentissage — mais ce modèle est incorrect

Mais cela représente un défi. La pensée effortful est difficile, et si nous avons accès à des solutions technologiques, nous les utiliserons – ce que certains chercheurs ont récemment appelé délégation cognitive. À mesure que la délégation cognitive se propage, ils avertissent : « l’environnement social qui soutient le raisonnement autonome peut s’affaiblir » – et à mesure qu’il s’affaiblit, cette délégation devient encore plus facile et attrayante.

Les chercheurs recommandent un programme d’immunité cognitive par l’IA, qui préserve « les pratiques et les institutions qui maintiennent la cognition humaine active : la résolution de problèmes sans aide, la vérification, la discussion critique, [et] des périodes de désengagement délibéré » en l’absence d’utilisation de l’IA.

Nous appelons de telles institutions « écoles ».

Les leviers politiques devront également être tirés. Je trouve très intéressant que la Norvège a récemment interdit essentiellement tous les usages de l’IA dans les écoles pour les élèves de moins de 13 ans. Aux États-Unis, un grand syndicat d’enseignants a également demandé l’interdiction des chatbots dans les écoles primaires, et de grands districts scolaires comme L.A. et New York City ont également récemment imposé des interdictions. (Disclosure : J’ai donné des conseils informels à Schools Beyond Screens, une organisation qui a défendu ces interdictions.) Ils ne seront pas les derniers à le faire, ou je l’espère.

La bonne nouvelle, si on peut l’appeler ainsi, est que la résistance croît – peut-être avez-vous vu beaucoup de vidéos où des diplômés universitaires s’opposent aux conférenciers qui louent l’IA ? Cela est sans doute en partie dû aux inquiétudes liées au travail, mais je soupçonne que beaucoup reconnaissent les dommages causés par l’IA à leur propre développement cognitif. Certainement, c’est le cas pour les étudiants du Oberlin Luddite Club, qui ont écrit une lettre ouverte au président de leur université, critiquant l’adoption de l’IA par cette institution : « Alors que vous entamez votre année d’IA, nous entamons notre propre année d’autonomisation – de réaliser les fruits de notre travail, et d’accepter l’imperfection humaine et l’enquête brute. » Parfaitement.

Les systèmes de contrôle dans nos cerveaux sont le produit de millions d’années d’évolution biologique et de plusieurs millénaires d’évolution culturelle. Il nous faut sortir du modèle computationnel de l’esprit pour comprendre l’ensemble de ce qui nous rend humains, et apprécier notre nature profondément sociale, moteur de la culture humaine. Nous avons montré une résilience remarquable en tant que espèce, mais manger abondamment de hot dogs cognitifs n’est pas bon pour aucun d’entre nous.

Mangez de manière saine, et pensez de manière saine.