IT之家 Le 19 octobre, selon le Washington Post, une étude a révélé que l’IA peut modifier la mémoire humaine. Au début de l’expérience, 24 photos ordinaires ont été préparées : mariages, rues urbaines, scènes de courses. Pattie Maes, professeure au Laboratoire de médias du MIT, et ses collègues ont présenté ces photos à 200 sujets.
Après une pause brève, une partie de personnes a de nouveau vu l’image originale ; une autre partie a vu une version modifiée par l’IA – les expressions faciales des personnages ont été changées, des images de soldats ont été ajoutées dans l’image, ou des scènes liées au changement climatique ont été insérées.
Ensuite, les chercheurs ont mené des tests de mémoire.
Quand Meis a vu les résultats, elle était choquée : Les sujets qui ont regardé l’IA modifier des images ont une probabilité beaucoup plus élevée de développer des souvenirs erronés. Plus grave encore, elle a indiqué que leur confiance en ces souvenirs faux était même plus grande.
Maez a dit : « En gros, je pense que tout cela est très dangereux. »
Jusqu’à présent, les inquiétudes du public se concentrent principalement sur ce que certains chercheurs appellent « l’abandon cognitif » : à mesure que les machines assument de plus en plus de tâches de réflexion, les gens deviennent de moins en moins disposés et de moins en moins capables d’examiner les informations fournies par les machines. Mais une autre possibilité reçoit beaucoup moins d’attention : l’IA pourrait changer notre mémoire elle-même.
Une série de nouvelles études concernant les événements politiques, les crimes et même la perception des nouveaux films montrent que les images et les dialogues générés par l’IA peuvent introduire des détails faux dans le cerveau humain, permettant aux gens de croire avec certitude qu’il s’agit d’événements qui n’ont jamais eu lieu.
La mémoire ne consiste pas seulement à conserver le passé. Elle fournit connaissances et expériences qui nous aident à comprendre le présent, à anticiper l’avenir, à former notre propre perception de soi et à maintenir les relations interpersonnelles. En même temps, elle guide les individus et les collectivités dans la prise de décisions.
Cependant, la mémoire elle-même est aussi un point faible important de l’esprit humain : nous ne pouvons seules retenir qu’une petite partie des événements vécus. Les détails disparaissent, les souvenirs deviennent flous, et la mémoire elle-même change à chaque fois que l’on y repense.
L’IA semble parfaitement capable de compenser ces défauts : elle peut stocker une quantité énorme d’informations, effectuer des recherches en quelques secondes et retrouver des détails que l’humain pourrait perdre pour toujours. Mais ces caractéristiques comportent également des risques potentiels. Les systèmes d’IA ne stockent pas seulement le passé ; ils interprètent, synthétisent et réorganisent les informations historiques, et parfois, ils commettent des erreurs.
Les conséquences ne sont pas simplement liées à une mauvaise mémoire concernant une photo ou un dialogue. Des accidents de voiture aux cas de viol, les procès judiciaires dépendent souvent des souvenirs des témoins, bien que des études de plusieurs décennies aient démontré que la mémoire des témoins peut être facilement biaisée. Et l’histoire elle-même dépend des choix individuels et sociaux quant à ce qu’ils conservent ou oublient, ainsi que de ce qu’ils sont prêts à croire.
La mémoire humaine présente naturellement des défauts
Maez est une pionnière dans le domaine de l’intelligence artificielle. Au début de sa carrière, qui a duré plus de 35 ans, elle a participé au développement d’algorithmes qui ont jeté les bases du premier Internet. Mais pendant longtemps, elle s’est intéressée à une autre possibilité de l’IA : non pas à la remplacement de l’intelligence humaine par des machines, mais à l’expansion de l’intelligence humaine.
Pour Més, cette question porte sur des émotions personnelles. Avec l’âge, sa mère commence à oublier les épisodes de la vie quotidienne.
« Ma mère oubliera qui est venu hier et ce que les autres lui ont dit », dit Meis, elle ne peut écrire que des notes : « “La fille dit qu’elle viendra dans deux semaines.” »
Maez a commencé à imaginer un outil bien plus puissant que un carnet de notes : un assistant mémoriel capable de consigner en silence le parcours de vie d’une personne.
Pour les patients atteints de maladie d’Alzheimer et d’autres types de démences, cette question est particulièrement urgente. Ces maladies se caractérisent par une perte de mémoire, ce qui prive les patients de leur capacité à vivre de manière indépendante.
L’équipe de recherche de Mei a construit plusieurs systèmes de mémoire externe. Memoro et MemPal s’appuient sur l’IA, en combinaison avec des équipements portables ou à porter, afin d’recueillir des fragments de la vie quotidienne, facilitant ainsi leur récupération ultérieure. Oublié ce que quelqu’un a dit dans une conversation ? Vous pouvez demander au système. Ne vous souvenez-vous pas où vous avez mis vos clés ? Le système pourrait peut-être les localiser.
Cette approche ne consiste pas à faire en sorte que le cerveau vieillissant s’efforce d’améliorer sa mémoire, mais plutôt à le connecter à une autre base de données de mémoire.
Les résultats préliminaires des essais sur les personnes âgées sont prometteurs. Mays explique que sa mère, âgée de 96 ans, subit une dégradation cognitive trop grave pour pouvoir bénéficier de cette technologie. Cependant, la scientifique est très optimiste : ces systèmes pourront à l’avenir aider de nombreuses personnes à maintenir leur vie indépendante lorsque leur mémoire biologique s’améliore. Certains produits commerciaux similaires existent déjà sur le marché : des outils interactifs permettant de conserver les souvenirs personnels, des lunettes intelligentes personnalisées aidant à les activités quotidiennes comme se brosser les dents.
Et si la machine devient une extension de notre mémoire, que se passerait-il avec les souvenirs que nous formons nous-mêmes ?
De plus en plus dépendant de l'IA
Une autre étude menée par Meis a fourni une preuve claire pour cette question.
Dans une expérience publiée l’an dernier et actuellement en cours de revue par des pairs, 54 participants ont été invités à rédiger des essais dans le style du SAT, sur des thèmes comme la signification de la santé. Un groupe n’a utilisé aucun outil en ligne ; un autre groupe a pu utiliser les recherches Google, mais ne pouvait pas faire appel à une IA pour générer des réponses ; un troisième groupe a pu utiliser ChatGPT.
Dans le processus d’écriture, les électrodes du cuir chevelu enregistrent l’activité électrique cérébrale, et la différence est très évidente : chez les sujets qui écrivent indépendamment, les connexions nerveuses entre différentes régions du cerveau sont les plus fortes et les plus étendues ; chez ceux qui utilisent Google, les connexions cérébrales sont à l’égalité ; chez ceux qui utilisent ChatGPT, les connexions cérébrales sont les plus faibles.
Ensuite, les participants doivent répéter le texte qu’ils venaient de écrire. Les personnes qui utilisent ChatGPT ont du mal à se souvenir des mots qu’ils ont écrits.
D’après IT Home, la mémoire n’est pas simplement l’inscription d’informations dans le cerveau. La concentration, l’effort subjectif, l’extraction des informations et la création de liens : tous ces processus contribuent à consolider la mémoire. L’IA génératrice élimine une partie de cette tâche mentale.
Gideon Nave, professeur associé en marketing à l’Université de Pennsylvanie et Wharton School, et Steven Shaw, assistant professeur au King’s College de Londres, étudient l’impact de l’IA sur la cognition humaine, et expriment des inquiétudes plus profondes. Nave ne se préoccupe pas trop des cauchemars hollywoodiens – où une IA superintelligente prend le contrôle de l’humanité – mais plutôt d’un risque plus subtil : les humains cesseraient progressivement d’exercer les capacités que les machines peuvent remplacer.
« Il est plus probable que ce soit la dégradation des capacités humaines elles-mêmes qui se produise, plutôt que l’AI qui prend le contrôle du monde », ajouta-t-il, inquiet de voir « la réflexion devenir un choix optionnel » à l’avenir.
Les signes que les chercheurs qualifient de « dégradation des compétences » ont commencé à apparaître. Shaw mentionne plusieurs études : ceux qui utilisent l’IA pour travailler (comme les médecins qui se fient à l’IA pour diagnostiquer les cancers) voient leur performance professionnelle diminuer dès qu’ils perdent cet outil d’aide.
Une étude publiée en 2025 dans The Lancet : Gastroenterology and Hepatology a révélé ces effets potentiels. Les chercheurs ont examiné les évaluations de 19 médecins expérimentés sur près de 1500 examens de coloscopie, et ont constaté que la capacité à détecter indépendamment les maladies précancéreuses diminuait d’environ 20 % après l’utilisation régulière d’IA par les médecins.
« Ils ne s’entraînent plus à ce travail mental comme avant », dit-il, « par utilisation et dégradation ».
Pour les enfants, il s’inquiète de problèmes plus fondamentaux : ils pourraient confier des tâches intellectuelles à l’IA avant que leurs capacités cognitives essentielles ne soient pleinement développées. « Ils pourraient ne pas développer dès le début les compétences critiques nécessaires. »
Bien sûr, cela ne signifie pas que l’utilisation d’outils d’IA tels que ChatGPT entraînera nécessairement une diminution des capacités humaines. Les études récentes ne montrent pas que l’utilisation de technologies AI ordinaires entraîne inévitablement un déclin cognitif ou des dommages permanents à la mémoire. Ces recherches sont encore en phase initiale, et les humains ont depuis longtemps utilisé des outils pour externaliser la mémoire et la réflexion : le tambour, les horloges, les dictionnaires, les calculatrices…
Mais l’IA génératrice apporte de nouvelles variables. Nous sommes de plus en plus dépendants de son interprétation des informations relevées, et les gens ont tendance à accepter facilement ce que l’IA propose. Dans l’expérience de Naf et Shaw, les sujets, même en recevant des erreurs, suivent les conseils de l’IA dans une proportion très élevée.
Que se passe-t-il lorsque l’IA fait une erreur ?
Cette semaine, des chercheurs dans le domaine de l’éthique et de la société de l’IA ont organisé une conférence annuelle à Malmö, en Suède. Beaucoup de personnes se sont concentrées sur un même problème : quelles seront les conséquences lorsque l’intelligence artificielle commence à intervenir dans la mémoire humaine ?
De plus en plus d’études montrent que l’IA génératrice perturbe la mémoire de manière étonnamment durable : elle déforme la mémoire, obscurcit les limites entre ses propres pensées et le contenu généré par la machine, et même insère des souvenirs qui ne se sont jamais produits.
Dans une étude, les chercheurs ont fait regarder aux participants un vidéo criminelle, puis ont utilisé un robot de conversation IA génératrice pour leur poser des questions. Le nombre de souvenirs faux générés par les participants était trois fois plus élevé que dans le groupe de contrôle. Dans une autre expérience, les participants ont conçu des idées créatives en présence ou sans l’aide de l’IA ; une semaine plus tard, ils avaient du mal à distinguer lesquelles provenaient de la machine et lesquelles étaient leurs propres idées.
D’autres expériences montrent que les informations falsifiées générées par l’IA peuvent faire enregistrer des choses qui n’existent pas. Une étude a révélé que près de la moitié des participants se souvenaient de versions remastérisées de films jamais tournés, y compris « The Matrix » avec Will Smith. Une autre expérience a permis aux personnes d’associer les vidéos générées par l’IA à une mémoire de scandales politiques qui n’ont jamais eu lieu. Cependant, les chercheurs soulignent que les vidéos de deepfake ne sont pas plus efficaces que les textes purement informatiques pour créer des souvenirs falsifiés.
Les dernières preuves de recherche montrent que cette question est plus difficile à résoudre que ce que les chercheurs prévoyaient.
Les entreprises et les institutions gouvernementales se disputent à déployer l’IA : la police essaie d’utiliser l’IA pour synthétiser les enregistrements des caméras de surveillance, et les hôpitaux utilisent l’IA pour organiser les documents médicaux. Mattea Sim, chercheuse associée au Institut de recherche sur les grandes quantités de données de l’Université de Georgetown, explique que la méthode de sécurité la plus courante est de maintenir une intervention humaine afin que les erreurs des machines soient vérifiées par des personnes.
Mais la condition de ce plan est que l’humain puisse vérifier indépendamment les machines. Les recherches de Sim montrent qu’il pourrait en être autrement : l’IA changera les jugements et les souvenirs que les gens utilisent pour détecter les erreurs de l’IA, rendant ainsi le contrôle humain essentiel inopérant.
Dans une étude récente, Sim a recruté 331 personnes pour regarder un court film vidéo montrant une voiture qui renverse un piéton. Un ou deux jours plus tard, les sujets ont lu un résumé d’accident généré par l’IA. Une partie des personnes a reçu un résumé qui décrivait correctement les panneaux de signalisation visibles dans le film ; une autre partie a reçu un résumé où l’IA indiquait faussement des panneaux incorrects.
Parmi les sujets ayant reçu un résumé précis, près de 84 % ont pu mémoriser correctement l’identifiant ; pour ceux qui ont reçu un résumé trompeur, le taux de réussite n’est que d’environ 45 %. Même en informant les sujets au préalable que ce résumé a été généré par l’IA, il est impossible d’éviter son influence.
« Tout le monde sait généralement que l’IA peut se tromper », dit Sim, mais des études montrent que « une supervision humaine ne serait peut-être pas une bonne solution à ce problème. »