IT之家 El 19 de octubre, según informa el Washington Post, un estudio revela que la IA puede manipular la memoria humana. En este experimento, se prepararon 24 fotografías comunes: bodas, calles urbanas y escenas de carreras. Pattie Maes, profesora en el Laboratorio de Medios del Instituto de Tecnología de Massachusetts, y sus colegas mostraron estas fotografías a 200 sujetos.
Después de una breve pausa, una parte de las personas vio nuevamente la imagen original; otra parte vio la versión modificada por la IA: las expresiones faciales de los personajes fueron cambiadas, se añadió una imagen de un militar en la imagen, o se añadieron escenas relacionadas con el cambio climático.
Luego, los investigadores realizaron pruebas de memoria.
Mais se sorprendió al ver los resultados: En los sujetos que observaron cómo la IA alteraba las imágenes, la probabilidad de que tuvieran memorias erróneas aumentó significativamente. Lo peor es que, según ella, tenían una confianza aún mayor en estas memorias falsas.
Mais dijo: “Básicamente, creo que todo esto es muy peligroso.”
Hasta ahora, las preocupaciones del público se han centrado principalmente en lo que algunos investigadores llaman “renuncia cognitiva”: a medida que las máquinas asumen cada vez más trabajo de pensamiento, las personas se vuelven menos dispuestas y también menos capaces de examinar la información que les proporcionan las máquinas. Pero existe otra posibilidad que recibe mucho menos atención: la IA quizá esté cambiando nuestra memoria en sí misma.
Un grupo de nuevas investigaciones relacionadas con eventos políticos, crímenes e incluso la percepción de películas nuevas demuestra que las imágenes y diálogos generados por IA pueden inyectar detalles falsos en el cerebro humano, permitiendo que las personas crean firmemente que ciertas cosas nunca ocurrieron realmente.
La memoria no es solo retener el pasado. Proporciona conocimiento y experiencia, ayudándonos a comprender el presente, prever el futuro, formar nuestra autoconocimiento y mantener las relaciones interpersonales, además de guiar a individuos y colectivos en la toma de decisiones.
Sin embargo, la memoria en sí también es un gran punto débil del cerebro humano: solo podemos recordar una pequeña parte de las cosas que vivimos. Los detalles desaparecen, los recuerdos se vuelven borrosos y, cada vez que intentamos recordar, la propia memoria cambia.
La IA parece ser capaz de compensar estas deficiencias: puede almacenar una gran cantidad de información, buscarla en segundos y recuperar detalles que los humanos podrían perder para siempre. Pero estas características también conllevan riesgos potenciales. Los sistemas de IA no solo almacenan el pasado, sino que también interpretan, resumen y reestructuran esa información, y a veces cometen errores.
Las consecuencias son mucho más graves que simplemente recordar mal una foto o un diálogo. Desde accidentes de tráfico hasta casos de abuso sexual, los juicios en los tribunales a menudo dependen de los recuerdos de los testigos, aunque años de investigación han demostrado que la memoria de los testigos puede ser fácilmente distorsionada. Y la historia en sí depende de las elecciones individuales y sociales sobre qué conservar, olvidar y, finalmente, qué se está dispuesto a creer.
La memoria humana tiene defectos inherente desde el nacimiento
Mae es una pionera en el campo de la inteligencia artificial. En los primeros años de su carrera, que duraron más de 35 años, participó en el desarrollo de algunos algoritmos que sentaron las bases del internet inicial. Pero, durante mucho tiempo, su interés se centró en otra posibilidad de la IA: no es que las máquinas reemplacen la inteligencia humana, sino que amplíen la inteligencia humana.
Para Meis, este problema tiene un carácter emocional personal. A medida que envejece, su madre comienza a olvidar los fragmentos de la vida cotidiana.
“Mi madre olvidará quién vino ayer y qué le dijeron los demás”, dijo Mays, quien solo podía escribir una nota: “‘Hija dice que vendrá en dos semanas’”.
Méz comenzó a imaginar una herramienta mucho más poderosa que un cuaderno: una ayuda para la memoria, que pudiera registrar en silencio el recorrido de la vida de una persona.
Para las pacientes con enfermedad de Alzheimer y otros tipos de demencias, este tema es especialmente urgente. Estas enfermedades se caracterizan por la pérdida de memoria y privan a las pacientes de su capacidad para vivir de manera independiente.
El equipo de investigación de Meez ha construido varias generaciones de sistemas de memoria externa. Memoro y MemPal se basan en IA, junto con dispositivos wearables o portátiles, y recopilan fragmentos de la vida cotidiana para que puedan ser accedidos posteriormente. ¿Olvidaste lo que dijo alguien en una conversación? Puedes consultar el sistema. ¿No recuerdas dónde dejaste las llaves? El sistema podría localizarlo.
Este enfoque no consiste en hacer que el cerebro envejecido se esfuerce por mejorar su memoria, sino en conectarlo con otro banco de memoria.
Los resultados de pruebas tempranas para los ancianos son prometedores. Mes dice que su madre, de 96 años, tiene un declive cognitivo excesivo y ya no puede beneficiarse de esta tecnología. Pero la científica es muy optimista: en el futuro, estos sistemas podrán ayudar a muchas personas a mantener una vida independiente mientras su memoria biológica disminuye. Ya existen algunos productos comerciales similares en el mercado: por ejemplo, herramientas interactivas de recuerdo para registrar la vida personal, gafas inteligentes personalizadas que ayudan en actividades diarias como cepillarse los dientes.
¿Y si la máquina se convierte en una extensión de nuestra memoria, qué pasará con la memoria que hemos formado nosotros mismos?
Cada vez más dependiente de la IA
Otro grupo de investigaciones de Mays proporciona pruebas claras para esta cuestión.
En un experimento publicado el año pasado y que actualmente está bajo revisión por pares, 54 sujetos fueron solicitados a escribir ensayos al estilo SAT, con temas como el significado de la felicidad. Un grupo no utilizó ningún herramienta en línea; otro grupo pudo usar búsqueda en Google, pero no pudo utilizar IA para generar respuestas; un tercer grupo pudo utilizar ChatGPT.
Durante el proceso de escritura, los electrodos en la cabeza recordaban la actividad eléctrica del cerebro, y las diferencias eran muy evidentes: en los sujetos que escribían de forma independiente, los conectivos neuronales entre diferentes áreas del cerebro eran más fuertes y tenían una distribución más amplia; en los sujetos que utilizaban Google, la situación era intermedia; en los sujetos que utilizaban ChatGPT, los conectivos cerebrales eran más débiles.
Más tarde, se pidió a los sujetos que repitieran el texto que acababan de escribir. Las personas que utilizaban ChatGPT tenían dificultades para recordar lo que habían escrito.
Según lo que IT Home sabe, la memoria no es simplemente guardar información en el cerebro. La atención, el esfuerzo subjetivo, la extracción de información y la creación de conexiones son todos estos procesos los que consolidan la memoria. La IA generativa eliminará parte de ese trabajo mental.
Gideon Nave, profesor asociado de marketing en la Universidad de Pensilvania y Wharton School, y Steven Shaw, profesor asistente en King’s College de Londres, estudian el impacto de la IA en el conocimiento humano, y plantean preocupaciones más profundas. Nave no está muy preocupado por los pesadillas al estilo de Hollywood — donde una super IA toma el control del ser humano — sino por un riesgo más oculto: que los seres humanos dejen de ejercitar gradualmente las habilidades para las que las máquinas pueden hacerlo.
“Es más probable que sea el declive de las capacidades humanas en sí mismas, y no que la IA tome el control del mundo”, añadió, preocupado por el futuro en el que “pensar se convierte en una opción”.
Se han observado signos que los investigadores denominan “degradación de habilidades”. Shaw menciona varios estudios: las personas que utilizan la IA como ayuda en su trabajo (por ejemplo, los médicos que dependen de la IA para diagnosticar cáncer), si pierden este instrumento de apoyo, su rendimiento laboral disminuye.
Un estudio publicado en 2025 en The Lancet: Gastroenterology and Hepatology reveló este posible efecto. Los investigadores observaron las evaluaciones de 19 médicos experimentados sobre casi 1500 exámenes de colonoscopia, y descubrieron que después de que los médicos utilizaban AI de forma regular, su capacidad para detectar independientemente lesiones precancerosas disminuyó aproximadamente un 20%.
“Ya no entrenan en este ejercicio mental como antes”, dijo él, “con el uso y desuso”.
Para los niños, él está preocupado por un problema más fundamental: es posible que confíen en tareas mentales en IA cuando sus capacidades cognitivas básicas aún no se han desarrollado completamente. “Es posible que no logren desarrollar las habilidades críticas clave desde el principio”.
Por supuesto, esto no significa que el uso de herramientas de IA como ChatGPT obligatoriamente disminuya la capacidad humana. Las investigaciones recientes no han demostrado que el uso común de IA provoque una declinación cognitiva o daños permanentes en la memoria. Estos estudios todavía se encuentran en una etapa inicial, ya que los seres humanos han utilizado herramientas para externalizar la memoria y el pensamiento durante mucho tiempo: el abacillo, los relojes, los diccionarios y las calculadoras son ejemplos de ello.
Pero la IA generativa trae nuevas variables. Cada vez dependemos más de ella para interpretar la información que recibe, y es fácil que las personas acepten lo que la IA dice. En el experimento de Nave y Shaw, los sujetos, incluso cuando recibían información incorrecta, seguían las recomendaciones de la IA en una proporción muy alta.
¿Qué ocurre cuando la IA falla?
Esta semana, los investigadores en el área de ética y sociedad de la IA celebraron una conferencia anual en Malmö, Suecia. Muchos se centraron en un mismo problema: ¿cuáles son las consecuencias cuando la inteligencia artificial comienza a intervenir en la memoria humana?
Más y más estudios demuestran que la IA generativa interfiere con la memoria de una manera sorprendentemente persistente: distorsiona la memoria, borra los límites entre las ideas personales y el contenido generado por la máquina, e incluso inyecta recuerdos de eventos que nunca ocurrieron.
En un estudio, los investigadores hicieron que los sujetos vieran un video del crimen y luego les preguntaron al robot de chat de IA generativa. La cantidad de memorias falsas que tuvieron los sujetos era tres veces mayor que en el grupo de control. En otro experimento, los sujetos idearon ideas creativas con y sin ayuda de la IA; una semana después, tenían dificultades para distinguir qué ideas provenían de la máquina y cuáles eran propias.
Otros experimentos muestran que la información falsa generada por IA puede hacer que las personas recuerden cosas que en realidad no existen. En uno de los experimentos, casi la mitad de los sujetos recordaron falsamente versiones de películas que nunca se filmaron, incluida “The Matrix”, protagonizada por Will Smith. En otro experimento, un video generado por IA permitió a las personas creer que recordaban escándalos políticos que nunca ocurrieron. Sin embargo, los investigadores señalan que los videos de deepfakes no son más eficaces en crear memorias falsas que los textos puros.
Las últimas pruebas de investigación muestran que este problema es más difícil de resolver de lo que los investigadores esperaban.
Tanto empresas como agencias gubernamentales están luchando por implementar la IA: la policía intenta usar la IA para resumir las grabaciones de los registradores de seguridad, y los hospitales utilizan la IA para organizar los documentos médicos. Mattea Sim, investigadora asistente en el Instituto de Datos Masivos de la Universidad de Georgetown, dice que el método más común de seguridad es mantener la intervención humana, permitiendo que las personas detecten los errores de los sistemas automáticos.
Pero la premisa de este plan es que los seres humanos pueden verificar independientemente las máquinas. La investigación de Sim muestra que la dirección del efecto podría ser inversa: la IA cambiará las percepciones y la memoria que las personas usan para detectar los errores de la IA, haciendo que la supervisión humana como garantía pierda su función fundamental.
En un experimento reciente, Sim reclutó a 331 personas para que vieran un breve video de un automóvil que daña a un peatón. Un día o dos después, los sujetos leyeron un resumen de accidente generado por IA. A algunas personas les llegó un resumen que describía con precisión los señalizadores del tráfico en el video; a otras personas les llegó un resumen en el que la IA proporcionaba información incorrecta sobre los señalizadores.
Entre los sujetos que recibieron un resumen preciso, casi el 84% logró recordar correctamente la identificación; entre los sujetos que recibieron un resumen engañoso, la tasa de acierto fue solo alrededor del 45%. Incluso si se les informa con anticipación que este resumen fue generado por IA, no se puede evitar que se vea afectado por él.
“Todos saben que la IA puede cometer errores”, dijo Sim, pero los estudios demuestran que “la supervisión humana quizás no sea una buena solución para este problema”.