Recientemente, según informó Gizmodo, la investigación del equipo de la científica del MIT Pattie Maes demuestra que los contenidos generados por inteligencia artificial y la tecnología deepfake están logrando distorsionar la memoria humana, e incluso implantan recuerdos falsos completamente inventados en el cerebro de los participantes.
Los experimentos muestran que los sujetos de prueba que estuvieron expuestos a fotografías modificadas por IA no solo recuerdan fácilmente mal la imagen original, sino que también muestran una confianza sumamente alta en su recuerdo erróneo. Este fenómeno es especialmente evidente en escenarios como los escándalos políticos, donde no solo reduce la disposición del público a votar, sino que también sigue influyendo en las decisiones políticas incluso después de que la información haya sido corregida.
Con la implantación profunda de la IA generativa en todos los sectores, aunque la industria deposita sus esperanzas generalmente en que los expertos de alto nivel dentro de la "colaboración humano-máquina" revisen los resultados, la investigación señala que los usuarios humanos no solo les resulta difícil identificar de manera estable las alucinaciones de la IA, sino que su propio juicio es fácilmente inducido por la desinformación.
Anteriormente, en el caso del ataque aéreo de las fuerzas armadas de EE. UU. contra una escuela primaria de Irán que causó numerosas víctimas, una investigación interna del Departamento de Defensa reveló que una de las causas fue la excesiva confianza en el sistema de IA de Palantir, basado en datos obsoletos. Esta serie de riesgos evidencia que, ante la actual falta de un mecanismo infalible de corrección de errores, la confianza y el despliegue a ciegas de sistemas de IA están causando efectos profundos y potencialmente catastróficos sobre la verdad y la seguridad social.