近日，据Gizmodo报道，麻省理工学院科学家帕蒂·梅斯（Pattie Maes）团队的研究表明，人工智能生成的内容与深度伪造技术正在成功扭曲人类记忆，甚至在参与者大脑中植入完全捏造的虚假记忆。
实验显示，接触过AI修改照片的测试对象不仅极易记错原图，且对错误记忆表现出极高的自信。此类现象在政治丑闻等场景中尤为明显，不仅会降低公众的投票意愿，还会在信息更正后持续影响政治决策。
随着生成式AI在各行各业的深度部署，虽然业界普遍寄希望于“人机协作”中的高级专家来审核输出结果，但研究指出，人类用户不仅难以稳定识别AI幻觉，且自身判断极易受到错误信息的诱导。
此前，美军对伊朗一所小学发动空袭造成重大伤亡的事件中，国防部内部调查便显示其部分原因在于过度依赖过时数据驱动的帕兰提尔（Palantir）AI系统。这一系列隐患凸显出，在当前缺乏万无一失的纠错机制下，盲目信任与部署AI系统正对社会真相与安全造成深远且潜在灾难性的影响。