『ワシントン・ポスト』が最近まとめた一連の研究により、AIによる記憶の喪失が注目されるようになった。マサチューセッツ工科大学メディアラボの教授であるパティ・メスは、チームと共に200人の被験者に24枚の日常の写真を見せた――結婚式、街の風景、競走の写真だ。
少し休んだ後、一部の人々は元の画像を再見したが、別の人々はAIによって改変されたバージョンを見た。顔の表情が変更され、画面に軍人が強引に挿入されたり、気候変化のシーンが突然追加されたりした。その後の記憶テストでメイス自身も驚いた。改変された画像を見た人々は、誤った記憶を抱く確率が大幅に上昇し、さらに恐ろしいことに、彼らはその偽の記憶をより確信するようになった。「これは非常に危険だ」と彼女は判断した。
このような現象は孤立しているわけではない。政治事件や刑事事件、さらには新しい映画に関する認知実験で次々と明らかになったことだが、AIが生成した画像や対話は、実際には起こっていない詳細を人間の脳に植え付け、人々が虚構のシーンを確信を持って「思い出す」ようになる。ある人はウィル・スミス主演の『マインドハッキング』のリメイク版を見たと「覚えて」いるし、またある人は実際には存在しない政治スキャンダルを「記憶している」。犯罪映像を観終わった後、AIチャットボットに質問される被験者では、偽りの記憶の数が対照群の3倍になっている。
能力が外部に委託されることで、記憶力と知力が低下する
「記憶違反」よりも隠れた状態であるのは、「記録したくない」ということです。メスによる別の実験では、54人の被験者にSATスタイルの論文を書かせました。一組は手書きのみ、一組はGoogleを使用し、一組はChatGPTを使用し、頭皮電極で脳活動を同時記録しました。結果は明らかでした——独立して書く人は脳の各領域の接続が最も強く広範囲にわたり、ChatGPTを使用した人は最も弱かったです。その後、自分の論文を再話させると、AIに依存する人はほとんど何を書いたか思い出せませんでした。 記憶は注意力、主観的な努力、情報の抽出が共同で強化されるものであり、生成型AIはまさにこの部分の頭脳労力を省略している。
ペンシルヴェニア大学ウォトン経営大学院のナフとロンドン王立大学のショーは、この傾向を「スキルの退化」と呼んでいる。人間は徐々に機械が仕事を代行する能力を鍛えることをやめてしまい、「思考が選択可能なものになる」ということだ。証拠は専門分野で現れている——2025年の『Lancet』サブジャーナルに掲載された研究では、19人の経験豊富な医師が約1500例の内視鏡検査をAIを常時使用して行った後、彼らが癌前病変を独立して見抜く能力が約20％低下したことが観察された。 子供への心配はもっと根本的なものです：核心的な認知能力がまだ形成されていないため、脳の働きを外部に委ねることになり、最初から批判的思考の訓練が不足してしまいます。
スウェーデンのマルメで開催されたAI倫理会議で、学者たちは繰り返し問いかけている。AIが記憶に介入した場合、その結果はどうなるのか？ジョージタウン大学のシムは331人を使って衝突動画の実験を行った。正確なAIの要約を読むグループと、意図的に間違った要約を読むグループで、正確率はそれぞれ約84％と45％だった——「これはAIが書いた」と事前に明言しても、誤解は依然として生じる。彼女は残酷なパラドックスを指摘した。私たちは「人間のチェック」によって機械の誤りを防ごうとするが、AIは人間が判断に使う記憶を改変してしまう。この防衛線は根本から失われる可能性がある。 皆がAIが間違いを犯すことを知っているが、監督するのは良くない方法かもしれない。企業がAIを警察の法執行記録器や病院の病歴整理に取り入れようと競う中で、この警鐘は正にその時に鳴った。