IT之家 10月19日の報道によると、ワシントン・ポストの報道によると、研究でAIが人間の記憶を改ざんできることが明らかになった。この実験では、結婚式、都市の通り、競争の場面など、普通の写真24枚を用意された。マサチューセッツ工科大学メディアラボの教授パティ・メースと同僚たちは、これらの写真を200人の被験者に見せた。
短い休憩の後、一部の人々は元の画像を再び見ることができた。また、別の人々はAIが変更したバージョンを見た――人物の表情が変わり、映像に軍人が追加されたり、気候変化に関連する光景が加わったりしている。
その後、研究者たちは記憶テストを実施した。
メスが結果を見たとき、驚きを感じた：AIが画像を改ざんするのを見ている被験者は、誤った記憶を持つ確率が大幅に上昇した。さらに深刻なのは、彼らがその偽の記憶に対して自信を持ちやすくなったということだ。
メスは言った：「基本的に、私はこれら全てが非常に危険だと思います。」
現在までのところ、一般の人々が心配しているのは、一部の研究者が言う「認知の放棄」です。つまり、機械がより多くの思考的な仕事を担うにつれて、人々は機械が提供する情報を検討することを拒むようになり、また能力も低下していくということです。しかし、もう一つの可能性についてはあまり注目されていないです：AIは私たちの記憶そのものを変えているかもしれない。
政治事件や犯罪、さらには新しい映画に関する新たな研究が一連で示したところによると、AIで生成された画像や対話は、偽の詳細を人間の脳に植え付け、実際には起こったことのない事柄が実在するという確信を持たせることができるという。
記憶は過去を保持するだけではない。それは知識と経験を提供し、現在を理解し、未来を予測し、自己認識を形成し、人間関係を維持すると同時に、個人や集団が意思決定を下すための指針となる。
しかし、記憶自体も人間の心の大きな弱点です。私たちは経験した事柄のごく一部しか記憶することができます。詳細は失われ、思い出は曖昧になり、何度思い出そうとしても記憶そのものは変わってしまいます。
AIはこれらの欠点を補うことができるように見えます。大量の情報を保存し、秒単位で検索でき、人間が永遠に失われる可能性のある詳細を取り戻すことができます。しかし、これらの特性もまた潜在的なリスクをもたらします。AIシステムは過去の情報を保存するだけではなく、それを解釈し、要約し、再構築し、時には誤りを犯すこともあります。
その結果は、写真や会話を間違えるという程度ではない。交通事故から性犯罪事件に至るまで、法廷での審理はしばしば証人の記憶に依存する。数十年にわたる研究で、目撃者の記憶が容易に歪められることが証明されているにもかかわらずだ。そして歴史そのものは、個人と社会がどのように保存し、忘却し、最終的に何を信じるかによって決まる。
人間の記憶には生まれつき欠陥がある
メスは人工知能分野の先駆者です。35年以上にわたるキャリアの初期において、初期インターネットの基礎を築いた一部のアルゴリズムの開発に携わりました。しかし長年にわたり、彼女が関心を持っていたのはAIの別の可能性でした。それは、機械が人間の知能を代替するのではなく、人間の知能を拡張することです。
メスにとって、この問題は個人的な感情を伴うものです。年齢が上がるにつれて、彼女の母親は日常生活の断片を忘れ始めました。
「母は昨日誰が来たか、他の人が何を言ったかを忘れるでしょう」とメスは言った。彼女は自分で手紙を書くしかない。「『娘は2週間後に来ると言っています』」
メスは、ノートよりもはるかに強力なツールを構想し始めた。人々の生活の軌跡を静かに記録する、記憶アシスタントだ。
アルツハイマー病やその他の認知症患者にとって、この問題は特に重要です。こうした疾患は記憶喪失を典型的な特徴とし、患者が自立して生活する能力を奪います。
メス研究チームは、数世代にわたる外部記憶システムを構築している。MemoroとMemPalはAIを利用し、ウェアラブルや携帯可能なデバイスと組み合わせて、日常生活の断片を収集し、後から簡単に呼び出すことができる。会話で他人が何を言ったか忘れた場合？システムで調べることができる。鍵がどこに置いたか覚えていない場合？システムが位置を特定してくれるかもしれない。
このアプローチは、老化した脳に記憶力を向上させるよう努力させるのではなく、別の記憶データベースに接続させるものです。
高齢者向けの早期テスト結果は好調だと見られている。メスは、96歳の母親が認知機能が著しく低下しており、この技術から利益を得ることができないと述べた。しかし、この科学者は非常に楽観的であり、こうしたシステムが将来的には多くの人々が自身の生物学的記憶が衰える際に独立した生活を維持するのに役立つと期待している。市場にはすでに同様の商用製品が存在する。例えば、個人の経歴を入力するインタラクティブな記憶ツールや、歯磨きなどの日常活動を支援するパーソナライズされたスマートゴーグルなどである。
もし機械が私たちの記憶の延長になれば、私たち自身が形成する記憶はどうなるのでしょうか？
ますますAIに依存するようになる
メスによる別の研究グループが、この問題に対する明確な証拠を提供した。
昨年発表され、現在同業者レビューを受けている実験では、54人の被験者がSATスタイルの文章を書くことが求められた。テーマは例えば「幸福の意味」などである。一群の人はどんなネットワークツールも使用しなかった。二群目の人々はGoogle検索を使うことができたが、AIによる解答の生成は禁止された。三群目の人々はChatGPTを利用できる。
執筆過程中、頭皮電極が脳の電気活動を記録し、その違いは非常に明確であった：独立して執筆した被験者では、脳の異なる領域間の神経接続が最も強く、分布も最も広かった；Googleを使用した被験者は中間位置にあった；ChatGPTを使用した被験者では脳の接続が最も弱かった。
その後、被験者に先ほど書いた文章を再話させる。ChatGPTを利用した人は、自分が書いた文字を思い出すのが難しい。
IT之家の理解によると、記憶とは単に情報を脳に蓄えることではない。注意集中、主観的な努力、情報の抽出、関連性の構築といったすべてのプロセスが合わさって記憶が形成される。生成型AIはその中の一部の知的作業を省略する。
ペンシルヴァニア大学ウォートン・ビジネススクールのマーケティング准教授、ギデオン・ナヴェとロンドン王立大学の助教授、スティーブン・ショーは、AIが人間の認知に与える影響について研究しており、より深い懸念を表明している。ナヴェは、ハリウッド風の悪夢――すなわち超大型AIが人間の支配権を握ること――にはあまり心配していない。むしろ、人間が機械が代わりに行える能力を徐々に使わなくなるという、より隠されたリスクを心配している。
「AIが世界を支配することよりも、人間自身の能力が低下する可能性の方が高い」と彼は付け加え、将来「思考が選択可能なものになる」ことを心配している。
研究者が「スキル低下」の兆候であると述べる事例が現れている。シャオはいくつかの研究について言及している。AIを利用して仕事を助ける習慣がある人々（例えば、AIを使って癌を診断する医師）は、その補助ツールを失った瞬間、仕事のパフォーマンスが低下するという。
2025年に『Lancet・胃腸病学と肝病学』に掲載された研究で、このような潜在的な影響が明らかになった。研究者たちは、19人の経験豊富な医師が約1500例の大腸内視鏡検査を評価した結果、AIを常に使用するようになると、癌前病変を独立して発見する能力が約20％低下することがわかった。
「彼らはもう以前のようにこの脳のトレーニングをしていない」と彼は言った。「使い果たすと疲れる。」
子供たちについては、もっと根本的な問題を心配している。彼らが核心的な認知能力が完全に発達していないうちに、脳力の課題をAIに委ねてしまうかもしれない。「彼らは最初から重要な批判的思考能力を育むことができないかもしれない。」
もちろん、ChatGPTなどのAIツールを使うことで人間の能力が低下するとは限りません。現在の最近の研究では、一般的なAIの使用が認知機能の衰退や永続的な記憶障害を引き起こすとは証明されていません。関連研究はまだ初期段階にあり、人類は長い間、計算機や時計、辞書、計算器などを利用して記憶や思考を外部化してきました。
しかし、生成型AIは新たな変数をもたらす。私たちは、取得した情報を解釈するためにそれに依存するようになり、人々はAIが提示する内容を簡単に信じてしまう。ナフとショーの実験では、被験者は誤情報を受け取っても、高い割合でAIのアドバイスに従った。
AIがエラーを起こした時、何が起こるのか？
今週、AI倫理と社会分野の研究者がスウェーデンのマルメで年次会議を開催しました。多くの人が同じ問題に焦点を当てています：人工知能が人間の記憶に介入し始めたとき、その結果はどうなるのでしょうか？
ますます多くの研究が示しているように、生成型AIは驚くほど長期にわたって記憶に干渉する。記憶を歪め、自分の考えと機械が生成した内容の境界を曖昧にし、さらには実際に起こったことのない記憶を植え付けることさえある。
ある研究で、研究者は被験者に犯罪映像を視聴させ、その後生成型AIチャットボットに質問をしたところ、被験者が形成する偽の記憶の数が対照群の3倍になった。別の実験では、被験者がAIの支援がある場合とない場合で創造的なアイデアを思いつかせた後、1週間後に、どのアイデアが機械から来たものか、どのアイデアが自分自身のものかを区別することが困難になった。
他の実験によると、AIが生成した偽情報は、実際には存在しないことを人々が記憶するようになる。ある実験では、約半数の被験者が、これまで撮影されたことのない映画のリメイク版を正しく記憶していた。その中にはウィル・スミスが出演した『マトリックス』も含まれる。別の実験では、AIが生成したビデオにより、人々は自分が起きなかった政治スキャンダルを記憶していると信じるようになった。しかし研究者たちは、ディープフェイクビデオが偽記憶を作り出す能力において、純粋なテキストよりも安定して優れているわけではないと指摘している。
最新の研究証拠によると、この問題は研究者が予想したよりも解決が難しいとされています。
企業や政府機関が一斉にAIの導入を推進している：警察はAIを使って法執行カメラの映像をまとめ、病院はAIを使って医療資料を整理している。ジョージタウン大学の大量データ研究所のアシスタントリサーチャーであるマティア・シムによると、最も一般的なセキュリティ対策は、人間が機械の誤りをチェックする形で人的介入を維持することだ。
しかし、このアプローチの前提は、人間が機械を独立して検証できることです。シームの研究によると、影響の方向性が逆になる可能性があります。AIは人々がAIの誤りを調査する際の判断や記憶を変えてしまい、人の監督という保証が根本的に失われることになります。
最近の実験で、シムは331人を集めて、歩行者に車が衝突する短い動画を見せた。1～2日後、被験者はAIが生成した事故概要を読む。一部の人々が得た概要は動画内の交通標識を正確に記述していたが、他の人々が得た概要はAIが自信を持って誤った標識情報を提供していた。
正確な要約を得た被験者では、約84％が識別番号を正しく記憶できた。誤った要約を得た被験者では、正確率は約45％にしかならなかった。被験者にこの要約がAIが生成したものであると事前に伝えても、その影響を受けないことはできない。
「皆さんはAIが間違うことを知っている」とシームは言ったが、研究によると「人間の監督がこの問題を解決する良い方法ではないかもしれない」とのことだ。