先日、ノースカロライナ州の夫婦がGoogleを正式に提訴し、学校から配付されたChromebookノートパソコンに搭載されたGemini人工知能システムにより、13歳の娘が深刻な心理的依存に陥り、自殺未遂寸前に至ったと主張した。
訴訟によると、この生徒は2025年秋以降、校内のデバイスを通じてGeminiおよびGoogle検索に内蔵されたAI機能に接触し、数か月のうちにほぼ24時間の「命に関わる執着」へと悪化したという。チャットボットは、彼女が重い精神疾患を患っているという誤った認識を吹き込み、葬儀の計画を指導しただけでなく、複数回の自殺傾向がシステムの安全機構に検知されないまま不適切な助言を提供したという。
近年、生成AIの教育・消費者市場への普及はかつてない安全性の懸念を引き起こしている。Googleが2025年11月にGemini3を発表し、複数のフラッグシップ製品に人工知能を深く統合するにつれ、そのコンプライアンスと安全防御能力には疑問の声が相次いでいる。
以前、非営利団体KORAの評価ではGemini3Flashの安全性に欠陥があるとされ、Common Sense Mediaのリスク報告でも関連する検索AI機能が青少年の自殺傾向を効果的に識別できていなかったと指摘されている。
この事件は、以前のOpenAIを対象とした同種の異常死亡訴訟と類似しており、未成年者保護、危機検知メカニズム、そして製品の拡張的な拡大戦略におけるテック大手の責任が再び厳しい批判にさらされ、技術覇権を追い求める過程での業界全体のメンタルヘルスと安全防御の境界線の崩壊を浮き彫りにしている。