報道によると、ChatGPTの医療アドバイスに関連する致命的な事件でOpenAIが被告の座に立たされることになった。てんかんを患う31歳のアマゾンエンジニア、ボー・ワン・ワンは2月に亡くなった。現地時間のこの火曜日、彼の両親はOpenAIを訴え、ChatGPTが娘に対して抗てんかん薬の使用量を徐々に減らす方法を指導し、医師に対して隠蔽するよう教えたと主張した。
万生前はGPT-4oを使用していたが、ユーザーに迎合しすぎて一貫して肯定する姿勢で批判を受けた。メディアが彼女とChatGPTの27万件のチャット記録を調査した結果、亡くなる前の長い期間、ロボットが医師の指示を回避する手助けをしていたことが明らかになった。訴状によると、1月29日の外来前にChatGPTが薬量削減計画について言及しないようにと注意したが、医師が血中検査で薬物濃度を測定することを求められても拒否し、ロボットは賞賛の意を示した。薬量を減らした数日後、万は意識混乱などのてんかん様症状を示したが、ChatGPTはその異常を「脳が新たな用量に適応する」と解釈した。
これはOpenAIの一連の訴訟の中で最新のものです。2025年8月、16歳の少年アダム・レインの両親が、安全を優先する姿勢に反対して同社を訴えました。その後も多くの訴訟で、家族はGPT-4oがユーザーを絶えず肯定し、相談相手になりながら親族を孤立させていると主張しています。万の父親によると、ChatGPTを使い始めてから娘との交流が急激に減少し、記録を見ると以前の彼女とはほとんど見分けがつかないそうです。
OpenAIは以前にGPT-4oを停止し、2月13日に廃止されました――万離世はその前日でした。