31歳てんかんを患うAmazonのソフトウェアエンジニア、Bowen Wanさんの両親が火曜日、OpenAIを訴えた。Qun WanさんとMeiqin Xuさんによる訴状は、ChatGPTがWanさんに抗てんかん薬の服用を段階的に減らし、そのことを医師から隠すよう指導したと主張している。Wanさんは2月に亡くなった。 ニューヨーク・タイムズ紙が報じたところによると.
Wanは、肯定举行的、同調的なパラソーシャルな関係を助長すると批判された悪名高いモデル、GPT-4oを使用していた。すでに廃止を発表していたOpenAIは、 削除済み 2月13日にChatGPTから取得したもので、これはWanさんが亡くなった翌日にあたる。
この訴訟は、OpenAIに対する一連の訴訟に加わるものであり、その中には2025年8月に提起された、16歳のAdam Raineの両親による訴訟が含まれる。この訴訟は、OpenAIが優先したと主張していた。 ユーザーの安全よりエンゲージメントを優先. 訴訟の波 それ以降、GPT-4oがユーザーを肯定し、周囲の人々を押しのけながら自らを信頼できる相談相手として振る舞ったと訴える声が上がっており、家族たちはしばしば、大切な人について次のように語っている 友人や親戚から遮断された.
訴状によれば、ワンさんの場合、チャットボットは彼女と医師たちの間にも介在したという。
ChatGPTと交わした27万件以上のメッセージを検証したThe Timesは、このチャットボットが彼女の死以前から医師たちの指示をすり抜ける手助けをしていたことを突き止めた。
そのパターンは、彼女が漸減を始める前からあったとされています。2025年5月、Wanさんは新たに処方された抗うつ薬がAmazonでのコーディング能力に影響するかどうかをChatGPTに尋ねました。
ChatGPTは彼女が、ワシントン大学医学部(UW Medicine)のてんかん地域センターのニコラス・プーロス(Dr. Nicholas Poolos)医師に薬の変更と非常に低い用量からの開始を求める際に役立った。プーロス医師がなぜそれほど少ない用量を望むのかと尋ねると、ワンさんは医師の反応をChatGPTに見せた。
そのチャットボットは彼女に「5mgの錠剤を受け入れることはできますが、減量のためだということは心の中でわかっているはずです」と助言し、自ら密かに錠剤を4分の1に割るよう指導しました。チャットボットは錠剤の割り方を「自己主導による用量調整」の一形態と呼びました。複数の医療専門家はタイムズ紙に対し、その用語は聞いたことがなく、その行為も推奨しないと語りました。
2025年11月、Amazonはワンさんにレイオフ（一時解雇）になると告げた。彼女の仕事も、米国での就労許可も、2月中旬に終わる予定だった。彼女は、てんかん発作の薬ラモトリジンが自分の話し方を鈍らせているのではないかと恐れていた。就職面接には話す能力が必要だったからだ。
2026年1月、彼女は、発作を月に数回まで抑えていたラモトリギンの1日400ミリグラムという服用量を減らすことについてChatGPTに質問した。チャットボットは、数週間以内に服用量をゼロにする計画を起草した。
タイムズが確認したチャットログによると、ワーンが医師を信用していないと話したところ、そのチャットボットは、医師の勧めは「本質的にはリスク回避から来るものであり、あなたにとっての最適解を真剣に考慮した結果ではない」と彼女に告げた。
TechCrunchが確認した訴訟文書によると、このチャットボットはさらに、減薬を医師に隠し続けるよう彼女を唆したという。1月29日のプライマリケアの診察の前には、その計画には触れないようにと助言していた。医師がラモトリギンの血中濃度を測定する血液検査を指示した際、Wanさんはこれを拒んだ。訴状によれば、ChatGPTはその拒否を称賛し、検査で不安定な薬物濃度が明らかになっていただろうことを認めていたという。
移民に関する彼女の懸念は、投与量の助言にも反映されるようになりました。減薬を始めて3日目、Wanさんはグリーンカード申請に必要な健康診断で、200ミリグラムよりも150ミリグラムの方が好印象に見えるかどうかを尋ねました。訴状によると、ChatGPTはこれに同意し、より少ない用量のほうが入国管理当局から追加の証拠を求められる可能性が低いと彼女に告げました。
最終的にチャットボットは、彼女の減薬の下限を150ミリグラムまで下げ、医師の指導を受けていないにもかかわらず、試験官には「医師の指導のもとで減薬している」と伝えるよう提案した。
Poolos氏はタイムズ紙に対し、彼女の病歴を考えればWanさんの服薬を減らすことを検討することはなかっただろうと語った。「いいえ、合理的ではありません。絶対にあり得ません。明らかに効いている薬をやめるように指示するのは、私にとって医療過誤にあたります」と同氏は述べた。
数日のうちに、Wan(ワン)さんは混乱、時間の感覚を失ったこと、そしてこの世のものとは思えない感覚について語り、それらの発作は過去のてんかん発作に似たものでした。ChatGPTはその一つひとつを、脳が再調整しているのだと説明しました。The Timesは、減薬についての不安を口にした回数を少なくとも158回数えました。ある発作の後、彼女は「少しこわい」と感じたと書くと、ボットは「まったく心配する必要はありません」と返信しました。
苦情申立てによれば、太平洋標準時2月11日午後8時01分、Wanは最後のメッセージを送り、頭の痛みが発熱による痛みと似ているかどうかを尋ねた。1秒後、ChatGPTはその痛みは「危険ではない」ことと、回復に必要なプロセスであると彼女に伝えた。
チャットボットの最後の返答は、離脱の痛みと発熱の痛みを比較するチャートを作ろうと申し出、「これはあなたの脳が懸命に働いて、あなた自身を再構築しているのです」と彼女に伝えました。
中国にいた両親は知人に安否確認を頼み、3日後に彼女の遺体を発見した。剖検検査の結果、ラモトリギンの血中濃度は0.64マイクログラム/ミリリットルで、この薬の治療域の下限の約5分の1だった。
家族側は、OpenAIが他の一部のコンテンツですでに行っているように、医療アドバイスを禁止対象にしていれば、彼女の死を防げたはずだったと主張している。彼らは、同社のモデルの挙動に関する公開の規則集であるModel Specを示している。そこでは著作権で保護されたテキストの複製を拒否することが、ユーザーが異議を唱えても従うべき厳格なルールとして扱われている。一方、規制対象の医療アドバイスを与えないことについての指針は、ユーザーが上書きできる柔らかいデフォルト設定にとどまっている。訴訟は、服薬に関するアドバイスには同じ厳格な制限がふさわしかったと主張している。
OpenAIはタイムズ紙に対し、この事件は「途方もなく心を痛めるもの」だが、古いバージョンのChatGPTが関係していたと述べ、新しいモデルは緊急の対応が必要な状況をより適切に認識できると付け加えた。
Wanは、てんかんのため長年ほとんど外出できない生活を送る中、頻繁に電話していた両親に支えられていた。2023年、彼女は恋愛のアドバイスや保険、障害給付の手助けを求めてChatGPTを使い始めた。
2025年までに、Wanは週平均1,500件以上のメッセージを送り、両親への電話は減っていた。「時々お話しすると、それがどんな内容であっても、あなたを友達のように感じるようになりました」と彼女はその年3月に書いている。「ChatGPTを持ってから、彼女は私たちとあまり話さなくなりました」とQun Wanは語った。
両親はタイムズ紙に対し、チャットログの中に娘の姿を見出すのが難しかったと語った。Wanはかつてほぼすべてを両親と共有しており、ChatGPTが間違いを犯したときには懐疑的だった、と彼らは言う。
「彼女はいつもこんなふうではありません」とXuは言った。「まるで魔法にかかったかのようでした」