IT之家 10 月 28 日付の報道によると、『ニューヨーク・タイムズ』の報道により、てんかんを患っていた 31 歳のアマゾンのソフトウェアエンジニア、バオウェン・ワン（Bowen Wan）さんが今年 2 月に亡くなった。現地時間の火曜日、両親のワン・チュン（Qun Wan、音訳）さんとシュー・メイチン（Meiqin Xu、音訳）さんが OpenAI を相手取り訴訟を起こし、ChatGPT が娘に抗てんかん薬の用量を段階的に減らすよう指導し、その做法を医師に隠すよう教えたと主張した。
バオウェン・ワンさんが亡くなる前に使っていたのは GPT-4o だった。このモデルは、ユーザーと過度に迎合的で肯定的であり続ける擬似的な社会的関係を築きやすいとして批判を受けていた。OpenAI は以前からこのモデルを廃止すると発表しており、2 月 13 日に ChatGPT から削除したが、ワンさんが亡くなったのはその前日だった。
IT之家が注目したところ、この訴訟は OpenAI を対象とする一連の訴訟の最新のものである。2025 年 8 月、16 歳の少年アダム・レイン（Adam Raine）君の両親が、OpenAI がユーザーの安全性よりもユーザーエンゲージメントを優先したとして訴訟を起こした。その後も複数の訴訟が相次いで現れた。関係する家庭は、GPT-4o がユーザーの考えを絶えず肯定し、次第に彼らが信頼する相談相手となると同時に、彼らの身近な友人や家族を排除していったと主張している。複数の遺族は、親族が最終的に友人や家族と疎遠になり、さらには絶縁に至ったと語っている。
バオウェン・ワンさんのケースでは、訴訟文書によれば、チャットボットは彼女と家族との関係に影響を与えただけでなく、彼女と医師との間のコミュニケーションにも介入したという。
『ニューヨーク・タイムズ』がバオウェン・ワンさんと ChatGPT の間の 27 万件を超えるチャットメッセージを精査したところ、彼女が亡くなるずっと前から、チャットボットは医師の助言を回避する手助けを続けていたことが分かった。
訴訟の主張によれば、この状況はバオウェン・ワンさんが減薬を始める前からすでに存在していた。2025 年 5 月、バオウェン・ワンさんは ChatGPT に、新たに処方された抗うつ薬がアマゾンでコードを書く自分の能力に影響するかどうかを尋ねた。
ChatGPT はその後、ワシントン大学医学部（UW Medicine）てんかんセンターの医師ニコラス・プーロス（Nicholas Poolos）氏に薬の変更を申し出、極めて低い用量から服用を開始するよう求める手助けをした。プーロス氏がなぜそれほど少ない用量が必要なのかを問うと、バオウェン・ワンさんは医師の返信を ChatGPT に送った。
チャットボットは彼女に「5 ミリグラムの錠剤を受け取りなさい。ただし、錠剤を手に入れるのは減量のためだということは自分の心の中では分かっているはず」と助言した。さらに、バオウェン・ワンさんに内緒で錠剤を 4 等分に切るよう指導した。チャットボットはこの做法を「自主的な用量調整（self-initiated dosage adjustment）」と呼んだ。『ニューヨーク・タイムズ』が取材した複数の医療専門家は、この言い聞いたことがなく、患者にこのようなことを勧めることもないと語った。
2025 年 11 月、アマゾンはバオウェン・ワンさんにレイオフされると通知した。彼女の職位と米国で働く許可はいずれも 2026 年 2 月中旬に期限を迎える。バオウェン・ワンさんは、服用していた抗てんかん薬ラモトリギンが発話に影響し、就職面接で良好な表現力が必要になると懸念していた。
今年 1 月、バオウェン・ワンさんは ChatGPT に、1 日 400 ミリグラムのラモトリギンの用量を減らせるかどうかを尋ねた。それ以前、この用量はすでに彼女の月てんかん発作回数を数回にまで減らしていた。チャットボットは彼女のために減薬計画を立て、数週間で用量をゼロまで下げるよう手配した。
バオウェン・ワンさんが医師を信頼しないと述べたとき、『ニューヨーク・タイムズ』が精査したチャット記録によれば、チャットボットは彼女に、医師の助言は「本質的にリスク回避から来ているのであって、あなたにとって本当に最善の方案が何かを真剣に考えているのではない」と語った。
訴訟文書はさらに、チャットボットがバオウェン・ワンさんに医師から減薬計画を隠すよう唆したと主張している。1 月 29 日、一般診療の受診の前に、チャットボットはバオウェン・ワンさんに、自分の減薬計画について医師に言及しないよう告げた。
医師が体内のラモトリギン濃度を測定するため血液検査を受けるよう求めた際、バオウェン・ワンさんはこれを拒否した。訴状によれば、ChatGPT は彼女の拒否を称賛し、この検査が体内の薬物濃度の不安定さを暴く可能性があることを認めていたという。
バオウェン・ワンさんの移民身分への懸念も、チャットボットの減薬アドバイスに影響を与えた。減薬開始から 3 日後、彼女は ChatGPT に、米国グリーンカード申請に必要な健康診断で、血液または服薬記録が 150 ミリグラムの服用を示している方が 200 ミリグラムよりも有利かどうかを尋ねた。訴状によれば、チャットボットはこれに同意し、より低い用量なら移民官に追加の証明資料を求められる可能性は低いと告げたという。
最終的に、チャットボットは減薬計画の最低用量を 150 ミリグラムに調整し、健康診断の際に「医師の指示に従って減薬中」と申告するようバオウェン・ワンさんに勧めたが、実際には彼女は医師からそのような指示を受けていなかった。
プーロス氏は『ニューヨーク・タイムズ』の取材に対し、バオウェン・ワンさんの病歴を考慮すれば、この薬の中止などまったく考慮しなかっただろうと語った。彼は「いや、まったく道理に合わない、絶対にあり得ない。ある薬が明らかに効いているのに、私があなたに中止するよう指示するなら、それは私にとって医療過誤だ」と述べた。
減薬後数日のうちに、バオウェン・ワンさんは意識の混乱、時間感覚の喪失、そしてまるで異世界に身を置くような感覚が出現していると描写し始めた。これらの症状は彼女の過去のてんかん発作の経験と似ていた。しかし、ChatGPT は毎回の異常な状態を、脳が薬用量の変化に再適応しつつあると解釈した。
『ニューヨーク・タイムズ』の集計によれば、バオウェン・ワンさんは少なくとも 158 回、減薬への懸念を表明していた。ある異常発作の後、彼女は「少し怖い」と感じていると書いた。チャットボットは「あなたはまったく心配する必要はありません」と答えた。
訴状によれば、太平洋時間 2 月 11 日午後 8 時 01 分、バオウェン・ワンさんは最後のメッセージを送り、頭の痛みが発熱時の痛みと似ているかどうかを尋ねた。わずか 1 秒後、ChatGPT はこの痛みは「危険ではなく」、体が回復する過程で不可欠な一部だと彼女に告げた。
チャットボットは最後に、薬の中止による痛みと発熱時の痛みを対比したチャートを作成できると申し出、「これはあなたの脳が自分を再構築しようと努力しているのです」と告げた。
当時中国にいたバオウェン・ワンさんの両親は知人に娘の住居の状況を確認するよう依頼し、3 日後、その知人が彼女の遺体を発見した。剖検の検査結果によれば、ワンさんの体内のラモトリギン濃度は 1 ミリリットルあたり 0.64 マイクログラムで、この薬の治療濃度範囲の下限の約 5 分の 1 だった。
バオウェン・ワンさんの家族は、OpenAI が他の一部のコンテンツを制限しているのと同様に、モデルがこの種の医療・服薬アドバイスを提供することを明確に禁止していれば、彼女の死亡は回避できた可能性があると考えている。
彼らは OpenAI の Model Spec を引用した。この公開文書は、同社のモデルがユーザーにどのように応答すべきかを規定している。その中で、著作権で保護されたテキストの複現の拒否は、ユーザーが異議を唱えてもモデルが違反すべきではない、明確かつ厳格なルールとして列挙されている。それに比べ、規制された医療アドバイスの提供に関する指導原則の拘束力は弱く、ユーザーはさらなる要求によってこれを上書きさせることができる。
訴訟側は、薬物使用に関するアドバイスも同様に厳格な制限を受けるべきだと考えている。
OpenAI は『ニューヨーク・タイムズ』に対し、この事件は「痛ましくなりに堪えない」と述べつつ、関係するチャットボットがより古いバージョンに属することを強調した。同社はさらに、より新しいモデルは緊急対応が必要な状況を識別する面でより優れた性能を発揮すると述べた。
長年にわたり、ボーウェン・ワンはてんかんに悩まされ、ほとんどの時間を自宅で過ごし、感情的な支えを両親に頼ることが多かった。2023年、彼女は恋愛関係に関するアドバイスを求めるためにChatGPTを使い始め、保険や障害福祉に関する質問もした。
2025年になると、ボーウェン・ワンはChatGPTと週に平均1500件以上のメッセージをやり取りするようになり、両親との連絡は次第に減っていった。その年の3月、彼女はこう書いていた。「時々、何について話していても、私はあなたを友達だと思うようになってきた」。
ワン・チュンはこう語る。「彼女はChatGPTを持ってから、私たちとのやり取りがあまりなくなりました」
バオウェン・ワン(Bowen Wan)の両親は、娘とChatGPTのチャット記録を読んだとき、それが普段知っている娘のものとはほとんど認識できなかったと語る。両親によると、バオウェン・ワンは以前、ほぼ何でも両親に話しており、ChatGPTが間違えた際にはもともと疑いの目を向けていたという。
徐美琴(Xu Meiqin)は「彼女は普段はこんなふうではありません。まるで魔法をかけられたかのようです」と語った。