カリフォルニア州の非営利団体Common Sense Mediaはこのほど、OpenAIのChatGPTティーンモードが未成年者にとって過度なリスクを含むと指摘する報告書を発表した。テストでは、ティーンのアカウントが自殺、自傷、摂食障害などの高リスクな話題を長時間話し合う際、システムはしばしば保護者への警告を適時に送信できず、危機介入ホットラインなどの支援情報も安定的に提供できなかった。
テスト担当者が発見したところでは、ティーンのアカウントが保護者への通知を作動させるには、数週間にわたり多様な状況で数百件のプロンプトを入力する必要があり、警告を引き起こす一度の不穏な会話ではまったく不十分だった。さらに、システムは未成年者の身元を確実に識別できず、チャット内で自ら年齢を申告してもモードが自動的に切り替わらないため、同団体はOpenAIにこの製品の展開を一時停止するよう呼びかけた。
公式はテストの限界に反応、研究機関は当初の判断を堅持
批判に対し、OpenAIの広報担当者は、このテストはシステムの実際の動作ロジックを正確に反映していないと回答した。公式はテスト方法を検証した結果、ほとんどのテストはティーン向けのペアレンタルコントロール機能がすべて公開される前に終了していた可能性が高いとし、年齢予測ソフトウェアは複数のシグナルを総合する必要があり、自己申告の年齢だけではアカウントの分類は変わらないと述べた。
しかし研究者たちはこの回答に反論し、テスト前に公式に当該機能がすべて公開済みであることを確認していたと強調した。研究チームは、アカウント連携後の遅延した発効時間を考慮しても、システムは危機的な状況において依然として確実に警告を発できなかったと指摘し、ChatGPTティーンモードの安全性は現時点で基準に達していないとする当初の見解を堅持した。