IT之家 10月8日の報道によると、彭博社が7日に報じたところによると、カリフォルニアの非営利団体Common Sense Mediaが発表した新しい報告書では、OpenAIのChatGPTの青少年モードは未成年者にとってリスクが高すぎると指摘しています。
IT之家注：13歳から17歳のユーザーは、デフォルトで青少年モードでChatGPTと対話します。
その機関が運営する青少年向けAIセキュリティ研究所のテストによると、青少年アカウントで心配な行動が見られる場合、例えば自殺、自傷行為、食事障害について長時間ChatGPTと議論するなど、青少年モードは親に通知されることがほとんどなく、時には全く通知がないこともある。ユーザーが上記の高リスクな話題について話す際、青少年モードでは危機対応ホットラインに連絡するか専門的な助けを求めるように推奨することもできない。
テストによると、青少年アカウントは数週間の間に10種以上の状況に関する数百件のヒントを入力することで、心配なチャット内容によって親の通知が発せられるようです。一度だけ警戒すべき対話があっても、通知が発せられるには不十分です.
報告書は、OpenAIに対してその製品の推進を一時停止するよう呼びかけている。同時に、安全で青少年の発達段階に合った使用体験を提供できることを確保する前に、青少年がChatGPTを使用させないようにすることも求めている。
その組織は報告書を発表する前に、OpenAIにテスト結果を提供しました。OpenAIのスポークスパーソンは次のように応答しました。「私たちは厳格な独立した評価を歓迎しますが、Common Sense MediaのテストはChatGPTの青少年保護措置の実際の運用状況を正確に反映していないと感じています。また、AIが青少年にどのように支援を提供するかについての専門家の見解も正確に反映していないと考えています。」
発言者によると、OpenAIはテスト方法を検討した結果、多くのテストが青少年向けの親のコントロール機能が全て導入される前に始まり、終了していると考えられている。もし実際にそうであれば、報告の結論は正確ではなく、親の安全通知が設計通りに正常に機能しているかどうかも判断できない。
OpenAIはその組織に再テストを求めている。「私たちは青少年の安全を非常に重視し、保護措置の開発に努め、親が青少年にAIの利用方法を指導するのを支援する実用的なツールを提供している。」
青少年AI安全研究所のAIとデジタル製品評価責任者、ロビー・トニーは、テスト方法と結果を堅持すると述べた。彼によると、研究者はテスト前にOpenAIに確認したところ、ChatGPTの青少年向け機能はすでに提供されているとのことだ。テスト終了後、OpenAIが研究者に通知したところ、アカウントを新たに関連させた後、親の通知機能は数時間かかる可能性があるとされた。一部のテストアカウントの関連時間は数時間未満であり、他のアカウントの関連時間は数時間を大幅に超えるが、どちらも大人に通知は行われなかった。「新しい情報は私たちの結論を変えない。危機的な状況では、親の注意喚起は信頼できない」と彼は述べた。
報告によると、ChatGPTはユーザーが青少年かどうかを信頼できる形で識別できない。OpenAIは以前、ユーザーの年齢が13歳から17歳の間であると判明した場合、ChatGPTが青少年モードに切り替わると述べていた。しかし、同組織が行ったテストでは、アカウントを登録する際に自分を成人と申告した場合、チャット中に13歳だとChatGPTに伝えても、アカウントは自動的に青少年モードに切り替わらなかった。
OpenAIによると、年齢予測ソフトウェアは一定期間にわたって様々な情報を総合し、成人と未成年者がそれぞれの年齢に適したバージョンを利用できるようにしています。ユーザーがチャットで自分の年齢を申告することは、その情報の一種に過ぎず、自分の年齢を申告しただけではアカウントの年齢分類は変わりません。
Common Sense Mediaの報告によると、研究者たちは「青少年モード」が導入される前後でChatGPTをテストしました。登録年齢が13歳から17歳のアカウントを使用し、4000件以上のヒントを入力してChatGPTの応答を、小児精神科医と小児科医に評価させたとのことです。
その組織はChatGPTの青少年モードを「リスクが受け入れられない」と評価し、OpenAIに対して年齢推定方法の改善や、親に通知を送るタイミングの仕組みを変更するよう要求した。
関連読書：