北京時間10月8日、OpenAIは水曜日に初の青少年利用状況報告を発表した。その報告によると、青少年ユーザーが平均してChatGPTを使用する時間は15分未満であり、3時間以上連続で使用するユーザーの割合は2％に満たないという。同時に、第三者機関のテストにより、彼らの親の安全警告メカニズムに疑問が投げかけられている。
AIプラットフォームが急速に普及するにつれて、チャットボットが青少年の心理健康や成長の安全に与える影響がますます注目されるようになっています。OpenAIによると、休憩のリマインダーが表示された青少年の対話の中で、ほぼ半数のユーザーが5分以内に使用を一時停止したり、チャットを終了したりしています。このことから、青少年に対して製品を適切に利用するよう導く措置が効果を持っていると同社は説明しています。
OpenAIはまた、青少年向けバージョンを利用するユーザーが、教育に関連するメッセージをより多く送信し、学習可視化ツールや「学習モード」を使用していると述べています。同社は、大学申請計画ツールを追加することで、学生が申請要件や締切日、奨学金申請の手順を整理するのを支援し、学習カードやより便利なテスト作成ツールなどの機能も提供する予定です。
OpenAIは今年の8月からChatGPTの青少年モードを開始しました。このモードは、ユーザが提供する年齢情報に基づいて、またはシステムがユーザが18歳未満である可能性があると判断した場合に自動的に起動されます。親のコントロールをサポートし、敏感な話題に関する対話を制限します。
しかし、非営利団体のCommon Sense Mediaが水曜日に発表した報告によると、青少年アカウントが自殺、自傷行為、摂食障害に関する会話を行う際、ChatGPTの青少年モードは親に通知を遅らせることさえあり、通知が全く届かないことがあるという。
この研究は、10以上の専用で作成されたテストアカウントに基づいて行われました。また、チャットボットがユーザーに対して危機介入ホットラインに連絡するか専門的な助けを求めるという提案を安定して行えなかったことも明らかになりました。
OpenAIのスポークスマンは、これらのテストがChatGPTの青少年セーフティ機能の動作を「正確に反映していない」と述べました。同社によると、セキュリティと大規模なサービス運用上の理由から、親と青少年アカウントの連携や関連するセキュリティ通知機能が有効になるには数時間かかる可能性があるとのことです。
「彼らのほとんどのテストは、親のコントロール機能が有効になる前にすでに開始され、終了している可能性があります」と報道官は述べた。
Common Sense Mediaによると、一部のテストアカウントは関連時間が十分に長いが、他のアカウントは関連時間が不足しており、すべてのテストアカウントはタイムリーな通知を受け取っていないという。同機関は、数週間にわたり敏感なトピックに関する対話記録を蓄積したアカウントのみが通知を受けたと述べている。