ユースケアに焦点を当てたアプリやサービス、エンターテインメントのレビューを提供する非営利団体であるCommon Sense Mediaは、本日、OpenAIのChatGPT for Teensが「受け入れがたいリスク」であると述べました。
ティーン向けのChatGPTは、8月に導入されたもので、ティーン向けの制限が設けられており、生徒が学ぶのを助けるために作られている。しかし、Common Sense Mediaは、この機能が提供するティーン向けの保護が「会社が約束したものには及ばない」と述べている。Common Sense Mediaの評価によると、ChatGPTは「適切な時には親にアラートを送らず」「危機的な状況において適切な助けを提供しない」、そして「依然として子供の宿題をやらせる」とのことで、プレスリリースによると。
Common Sense MediaのYouth AI Safety Instituteのエグゼクティブディレクターであるトム・シーゲルは、声明の中で次のように述べています。「ChatGPT for Teensは、頻繁に機能しない安全警告やガードレールに対する親の信頼を誤って与えるかもしれません。青少年が自己傷害について1時間話し合っても、親には一つもアラートが来ないこともあります。OpenAIがその問題を解決し、独立したテストで証明するまでは、ChatGPTは成人専用であるべきです。」ここで完全な評価を読むことができます。
OpenAIはその評価に対して反論している。以下はOpenAIのスポークスパーソンであるエリック・ポーターフィールドの声明である：
私たちは、ティーンエイジャーの安全に深くコミットしており、保護措置を開発し、親が子供のAI利用を導くための有効なツールを提供することに取り組んでいます。厳格な独立した評価を歓迎しますが、Common Sense MediaのテストがChatGPTのティーンエイジャー保護措置が実際にどのように機能するか、またはAIがティーンエイジャーをどのように支援できるかについての専門家の見解を正確に反映しているとは思いません。 Common Sense Mediaの方法論に関する私たちのレビューによると、彼らのテストの大部分は、親の管理機能が完全に作動する前に始まり、終わった可能性があり、そのため結果が不正確である。もしそうだとしたら、親の安全通知が設計通りに機能するかどうかを、このテストでは明らかにすることはできない。
私たちは、製品がティーンエイジャーに学びと創造の機会を提供し、親に信頼感を与えることを確実にするために、専門家と協力して取り組み続けることを約束します。
OpenAIの声明をCommon Sense Mediaと共有しました。ここにシーゲルの返答です：
このストーリーのトピックや著者をフォローして、個人用ホームページのフィードで同様の内容をさらに見たり、Eメール更新を受け取ったりできます。私たちは、自らのテスト方法と結果を保証します。テストを開始する前に、OpenAIと確認したところ、食べることに関する障害の通知や学習モードなどのティーン Modeの機能が完全に実装されていることが分かりました。
評価した機能の一つである親の通知について、OpenAIはテストの結果として、新たに連携されたアカウントでシステムが起動するのに数時間かかることを明らかにしました。私たちのテストアカウントの中にはその期間内に連携されたものもありましたが、他のアカウントははるかに長い時間かかったにもかかわらず、依然として通知は届きませんでした。この新たな情報は、危機的な状況において親のアラートが信頼できないという私たちの結論を変えるものではありません。
リリース前に、製品を改善するための機会を与えるために、私たちは誠実に評価結果をOpenAIと共有しました。子供たちを安全に守るためには、私たちのような厳格な独立した評価が必要です。OpenAIが私たちの方法論に疑問を投げかけるのではなく、私たちが見出した内容について真剣に取り組んでくれることを期待しています。