في 8 أكتوبر بتوقيت بكين، نشر OpenAI تقريرًا لأول مرة عن استخدام الشباب يوم الأربعاء، حيث أفاد التقرير بأن مستخدمي الشباب يستخدمون ChatGPT في المتوسط أقل من 15 دقيقة يوميًا، وأن نسبة المستخدمين الذين يستخدمونه لأكثر من 3 ساعات لا تتجاوز 2%. في الوقت نفسه، شككت اختبارات مؤسسات ثالثية في آلية تذكيرات الأمان الخاصة بأطفالهم.
مع انتشار منصات الذكاء الاصطناعي بسرعة، أصبح تأثير روبوتات الدردشة على الصحة النفسية والأمان في نمو الشباب محل اهتمام متزايد. وقالت شركة OpenAI إن ما يقرب من نصف المستخدمين في محادثات الشباب التي تُعرض فيها تنبيهات الراحة، توقفوا عن الاستخدام أو أنهوا الدردشة خلال 5 دقائق. وتوضح هذه النتيجة أن تدابير الشركة لتوجيه الشباب لاستخدام المنتجات بشكل معتدل بدأت تؤتي ثمارها.
قالت شركة OpenAI أيضًا إن المستخدمين الذين يستخدمون النسخة المخصصة للمراهقين أرسلوا المزيد من الرسائل المتعلقة بالتعليم، واستخدموا أدوات توضيح التعلم و"وضع التعلم". تخطط الشركة لإضافة أدوات تخطيط طلبات الجامعات، لمساعدة الطلاب على تنظيم متطلبات التقديم والتواريخ النهائية وخطوات التقديم للمنح الدراسية، بالإضافة إلى إطلاق بطاقات تعلم وأدوات أكثر سهولة لإعداد الاختبارات.
بدأت شركة OpenAI في أغسطس هذا العام بتقديم نموذج ChatGPT للأطفال. يُفتح هذا النموذج تلقائيًا بناءً على معلومات العمر التي يقدمها المستخدم، أو عندما يعتبر النظام أن المستخدم لا يزال دون 18 عامًا، ويدعم نظام التحكم من قبل الوالدين، ويحد من المحادثات المتعلقة بالمواضيع الحساسة.
لكن، أعلنت منظمة Common Sense Media غير الربحية يوم الأربعاء عن تقرير يفيد بأن نموذج ChatGPT للمراهقين غالبًا ما يتأخر في إرسال الإشعارات إلى الآباء عند حدوث محادثات تتعلق بالانتحار أو الإيذاء الذاتي أو اضطرابات الأكل، وحتى لا يُرسل أي إشعار على الإطلاق.
استندت هذه الدراسة على أكثر من عشرة حسابات اختبار مُنشأة خصيصًا. كما اكتشفت الدراسة أن روبوتات الدردشة لم تستطع تقديم توصيات مستقرة للمستخدمين بشأن الاتصال بخط المساعدة في الأزمات أو البحث عن مساعدة مهنية.
قال متحدث باسم OpenAI ردًا: أن هذه الاختبارات “لم تعكس بشكل دقيق” طريقة عمل آلية الحماية الأمنية للمراهقين في ChatGPT. وذكرت الشركة أنه لأسباب تتعلق بالأمان وتشغيل الخدمة على نطاق واسع، قد يستغرق ربط حسابات الآباء بالمراهقين وبدء وظيفة التنبيهات الأمنية لعدة ساعات.
"قد بدأت وتوقفت معظم اختباراتهم قبل أن يتم تفعيل وظيفة التحكم بالأطفال." قال المتحدث.
تقول منظمة Common Sense Media إن بعض حسابات الاختبار حافظت على الارتباط لفترة طويلة، بينما كانت فترة الارتباط لبعض الحسابات أقصر، لكن جميع حسابات الاختبار لم تتلق أي تنبيهات في الوقت المناسب. وتعرب المنظمة عن أن فقط تلك الحسابات التي تراكمت فيها سجلات محادثات حول مواضيع حساسة على مدى عدة أسابيع، قد تلقت الإشعارات.