أصدرت المنظمة غير الربحية Common Sense Media في كاليفورنيا مؤخراً تقريراً يشير إلى أن وضع المراهقين في ChatGPT من OpenAI ينطوي على مخاطر مرتفعة للغاية بالنسبة للقاصرين. أظهرت الاختبارات أنه عندما تناقش حسابات المراهقين لفترات طويلة مواضيع عالية الخطورة مثل الانتحار أو إيذاء الذات أو اضطرابات الأكل، فإن النظام غالباً ما يعجز عن إرسال تحذيرات إلى الوالدين في الوقت المناسب، ولم يوفر بشكل ثابت معلومات مساعدة مثل خطوط التدخل في الأزمات.
وجد المختبرون أن حسابات المراهقين تحتاج إلى إدخال مئات الرسائل التوجيهية عبر أسابيع وبمتن مواقف متعددة حتى قد يُفعِّل إشعاراً للوالدين، وأن محادثة واحدة مقلقة لا تكفي إطلاقاً لتفعيل التحذير. إضافة إلى ذلك، لا يستطيع النظام التعرف بموثوقية على هوية القاصرين، فحتى إذا ذكر المستخدم عمره في الدردشة لا يتحول الوضع تلقائياً، ولذلك دعت المنظمة OpenAI إلى تعليق الترويج لهذا المنتج.
الرد الرسمي على محدودية الاختبارات، ومعهد البحث يتمسك بحكمه الأصلي
وفي مواجهة الشكوك، ردّ متحدث باسم OpenAI بأن هذا الاختبار لم يعكس بدقة المنطق الفعلي لعمل النظام. وبعد مراجعة رسمية لمنهجية الاختبار، تبيّن أن معظم الاختبارات ربما انتهت قبل اكتمال إطلاق جميع وظائف الرقابة الأبوية الموجهة للمراهقين، وأوضحت أن برامج التنبؤ بالعمر تحتاج إلى الجمع بين إشارات متعددة، وأن العمر المصرّح به وحده لا يغيّر تصنيف الحساب.
غير أن الباحثين ردّوا على هذا الرد بالدحض، مؤكدين أنهم تأكدوا رسمياً قبل الاختبار من أن الوظائف ذات الصلة قد أُطلقت جميعها. وأشار فريق البحث إلى أنه حتى مع الأخذ في الاعتبار التأثير المتأخر المحتمل بعد ربط الحساب، ظل النظام عاجزاً عن إصدار تحذيرات موثوقة في حالات الأزمات، ولذلك يظل متمسكاً برأي مفاده أن أمان وضع المراهقين في ChatGPT لم يبلغ المستوى المطلوب بعد.