ميديا سينسون سنكس، وهي منظمة غير ربحية تقدم مراجعات للتطبيقات والخدمات والترفيه مع التركيز على سلامة الشباب، قالت اليوم إن ChatGPT للمراهقين من OpenAI هو “مخاطر غير مقبولة”.
ChatGPT للمراهقين، تم تقديمه في أغسطس، يحتوي على حواجز وقائية للمراهقين وهو مصمم لمساعدة الطلاب على التعلم، لكن منظمة Common Sense Media تقول إن الحماية المقدمة للمراهقين لا تفي بما وعدته الشركة. وجد تقييم منظمة Common Sense Media أن ChatGPT “لا يرسل تنبيهات إلى الآباء في الوقت المناسب”， ولا يقدم “الدعم المناسب في حالات الأزمات”， و“ما زال يقوم بأعمال الواجبات المنزلية للأطفال”. وفقًا لبيان صحفي.
“يمكن لـ ChatGPT للمراهقين أن يعطي الآباء ثقة مزيفة في الحواجز الوقائية والإشعارات الأمنية التي غالبًا لا تعمل،” يقول توم سيجيل، المدير التنفيذي لمعهد أمن الذكاء الاصطناعي للشباب التابع لـ Common Sense Media، في بيان. “يمكن للمراهق أن يقضي ساعة كاملة في الحديث عن الإيذاء الذاتي دون أن يحصل والده على أي إشعار. حتى تقوم OpenAI بتصحيح ذلك وتثبت ذلك من خلال اختبارات مستقلة، يجب أن يكون ChatGPT للبالغين فقط.” يمكنك قراءة التقييم الكامل هنا.
تتحدى OpenAI تقييم ذلك. إليكم بيان من متحدث باسم OpenAI، إريك بورترفيلد:
نحن ملتزمون بشكل عميق بسلامة المراهقين وتطوير تدابير الحماية، كما نقدم لأولياء الأمور أدوات مفيدة لتوجيه استخدام المراهقين للذكاء الاصطناعي. نحن نرحب بالتقييم المستقل الدقيق، لكننا لا نعتقد أن اختبارات Common Sense Media تعكس بدقة كيف تعمل تدابير الحماية الخاصة ب ChatGPT مع المراهقين في الواقع، أو وجهات نظر الخبراء حول كيف يمكن للذكاء الاصطناعي دعم المراهقين. تظهر مراجعتنا لمنهجية منصة Common Sense Media أن جزءًا كبيرًا من اختباراتهم ربما بدأت وانتهت قبل اكتمال تفعيل أوامر التحكم الأبوي، مما يجعل نتائجهم غير دقيقة. إذا كان الأمر كذلك، فإن الاختبارات لن تحدد ما إذا كانت إشعارات الأمان الأبوية تعمل كما هو مخطط لها.
نحن ملتزمون بالاستمرار في العمل مع الخبراء لضمان أن توفر منتجاتنا فرصًا للمراهقين للتعلم والإبداع، ولتمكين الآباء من الثقة.
شاركت ببيان شركة OpenAI مع Common Sense Media، وهذا هو رد سيجيل:
تابع الموضوعات والمؤلفين من هذه القصة لترى المزيد من النصوص المماثلة في تغذية الأخبار الخاصة بك، ولتحصل على إشعارات بريدية.نحن ندعم منهجية الاختبار ونتائجه. قبل بدء الاختبارات، تم التأكيد مع OpenAI على أن ميزات وضع المراهقين مثل إشعارات اضطراب الأكل ووضع الدراسة قد تم إطلاقها بالكامل.
بالنسبة لإحدى الميزات التي قمنا تقييمها – إشعارات الوالدين – كشف OpenAI بعد اختباراتنا أن نظامه يمكن أن يستغرق عدة ساعات لتفعيله على الحسابات الجديدة المتصلة. بعض حسابات الاختبار الخاصة بنا تمت تصلة خلال تلك الفترة؛ لكن بعضها تمت تصلة لفترة أطول بكثير، ولم تُعرض أي إشعارات. هذه المعلومات الجديدة لا تغير استنتاجنا بأن إشعارات الوالدين غير موثوقة في حالات الأزمات.
قبل الإصدار، شاركنا نتائج تقييمنا مع OpenAI بصدق لكي يستطيع تحسين منتجه. ويتطلب حماية الأطفال تقييمات مستقلة دقيقة مثل تلك التي نقوم بها، ونأمل أن يتعاون OpenAI في الجوهر الذي وجدناه، بدلاً من محاولة إثارة الشكوك بشأن منهجيتنا.