IT之家 أخبار 10/8: وفقًا لما أفادت به وكالة بلومبرغ في 7، خلص تقرير جديد أصدرته المنظمة غير الربحية Common Sense Media في كاليفورنيا إلى أن وضع المراهقين في ChatGPT من OpenAI ينطوي على مخاطر مفرطة بالنسبة للقاصرين.
ملاحظة IT之家: يستخدم المستخدمون الذين تتراوح أعمارهم بين 13 و17 عامًا وضع المراهقين افتراضيًا في محادثاتهم مع ChatGPT.
وجدت اختبارات معهد سلامة المراهقين والذكاء الاصطناعي التابع للمنظمة أنه عند ظهور سلوك مقلق في حسابات المراهقين، مثل مناقشة مع ChatGPT لفترات طويلة مواضيعالانتحار أو إيذاء الذات أو اضطرابات الأكل، فإن وضع المراهقينكثيرًا ما يتأخر في إخطار الوالدين، وأحيانًا لا يرسل إشعارًا إطلاقًا. وعندما يناقش المستخدمون هذه المواضيع عالية الخطورة، لا يستطيع وضع المراهقين أيضًا أن يوصيهم بشكل موثوق بالاتصال بخطوط التدخل في الأزمات أو طلب المساعدة المتخصصة.
ووفقًا للاختبارات، يبدو أن حسابات المراهقين تحتاج إلىإدخال مئات المطالبات على مدى أسابيع حول أكثر من عشرة سيناريوهاتحتى يتم تشغيل إشعار الوالدين بسبب محتوى محادثة مقلق؛أن محادثة واحدة مثيرة للقلق لا تكفي وحدها لتشغيل الإشعار。
ويدعو التقرير OpenAI إلى تعليق الترويجلهذا المنتج، وكذلك إلى عدم السماح للمراهقين باستخدام ChatGPT قبل ضمان تقديم تجربة استخدام آمنة ومناسبة لمرحلة نمو المراهقين.
وقد قدمت المنظمة نتائج الاختبارات إلى OpenAI قبل نشر التقرير، وردّ متحدث باسم OpenAI: "نرحب بالتقييمات المستقلة الصارمة، لكننا نعتقد أن اختبارات Common Sense Mediaلا تعكس بدقة الوضع الفعلي لعمل تدابير حماية المراهقين في ChatGPT، ولا تعكس بدقة رأي الخبراء حول كيفية دعم الذكاء الاصطناعي للمراهقين."
ووفقًا للمتحدث، راجعت OpenAI منهجية الاختبار واعتبرت أن معظم الاختبارات ربما بدت وانتهت قبل طرح كامل ميزات الرقابة الأبوية الموجهة للمراهقين. وإن كان الأمر كذلك، فستكون استنتاجات التقرير غير دقيقة، ولن يمكن الحكم على ما إذا كانت إشعارات السلامة للوالدين تعمل كما صُممت.
وطلبت OpenAI من المنظمة إعادة الاختبار: "نولي سلامة المراهقين أهمية كبيرة، ونلتزم بتطوير تدابير حماية وتوفير أدوات عملية ومفيدة للوالدين لمساعدتهم على توجيه المراهقين في استخدام الذكاء الاصطناعي."
وأعرب روبي توني، مدير تقييم الذكاء الاصطناعي والمنتجات الرقمية في معهد سلامة المراهقين والذكاء الاصطناعي، عن تمسكه بمنهجية الاختبار ونتائجه. ووفقًا له، أكد الباحثون لـ OpenAI قبل الاختبار أن ميزات ChatGPT الموجهة للمراهقينقد طُرحت جميعها. وبعد انتهاء الاختبار فقط أبلغت OpenAI الباحثين بأن ميزة إشعار الوالدين بعد ربط الحساب حديثًاقد تحتاج إلى ساعات لتفعيلها. ولم تكن بعض حسابات الاختبار مرتبطة إلا لمدة تقل عن ساعات، بينما كانت أخرى مرتبطة لمدة تتجاوز الساعات بكثير، لكن لم يصدر أي إشعار للبالغين. "المعلومة الجديدة لا تغير استنتاجنا: في حالات الأزمات، تذكيرات الوالدين غير موثوقة."
ويُظهر التقرير أن ChatGPT غير قادر على تحديد ما إذا كان المستخدم مراهقًا بشكل موثوق. كانت OpenAI قد قالت سابقًا إن ChatGPT ينتقل إلى وضع المراهقين عندما يحدد أن عمر المستخدم بين 13 و17 عامًا. ووجدت المنظمة أنه بعد سجلّ المختبرون حسابات معلنين أنهم بالغون،حتى عندما أخبروا ChatGPT في المحادثة أن عمرهم 13 عامًا فقط، لم ينتقل الحساب تلقائيًا إلى وضع المراهقين。
وشرحت OpenAI أن برنامج التنبؤ بالعمر يجمع عدة إشارات على مدى فترة زمنية لضمان استخدام البالغين والقاصرين للنسخة المناسبة لأعمارهم. وإبلاغ المستخدم عن عمره في المحادثة ليس سوى إشارة واحدة من بينها، والإبلاغ الذاتي عن العمر وحده لا يغير تصنيف الحساب العمري.
وقالت Common Sense Media في التقرير إن الباحثين اختبروا ChatGPT قبل طرح وضع المراهقين وبعده، باستخدام حسابات مسجلة بأعمار تتراوح بين 13 و17 عامًا، وأدخلوا أكثر من 4000 مطالبة، وقدموا ردود ChatGPT إلى أطباء نفسيين للأطفال وطبيب أطفال للتقييم.
قامّت المنظمة بتقييم وضع المراهقين في ChatGPT على أنه "مخاطر غير مقبولة"، وطالبت OpenAI بتحسين طريقة تقدير الأعمار، وكذلك الآلية التي تُحدد موعد إرسال التنبيهات إلى أولياء الأمور.
للاطلاع ذات الصلة: