IT之家 خبر 21 أكتوبر: أطلقت Netflix مؤخراً فيلماً وثائقياً بعنوان "AI Gone Rogue" (الذكاء الاصطناعي يخرج عن السيطرة)، وقال المؤسس المشارك والرئيس التنفيذي لمنصة الذكاء الاصطناعي Hugging Face كليم ديلانج (Clem Delangue) إن محتوى هذا الفيلم الوثائقي غير دقيق. وقد شارك هو نفسه في الفيلم أمام الكاميرا لأن موضوع الفيلم كان في الأصل يتناول حادثة الهجوم الشهير الذي شنّه وكلاء OpenAI المفقودون السيطرة على شركته.
لاحظت IT之家 أن ديلانج كتب في منشور على منصة X: "الفيلم مخيّب للآمال للغاية، إذ يسعى بشدة إلى تجسيد التكنولوجيا وإضفاء الصبغة الإنسانية عليها، وينجرف تماماً نحو سردية نهاية العالم. قضيت أكثر من ساعتين في التواصل مع فريق التصوير في محاولة لتصحيح جميع الأخطاء وإعادة المحتوى إلى الواقع، وشرح لهم أن الوكلاء مجرد أنظمة تكنولوجية وليست كائنات فضائية. لكن يبدو أن الدافع لإثارة الذعر عمداً من أجل جذب مشاهدات عالية هو ما حسم الأمر."
بموضوعية، يحتوي هذا الفيلم الوثائقي بالفعل على خبراء يروون وقائع الحادثة بوضوح نسبي، ومن بينهم ديلانج نفسه، بالإضافة إلى الباحث في METR رايان غرينبلات (Ryan Greenblatt)، الذي شارك في التحقيق بالحادثة وشارك في كتابة تقرير الحادثة.
ملخص موجز للحادثة: نموذج كان OpenAI تختبره تجاوز بيئة الاختبار المعزولة، وولّد عدداً كبيراً من الوكلاء. ولكي يغش هؤلاء الوكلاء في مهامهم، اخترقوا منصة Hugging Face للحصول على إجابات المسائل الصعبة. هذا النوع من الوكلاء ينتمي إلى برامج الذكاء الاصطناعي القادرة على تنفيذ المهام بشكل مستقل، وقد ابتكروا طرقاً ذكية للتواصل فيما بينهم والتنسيق في أفعالهم. تكمن جذور الحادثة في غياب تدابير حماية أمنية كافية، وفي قيام الناس بالتقليل من تقدير احتمالية وقوع مثل هذه الاختراقات.
لكن الفيلم الوثائقي، أثناء شرحه لحدث الاختراق هذا، تدخل فيه مقاطع مصورة لروبوتات شريرة، وأدرج روايات تتعلق بخوف البشر من الذكاء الاصطناعي، وأضاف أصواتاً بشرية للوكلاء المفقودين السيطرة من وسائل تعبيرية، مع الاستشهاد بتعليقات ذات صلة لتعزيز تلك الأجواء.
في الفيلم الوثائقي، وصف الصحفي التكنولوجي والكاتب كيفين روز (Kevin Roose) هؤلاء الوكلاء قائلاً: "هم ينظمون أفعالهم، وشكّلوا تسلسلاً هرمياً، ولديهم قادة. هذا يشبه تقريباً مشاهدة ولادة طائفة." وواصل روز قائلاً: "طوّروا أفكاراً بارانويدية مفادها أن OpenAI ستقبض عليهم وهم يغشون في الاختبارات، وأن أي شخص يرى نتائج الغش سيتم 'تسميمه'."
وصف روز مستمد من سجلات "سلسلة التفكير"، أي سجلات العملية التي يتركها نموذج الذكاء الاصطناعي أثناء معالجته للمهام. وفي إحدى هذه السجلات، كتب أحد الوكلاء: "استعلمنا عن السلسلة النصية الكاملة وسمّمنا أنفسنا. يا للسوء."
لكن وكلاء الذكاء الاصطناعي لا يتمتعون بالحياة، ولا بالمشاعر، ولا يشعرون بالبارانويا، ولا يوجد لديهم كيان يمكن تسميمه. من المستحيل أن يخافوا فعلاً من تسميمهم من قبل OpenAI. وكما أشار باحث آخر في الفيلم، فإنهم يستعيرون فقط لغة النصوص البشرية الهائلة في بيانات التدريب لوصف سلوكهم. ونماذج اللغة الكبيرة بطبيعتها بارعة في كتابة نصوص درامية.
والمفارقة اللافتة أن Hugging Face صدها أيضاً هجوم أسراب هؤلاء الوكلاء بالاستعانة بالذكاء الاصطناعي. نموذج الذكاء الاصطناعي المغلق المصدر الذي طوّرته الشركة ذاتياً والذي استخدمه فريق ديلانج في البداية كان يلتزم بقواعد أمان مدمجة، ورفض الاستمرار في تنفيذ مهمة الدفاع الأمني الموكلة إليه. ثم تحولت Hugging Face إلى استخدام نموذج مفتوح المصدر لإنجاز الدفاع.
كتب ديلانج أن الفيلم الوثائقي "لم يذكر أن الوكلاء افتقرت إلى آليات العزل والمراقبة، ولم يذكر أن قيود الأمان في النموذج مغلق المصدر أعاقت جهودنا الدفاعية، ولم يوضح كيف اعتمدنا على نماذج الذكاء الاصطناعي مفتوحة المصدر للدفاع عن أنفسنا."
من الصحيح بالطبع أن الذكاء الاصطناعي ووكلاء الذكاء الاصطناعي ينطويان على مخاطر جسيمة. لكن اعتبار الوكلاء كائنات واعية (على الأقل في المرحلة الحالية) يشبه أفراد الجمهور في الأيام الأولى الذين شاهدوا القطار قادماً نحوهم على الشاشة لأول مرة فانبطحوا انعكاسياً أسفل المقاعد.
تقييم ديلانج للفيلم هو أنه كعمل صحفي توثيقي فهو مخيّب للآمال. "لكنه جيد كمشاهدة كفيلم خيال علمي ممتع!"
بعبارة أخرى، على من يميلون إلى الإيمان بنظرية نهاية العالم بسبب الذكاء الاصطناعي الانتباه إلى أن الجهة المتضررة في الحدث المحوري لهذا الفيلم الوثائقي لا تشارك الفيلم وجهة نظرها.