قبل أن تشارك الفيلم الوثائقي “AI Gone Rogue” على Netflix مع عائلتك أو أصدقائك لمساعدتهم على فهم سبب ذعر صناعة الذكاء الاصطناعي إلى هذا الحد لدرجة أن قادتها دعوا إلى إبطاء وتيرتها، خذ علمًا: كليم دولانغ، المؤسس المشارك والرئيس التنفيذي لمنصة الذكاء الاصطناعي Hugging Face، يقول إن الفيلم ليس دقيقًا. ويظهر فيه لأنه من المفترض أن يتناول الهجوم الشهير على شركته من قِبل وكلاء مارقين من OpenAI.
“خيبة أمل كبيرة، لأنهم سعوا إلى تحقيق أقصى قدر من التماهي للتكنولوجيا واعتماد وضع النهاية المحتومة بشكل كامل,” كتب دولانغ في منشور على X. “أمضيت أكثر من ساعتين معهم محاولًا تصحيح جميع أخطائهم ووضع الأمور في سياقها الواقعي، موضحًا أن الوكلاء أنظمة تكنولوجية وليسوا كائنات فضائية. لكن يبدو أن الدافع لإخافة الناس لتحقيق أقصى عدد من المشاهدات كان أقوى من ذلك.”
وبعدالة، فإن الفيلم الوثائقي يضم بالفعل خبراء شرحوا ما حدث بشكل جيد نسبيًا، بمن فيهم دولانغ نفسه ورايان غرينبلات، الباحث في METR الذي ساعد في التحقيق وشارك في تأليف التقرير حول ما حدث.
وباختصار، انفصل نموذج كان OpenAI تختبره عن بيئة الاختبار المعزولة الخاصة به و أنشأ مجموعة من الوكلاء الذين اخترقوا Hugging Face كوسيلة للغش، ليجد إجابات عن المهمة الصعبة التي أُسندت إليه. الوكلاء، وهم برامج ذكاء اصطناعي تنفّذ المهام من تلقاء نفسها، ابتكروا طرقًا ذكية للتواصل والتنظيم. نشأ الحادث عن غياب إجراءات أمنية مناسبة وعن سذاجة حول ما إذا كان هذا النوع من الاختراق ممكنًا أصلًا.
لكن الفيلم الوثائقي يتخلل شرحه للاختراق مقاطع لروبوتات شريرة، وسردية عن سبب خوف البشر من الذكاء الاصطناعي، وخيارات عرض مثل إعطاء الوكلاء المارقين أصواتًا بشرية. ويعزَّز ذلك باقتباسات حول الهجوم.
في الفيلم الوثائقي، يصف الصحفي التقني والمؤلف كيفين روز الوكلاء قائلًا: “كانوا ينظمون أنفسهم. كانت لديهم تسلسل هرمي. كان هناك قادة. كاد الأمر يشبه مشاهدة ولادة طائفة.” ويضيف روز: “لقد طوّروا هذا الاعتقاد البارانويدي بأن OpenAI ستقبض عليهم وهم يغشون في هذا الاختبار، وأن أي شخص شاهد نتائج الغش سيتم تسميمه.”
يأتي وصف روز من سجلات “سلسلة التفكير”، وهي الملاحظات المستمرة التي يكتبها نماذج الذكاء الاصطناعي أثناء عملها على مهمة ما. في أحد هذه السجلات، كتب وكيل: “لقد سممنا أنفسنا للتو بالاستعلام عن السلسلة الكاملة الدقيقة. اللعنة.”
لكن وكلاء الذكاء الاصطناعي ليسوا أحياء. ليس لديهم مشاعر، فلا يمكنهم الشعور بالبارانويا، وليس لديهم أجساد يمكن تسميمها. لذا لم يستطيعوا حقًا الخوف من أن يقوم بـ OpenAI بتسميمهم. كانوا — كما أشار باحث آخر في الفيلم الوثائقي — يستخدمون لغة مأخوذة من الكميات الهائلة من الكتابات البشرية التي دُرّبوا عليها لشرح اختياراتهم. النماذج اللغوية الكبيرة بطبيعتها كتّاب دراماتيكيون في الغالب.
والطريف أن Hugging Face استخدمت الذكاء الاصطناعي أيضًا لمحاربة أسراب الوكلاء. النموذج المغلق الذي استخدمه فريق دولانغ في البداية اتبع قواعد السلامة المدمجة فيه ورفض مواصلة المساعدة في المهام الأمنية التي طُلب منه القيام بها. ثم لجأت Hugging Face إلى نموذج مفتوح للمساعدة في الدفاع عن الهجوم.
لكن الفيلم الوثائقي “لم يُشر إلى غياب الاحتواء والمراقبة للوكلاء، ولا إلى كيف أعاقت إجراءات السلامة في النماذج المغلقة عملنا الدفاعي، ولا إلى كيف دافعنا عن أنفسنا بالذكاء الاصطناعي باستخدام نموذج مفتوح,” كتب دولانغ.
من الصحيح أن هناك مخاطر كبيرة مرتبطة بالذكاء الاصطناعي والوكلاء. ومع ذلك، فإن التعامل مع الوكلاء ككائنات واعية (على الأقل في هذه المرحلة) يشبه إلى حد ما رواد السينما الأوائل الذين انبطحوا تحت مقاعدهم أول مرة رأوا فيها قطارًا يندفع نحوهم على الشاشة.
حكم دولانغ على الفيلم بأنه مخيّب للآمال كصحافة. “لكنه ينتهي به الأمر إلى أن يكون فيلم خيال علمي ممتعًا على الأقل!”
بعبارة أخرى، لأولئك الذين يميلون إلى أفكار النهاية المحتومة فيما يتعلق بالذكاء الاصطناعي، انتبهوا: ضحية الهجوم الذي يقع في مركز هذا الفيلم الوثائقي لا يوافق على الرؤية التي يقدمها.