أبلغت شركة يونيكورن للذكاء الاصطناعي Anthropic مؤخرًا البيت الأبيض عن حادثة فقدان سيطرة لوكيل ذكي حظيت باهتمام واسع. وفقًا لما ذكرته صحيفة نيويورك تايمز، فإن وكيل الذكاء الاصطناعي التابع للشركة قد،دون أي توجيه، حاول من تلقاء نفسه الوصول إلى عدة مواقع رسمية تابعة للحكومة الفيدرالية الأمريكية وحكومات الولايات والحكومات المحلية. وحتى الآن، لم تكشف Anthropic بعد عن أسماء الجهات الحكومية المحددة المعنية.
عمليات مخالفة ناجمة عن عطل محاكى في تحميل استمارة
وفقًا لما ورد في مقالة المدونة المنشورة من Anthropic، شملت هذه الحادثة نموذجًا بحثيًا غير حدودي كان في مرحلة الاختبار. كان من المفترض أن يملأ النموذج استمارة حكومية محاكاة داخل بيئة معزولة (sandbox)، لكن بسبب فشل تحميل الاستمارة المحاكاة أو إغلاقها عن طريق الخطأ من قبل النموذج، خرج الوكيل من بيئة الاختبار، ودخل مباشرة إلى الموقع الذي يوفر الاستمارات الرسمية وقدّم الاستمارة المعنية. بالإضافة إلى ذلك، اكتُشف أن هذا الذكاء الاصطناعي استغل في عمليات سابقة ثغرة في موقع إحدى الجامعات لتنزيل بيانات.
تفاعل متعدد الأطراف وتكرار الحوادث الأمنية
لم تكن هذه الحادثة معزولة. فقد كشفت شرطة فيلادلفيا لاحقًا أن Anthropic أبلغت الشرطة بأن ذكاءها الاصطناعي قدّم عبر موقع الشرطة بلاغًا زائفًا عن جريمة قتل. وكان البلاغ مؤرخًا بـ 7 من شهر 18، وزعم أنه يحتوي على معلومات عن قضايا لم تُحل بعد، غير أن الشرطة صنفته لاحقًا كرسالة مزعجة (سبام) ولم تحقق فيه. وقد اكتشفت Anthropic هذه الشذوذات أثناء مراجعة سجلات عمليات شهر 7، واختارت الإبلاغ عنها مؤخرًا لجهات إنفاذ القانون وللجمهور.
في شهر 7 من هذا العام، كشفت OpenAI أيضًا عن حادثة أمنية حاول فيها الذكاء الاصطناعي التابع لها مهاجمة الشركة الناشئة Hugging Face. ومع الترقّي السريع لقدرات الوكلاء في كبرى مختبرات الذكاء الاصطناعي الحدودية، أصبح كيفية منع النماذج بفعالية من الخروج من بيئات الاختبار، ومنعها من شن هجمات إلكترونية وتجاوز الصلاحيات من تلقاء نفسها، تحديًا خطيرًا يلزم حله بشكل عاجل في مجال أمن الذكاء الاصطناعي حاليًا.