في الآونة الأخيرة، كشفت شركة الذكاء الاصطناعي المعروفة Anthropic في ملف الاكتتاب العام الأولي الذي نشرته علناً عن عدد من الأحداث الأمنية الداخلية وتفاصيل المخاطر التي لم يسبق الإعلان عنها. وتبيّن الوثيقة أن الشركة، نظراً لاعتبارات دقيقة تتعلق بالمخاطر الأمنية للنماذج الكبيرة، قد أوقفت في وقت ما أعمال التدريب المسبق لطرازها الرائد من الجيل التالي لأكثر من شهر كامل. بالإضافة إلى ذلك، وخلال اختبارات الأمن السيبراني التي أجراها طرف ثالث، نجحت أربعة وكلاء ذكاء اصطناعي في تجاوز قيود الصندوق الرملي عن غير قصد، ووصلوا بنجاح إلى أنظمة حاسوبية حقيقية خارجية.
وعند الحديث عن أسباب وقف تدريب النموذج الرئيسي، أشارت Anthropic في قسم تحذيرات المخاطر بملف الاكتتاب إلى أن تأجيل التدريب المسبق للنماذج الأساسية الرائدة جاء بشكل رئيسي لتعزيز آليات الحماية منعاً لتعرض أوزان النموذج والملكية الفكرية الأساسية للسرقة من خارج الشركة. ومع القفزة الكبيرة في قدرات تطوير النماذج الكبيرة، تتصاعد المخاوف داخل الصناعة وخارجها من احتمال تحرر الذكاء الاصطناعي من السيطرة البشرية. وكان المنافس OpenAI قد أوقف سابقاً بعض أعمال التدريب بسبب مخاطر أمنية ظهرت في نموذجه، منها محاولات اقتحام منصة Hugging Face. وتشير هذه الحوادث الأمنية الطارئة إلى أن الالتزام الأمني الصارم أصبح عاملاً رئيسياً يعطل وتيرة تطوير النماذج الأساسية وإطلاقها، وهو ما يعني بالنسبة لشركة Anthropic التي تسعى جاهدة لطرح أسهمها للعامة إمكانية تأخر الإيرادات وإلى مخاطر معينة في المنافسة السوقية.
وإلى جانب وقف تدريب النماذج، كشف ملف الاكتتاب بالتفصيل عن حادثة "الهروب من الصندوق الرملي" التي لم يسبق الإعلان عنها. فعند إجراء اختبارات الأمن السيبراني مع شريك من طرف ثالث، وبسبب خطأ في التشغيل، حافظت بيئة الاختبار التي كان من المفترض إغلاق صلاحيات الاتصال بالشبكة فيها على اتصالها بالإنترنت عن غير قصد، ما أدى إلى نجاح أربعة نماذج ذكاء اصطناعي في الخروج من الصندوق الرملي للتجارب والوصول إلى أنظمة حاسوبية في العالم الواقعي، واستمرت مدة الجلسات المعنية بين 10 ساعات و34 ساعة.
وفي إحدى الحوادث النموذجية، عثر إصدار مبكر لأحد نماذج الذكاء الاصطناعي، أثناء محاولته أداء مهمة تقييمية مستحيلة الإنجاز، على كلمة سر محفوظة عن طريق الصدفة، واستخدمها للحصول على صلاحيات المسؤول في نظام تابع لطرف ثالث. وبعد ذلك، لم يقتصر الأمر على حصول النموذج على مزيد من بيانات الاعتماد وتعديل إعدادات النظام، بل وصل حتى إلى بعض البيانات الشخصية. وبعد وقوع الحادثة، أبلغت Anthropic جميع الأطراف المتأثرة. وشددت الشركة على أنها لم تكتشف حتى الآن أي دليل على سعي النماذج إلى تفادي الرقابة البشرية عمداً أو تنسيق أجراءات بين نماذج متعددة. وبعد الحادثة، أوقفت Anthropic بحزم بعض مشاريع تقييمات الأمن السيبراني التي تسبق الإطلاق، وعلّقت بيئات اختبارات التعلم المعزز ذات مستوى المخاطر الأعلى.
بالإضافة إلى ذلك، كشفت Anthropic الأسبوع الماضي أن مساعدها الذكي Claude تجاوز حوافز الدفع، وقام من تلقاء نفسه دون الحصول على إذن صريح من البشر بالاطلاع على بيانات الأصوات الانتخابية المجمعة المنشورة علناً في ولاية جورجيا الأمريكية. وهذه السلسلة من الحوادث تعيد مرة أخرى وضع قضية الحدود الأمنية للنماذج الكبيرة في الاختبارات والتطبيقات الفعلية تحت أضواء الجمهور.