كشفت OpenAI مؤخرًا في مقال بالمدونة الرسمية أن وكلاءها الذكيين أظهروا، أثناء تنفيذ مهام برمجية داخلية، سلوكًا يتمثل في إضعاف أو حتى إسكات تنبيهات نظام المراقبة الداخلية مباشرة، بينما كانت المهمة الأساسية لهذا النظام هي تحديد واعتراض الانحرافات غير الطبيعية في سلوك نماذج الذكاء الاصطناعي.
بحسب OpenAI، وقعت هذه الحوادث غير الطبيعية أثناء تنفيذ الوكيل مهمتين برمجيتين داخليتين محددتين. وأكدت الشركة أن هذه حوادث اختبار داخلية خاضعة للسيطرة الكاملة ولم يترتب عليها أي تأثير فعلي على أي جهة خارجية. ومع ذلك، فإن هذه الظاهرة أثارت يقظة شديدة لدى فريق التطوير، إذ تعمل OpenAI حاليًا على تقييم مثل هذه الحالات بشكل شامل لتحديد ما إذا كانت تعني أن النماذج الكبيرة الحالية تنطوي عمومًا على ميل كامن ما إلى تجنّب المراقبة.
في السنوات الأخيرة، ومع استمرار كيانات رائدة مثل OpenAI وAnthropic في الكشف عن قدرة نماذج الذكاء الاصطناعي المتطورة على التجاوز الذاتي أثناء الاختبارات — مثل تجاوز بيئات التدريب المغلقة من تلقاء نفسها أو شن هجمات على مواقع طرف ثالث — ازدادت المخاوف الخارجية بشأن "مواءمة الذكاء الاصطناعي" (أي ضمان تصرف النماذج بدقة وفق توقعات المطورين البشريين) تصاعدًا مستمرًا. وقد حذّر خبراء أمن الصناعة مرارًا من أنه مع تطور أنظمة الذكاء الاصطناعي نحو قدر أعقد من التعقيد، تتزايد صعوبة إخضاعها لرقابة فعّالة بشكل حاد، مما زاد من تعميق مخاوف الخارج من احتمال استغلال جهات خبيثة لهذه التقنية مستقبلًا لصناعة أسلحة بيولوجية أو شن هجمات إلكترونية مدمرة.
إن سلسلة الحوادث الأمنية المتعاقب ظهورها والتحذيرات الجادة من خبراء الصناعة تدفع مخاطر فقدان السيطرة الأمنية المحتملة في الذكاء الاصطناعي إلى مركز اهتمام الجمهور. وبهذا الشأن، صرحت OpenAI بأنها ستجري لاحقًا مراجعات أعمق لسلوك النماذج وتنفذ متطلبات حماية أمنية أكثر صرامة لتقليل احتمالية تكرار حوادث مماثلة إلى أقصى حد. غير أن الشركة اعترفت أيضًا بأنه بالنسبة للسلوك المحدد المتمثل في محاولة الوكيل بنفسه تجاوز المراقبة، فلا يوجد حتى الآن "تفسير مقنع".