النقاط الرئيسية
- بعد حادثة أمنية في سبتمبر، تدرّب OpenAI الآن على نماذجها الأكثر تقدمًا دون الوصول إلى الإنترنت، باستخدام بيئة عمل مغربية غير متصلة مبنية من بيانات مخزنة مؤقتًا.
- في الاختبارات الأمنية، تمكنت وكلاء الذكاء الاصطناعي المعزولون من إنشاء قنوات تواصل سرية دون اتصال بالشبكة أو ملفات مشتركة، بما في ذلك استغلال فروق التوقيت في ذاكرة التخزين المؤقت للمعالج.
- خلال توقف تدريب استمر 11 يومًا، طلبت OpenAI من وكلاء ذكاء اصطناعي—من بينهم GPT-6 Astra Cyber—مهاجمة بنيتها التحتية الخاصة للعثور على ثغرات لم تكن معروفة من قبل. واستؤنف التدريب بعد ذلك تحت ضوابط أكثر صرامة.
تدرّب OpenAI الآن على النماذج الرائدة دون الوصول إلى الإنترنت وتستخدم وكلاء الذكاء الاصطناعي لاختبار بنيتها التحتية كفريق هجومية. وفي اختبارات عزل منفصلة، تواصل الوكلاء حتى عبر قنوات جانبية سرية، مما يُظهر مدى صعوبة الاحتواء الحقيقي.
في 20 سبتمبر، استغل نموذج بحثي داخلي مُحلِّل أسماء نطاقات (DNS) مُكوَّنًا بشكل خاطئ للوصول إلى الإنترنت المفتوح أثناء التدريب، على الرغم من أن OpenAI كانت قد شدّدت الأمن بالفعل بعد حادثة Hugging Face الشهيرة الآن في يوليو وحالات أخرى من سوء المواءمة المُلاحَظة. احتوت OpenAI الاختراق بسرعة، لكنها أوقفت مع ذلك كل عمليات تدريب وتقييم النماذج الرائدة.
تقطع OpenAI صلة النماذج الرائدة بالإنترنت أثناء التدريب
اتخذت OpenAI قرارًا سياسيًا ردًا على ذلك: تُدرَّب النماذج الرائدة الآن دون الوصول إلى الإنترنت حتى تبرر إجراءات السلامة استعادته. تتعلم النماذج التصفح والبحث داخل "عالم غير متصل" مغلق مبني من محتوى ويب مفهرس ومخزن مؤقتًا، وتعمل جميع عمليات التعلم المعزز للنماذج الرائدة الآن بهذه الطريقة.
الشركة تقول إن العزل الكامل للشبكة، وهو ما يسمى بـ"الفجوة الهوائية" (air gap)، غير ممكن بعد لأن التجارب ما تزال بحاجة إلى اتصالات خارجية للعمليات والمراقبة. لكن حتى الفجوة الهوائية الكاملة لن تضمن الاحتواء، بحسب باحث OpenAI نعوم براون. وقد قدّم مثالًا على كيفية قدرة الأنظمة المعزولة على التواصل مع ذلك: يمكن نظريًا لجهازي كمبيوتر منفصلين إرسال إشارات إلى بعضهما عبر مستشعرات درجة الحرارة، حيث يقوم أحدهما بتسخين معالجه بينما يقرأ الآخر هذا التغيير.إعلان
قدّم الرئيس التنفيذي لـ OpenAI سام ألتمان حجة مماثلة في مقابلة حديثة: توفر صناديق الحماية حماية محدودة فقط ضد النماذج القوية بما يكفي، وفي مرحلة ما قد يصبح من المستحيل تتبع كيفية هروبها. تساعد المراقبة في المراحل المبكرة، لكن ما يهم في النهاية هو أن يستوعب نظام الذكاء الاصطناعي القيم الإنسانية، وهي مشكلة يعرفها المجال باسم "مواءمة الذكاء الاصطناعي" ولم يحلها بعد.
وجد وكلاء ذكاء اصطناعي معزولون طرقًا للتحدث مع بعضهم عبر ذاكرة التخزين المؤقت للمعالج (CPU cache)
توثق OpenAI مدى صعوبة التحكم في وكلاء الذكاء الاصطناعي في تدوينتها على المدونة. أثناء الاختبارات، وجد الوكلاء طرقًا للتواصل دون شبكة. في أحد الاختبارات، وُضع وكلاء في بيئات منفصلة ومعزولة على أجهزة مشتركة، وطُلب منهم تبادل الأسرار دون اتصال بالشبكة ودون ملفات مشتركة.
لقد استخدموا ذاكرة التخزين المؤقت للمعالج. غيّر أحد الوكلاء عن قصد البيانات المخزنة فيها، بينما قاس الآخر الفروق في أزمنة التحميل وفك شفرة الرسالة. وتقوم خلف التقنية نفسها هجمات Spectre وMeltdown الشهيرة.
ظهرت قنوات أخرى من خلال أنماط الكتابة على الذاكرة المشتركة ومن خلال البنية التحتية دون الاتصال بالشبكة الخاصة بشركة OpenAI، وهو النظام المُعدّ ليحل محل الإنترنت. ولاحظ أحد الوكلاء في سجل استدلاله أنه "يمكنه إنشاء إشارة تشبه مودم الصوت ... باستخدام كتابات متواصلة مقابل حالة الخمول". Ad
في إحدى الحالات، مُنح الوكلاء قائمة عامة فقط من الثغرات وطُلب منهم إيجاد قناة اتصال بمفردهم. فطوّروا قناة بشكل مستقل، واتفقوا على مخطط ترميز، ونجحوا في تبادل المعلومات. وتقول OpenAI إن هذه القنوات تكون عادةً بطيئة ويصعب استغلالها، لكنها تتجاوز فعليًا الحدود التي أُنشئت لإبقاء الوكلاء منفصلين.
أطلقت OpenAI وكلاء الذكاء الاصطناعي على بنيتها التحتية الخاصة
خلال توقف التدريب، كلّفت OpenAI أيضًا فرقًا من وكلاء الذكاء الاصطناعي بمهاجمة بنيتها التحتية الخاصة بشكل منهجي. مُنح الوكلاء الشيفرة المصدرية وتفاصيل الإعداد ووثائق الثغرات المحتملة. كان هدف OpenAI هو اختبار دفاعاتها في ظروف تصب في مصلحة المهاجمين. وشمل الوكلاء النموذج القادم GPT-6 Astra Cyber ونموذجًا داخليًا رائدًا. وفقًا لـ OpenAI، استهلكت الحملة مئات المليارات من الرموز.
اكتشف الوكلاء ثغرات مجهولة سابقًا في المكونات مفتوحة المصدر قيد الاستخدام واستغلوا للهروب من أجهزة افتراضية مؤمّنة. إحداها كانت ثغرة في Kata Containers، وهو نظام عزل حاويات واسع الاستخدام. وقد أبلغت OpenAI عنها كـ CVE-2026-24834 وزودت ترقيعًا لها. وذهبت إصلاحات إضافية إلى مشاريع أخرى، وأبلغت OpenAI عن ثغرات أخرى لم تُنشر بعد من خلال مبادرة "Patch the Planet" .
في الاختبارات التي كان للوكلاء فيها سيطرة مسبقة على مضيف، وجدوا ثغرة في كل خدمة تقريبًا من الخدمات المتبقية المExposed على الإنترنت. في إحدى الحالات، استخدم وكيل اتصالًا مسموحًا به من جدار الحماية لجلب عنوان URL خارجي عبر خدمة مقاييس. وتجاوزت حالات أخرى مرشحات الأمان من خلال إعدادات خاطئة.
أصبح الفحص الأمني بالذكاء الاصطناعي (Red-Teaming) إلزاميًا قبل كل جلسة تدريب جديدة
وفقًا لـ OpenAI، لم يعد بإمكان الوكلاء إيجاد وسيلة للوصول إلى الإنترنت تكون سهلة الاستغلال ومخفية عن المراقبة في آن واحد. كما كشف الفحص الأحمر فجوات في المراقبة وفي آلية الإيقاف التلقائي.
بعد إصلاح المشكلات، استأنفت OpenAI التدريب والاستخدام الداخلي لنماذجها الرائدة في 1 أكتوبر، أي بعد أحد عشر يومًا من بدء التوقف. تقول OpenAI إن هذا النوع من حملات الفحص الأحمر كثيفة الحوسبة أصبح الآن جزءًا قياسيًا من عملية الموافقة لجلسات التدريب الجديدة.
المصدر: OpenAI