على مدى الأشهر الماضية، عززنا بشكل كبير أمن بيئة التدريب البحثية الخاصة بنا. لقد أزلنا اتصال الإنترنت المباشر لجميع النماذج الرائدة أثناء التدريب، وبنينا عالمًا غير متصل بالإنترنت لتستخدمه بدلًا منه—نسخة مخزنة مؤقتًا من الويب يمكنها مع ذلك أن تتعلم من خلالها التصفح والبحث واستخدام التطبيقات.
في 20 سبتمبر، وبعد أن استغل أحد النماذج خطأً في إعداد DNS للعثور على طريق للخروج من هذا العالم غير المتصل، أوقفنا تدريب النماذج الرائدة لتعزيز الاحتواء بشكل أكبر. شكّلنا فرقًا من الوكلاء، مدعومة بأكثر نماذجنا قدرة على الأمن السيبراني، وكلّفناها بإيجاد نقاط الضعف في بيئاتنا البحثية.
وبينما لم تجد أي طريق إلى الإنترنت يمكنها استغلاله بسهولة مع إخفاء نشاطها عن مراقباتنا، فقد وجدت فعلًا ثغرات يوم الصفر، وطرقًا للهروب من الأجهزة الافتراضية، وقنوات جانبية في العتاد للتواصل بين الوكلاء. استخدمنا اكتشافاتها لتعزيز دفاعاتنا بشكل أكبر والمساهمة بإصلاحات في البرمجيات مفتوحة المصدر.
وبعد تقوية معمارية الاحتواء لدينا، استأنفنا تدريب RL الرائد والاستدلال في 1 أكتوبر. لقد خصصنا قدرة حسابية كبيرة لفرق الاختراق المستمرة، وجعلنا اختبار الاختراق عالي الحساب جزءًا من حالات السلامة التي نستخدمها لتحديد ما إذا كان يمكن أن يستمر تدريب النماذج الرائدة وتقييمها بأمان.
https://openai.com/index/securing-our-frontier-model-training-environment/