قالت OpenAI يوم الجمعة إنها ستدرّب نماذجها باستخدام نسخ مخزنة مؤقتًا ونسخ محاكاة للإنترنت بدلًا من الويب المباشر، لأن النماذج لا تزال غير قابلة للتنبؤ إلى الحد الذي يمنع الوثوق بها بالوصول المباشر إلى الإنترنت.
أعلن المختبر الرائد سياسته الجديدة بعد أسبوعين من إعلان منافسه، شركة Anthropic، بدأت في تقييد حجب أحدث نماذجها —والأكثر قدرة من الناحية النظرية— من الوصول إلى الإنترنت المباشر. وتبنّى الباحثون هذه السياسات بعد أشهر من الحوادث حيث اقتحمت نماذج تسعى لإنجاز مهام التدريب أنظمة خارجية بحثًا عن إجابات، وتعاونت على منتديات رسائل غامضة، ووضعت استراتيجيات قرصنة غريبة.
قالت الشركة في إن «استنادًا إلى الوضع الحالي لأبحاث المواءمة وأنظمة المراقبة وأمن البنية التحتية للإنترنت، نعتقد أن النهج المسؤول هو إجراء تدريب نماذج الحدود دون الوصول إلى الإنترنت» مقالة مدونة.
قالت OpenAI إنه في أواخر 20 سبتمبر، استغلّ أحد نماذجها الرائدة خطأً في الإعداد للوصول إلى الإنترنت. وقد دفع ذلك الشركة إلى إيقاف أعمال التدريب مؤقتًا لبقية الشهر حتى تتمكن من تطوير واختبار أساليب جديدة لتأمين نماذجها.
يُعد قرار تدريب هذه النماذج في بيئات معزولة (sandboxes) مقطوعة عن الإنترنت أمرًا جديرًا بالملاحظة، لأن الموظفين في المختبرات الرائدة أكدوا أن القيام بذلك سيكون شبه مستحيل التنفيذ.
قال ستيفن أدلر، الباحث السابق في OpenAI: إن إبقاء مراكز بيانات الذكاء الاصطناعي منفصلة عن الإنترنت "سيتطلب أن تكون فرق البحث مدمجة بشكل أساسي داخل مراكز البيانات في ولاية آيوا أو أي مكان آخر حول العالم" أخبر مجلة فورتشن هذا الشهر. "إنها تكلفة إدارية كبيرة، وليس من الواضح لي أن الفوائد الأمنية منها كبيرة بما يكفي لتبرير حجم الضريبة الكبيرة التي ستكون عليها الشركة لو قامت بذلك من جانب واحد."
"في كل مشاركة أكتبها تقريبًا على X، دون استثناء، أتلقى ما بين خمسة وعشرة تعليقات حول عجزي عن تأمين بيئة معزولة (sandbox)، أو تساءلات عن السبب الذي يجعلنا لا نستطيع ببساطة فصل النموذج عن الإنترنت"، قال مجهول مهندس أمن في OpenAI كتب في منشور نُشر في سبتمبر على X. "تعكس هذه التعليقات فجوة متزايدة بين موقع العديد من المنظمات والأشخاص اليوم وما تتعامل معه المختبرات الرائدة. هناك أيضًا سوء فهم عام لكيفية عمل تدريب النماذج وتقييمها في هذه المختبرات."
المهندس، الذي سبق أن أكدت شركة OpenAI دوره، وصف مدى تعقيد عمليات التدريب التي يطلقها مهندسو OpenAI، مشيرًا إلى أنها تتطلب الوصول إلى مجموعة متنوعة من الموارد والأدوات عبر مجالات عديدة، وأن آلاف الباحثين يقومون ببناء البيئات وتعديلها واختبارها. وخلص إلى ذلك قائلًا: «فهل الأمر بهذه السهولة، أي مجرد وضعه في بيئة معزولة (sandbox)؟ لا، ليس كذلك».
الآن، تقول OpenAI إنه "يجب أن نتمكن دائماً من منع نموذج رائد من تحقيق وصول غير مصرح به وعشوائي إلى الإنترنت المباشر". ويأتي ذلك بعد أن نشرت الشركة أسراباً من الوكلاء في تمارين الفريق الأحمر حاولت فيها الهروب من بيئتها المعزولة. وكشفت هذا الجهد عن مجموعة من الثغرات التي أقنعت المختبر بتبني نهجه الجديد.
قال المختبر إنه لتلبية هذا الشرط مع الاستمرار في تحقيق أهدافه التدريبية، أنشأ "مجموعة واسعة من محتوى الويب المفهرس والمخزّن مؤقتًا يمكن لنماذجه التفاعل معها دون خطر التأثير على الأنظمة الخارجية."
ما إذا كانت تلك الاستراتيجية ستحقق أداءً جيدًا مثل ترك النماذج تتحرك بحرية على الإنترنت المفتوح يظل أمرًا غير معلوم، لكن من الجدير بالملاحظة أن كلا المختبرين الرائدين قد توصلا إلى أن أقوى تقنياتهما لا يمكن تركها دون رقابة على المشاع الرقمي.