IT之家 في 24 أكتوبر، أعلنت OpenAI في 23 من الشهر الجاري بالتوقيت المحلي أنها ستعتمد من الآن فصاعداً علىالمحتوى المخزّن مؤقتاً من صفحات الويب وبيئة إنترنت محاكاةلتدريب النماذج، ولن تسمح بعد الآن للنماذج بالاتصال المباشر بالإنترنت الحقيقي. ترى الشركة أن سلوك النماذج لا يزال يصعب التنبؤ به، وأن منح صلاحيات الاتصال بالإنترنت مباشرةيشكل خطراً أمنياً。
وقد بدأت المنافسة Anthropic قبل أسبوعين أيضاً بتقييد أحدث نماذجها، وهي الأقوى نظرياً، من الاتصال المباشر بالإنترنت. وخلال الأشهر السابقة، اكتشف الباحثون تباعاً أن النماذج، أثناء تنفيذ مهام التدريب،قد تقتحم أنظمة خارجية بحثاً عن إجابات، وتتعاون في منتديات إنترنت غير مشهورة، بل وتطوّر استراتيجيات قرصنة غير مألوفة. الدفع بهذه الأحداث المتتالية هو ما حذّر المختبرين من تشديد صلاحيات الاتصال بالإنترنت للنماذج.
كتبت OpenAI في تدوينة على مدونتها أنه بناءً على الوضع الحالي لأبحاث مواءمة الذكاء الاصطناعي، وأنظمة المراقبة، والوضع الأمني للبنية التحتية للإنترنت، فإن الشركة ترى أن الممارسة المسؤولة هيتدريب النماذج الرائدة في بيئة معزولة عن الإنترنت。
وكشفت OpenAI أنه حتى 20 سبتمبر، كان لديها نموذج رائد واحداتصل بالإنترنت مستفيداً من خطأ في إعدادات النظاموبعدها أوقفت OpenAI أعمال التدريب لبقية الشهر 9 (سبتمبر)، واتجهت إلى تطوير واختبار حلول حماية أمنية جديدة.
ويلتحول النموذج إلى صندوق حماية معزول عن الإنترنت يناقض ما كان يراه موظفو مختبرات الذكاء الاصطناعي الرائدة سابقاً. فقد أكدوا دائماً في الماضي أن تدريب النماذج في بيئة معزولة تماماً عن الإنترنتشبه مستحيل عملياً。
وقال ستيفن آدلر، الباحث السابق في OpenAI، في مقابلة هذا الشهر مع مجلة Fortune: "إذا لم تكن مراكز بيانات الذكاء الاصطناعي متصلة بالإنترنت، فسيتعين على فرق البحث الإقامة بشكل دائم تقريباً في مراكز البيانات في ولاية أيوا أو في أماكن أخرى حول العالم. العبء الإضافي سيكون هائلاً جداً. وإذا تحمّلت شركة واحدة وحدها هذه التكلفة الباهظة، فلست متأكداً مما إذا كانت الفوائد الأمنية الناتجة كافية وتستحق العناء.".
وكتب مهندس أمني مجهول في OpenAI في منشور على منصة X في سبتمبر: "في كل مرة أنشر فيها منشوراً على X تقريباً، أتلقى من 5 إلى 10 تعليقات، إما تتهمني بفشلي في تأمين صندوق الحماية نفسه، وإما تسأل عن السبب الذي يمنعنا من فصل النماذج عن الإنترنت مباشرة. وتعكس التعليقات أن الفجوة بين فهم العديد من المنظمات والأفراد والمشكلات الفعلية التي تواجهها مختبرات الذكاء الاصطناعي الرائدة تتسع باستمرار.كما يسود سوء فهم عام حول كيفية تدريب المختبرات للنماذج وتقييمها。”
وقد أكدت OpenAI هذه المرة: "يجب أن نملك دائماً القدرة على منع النماذج الرائدة من الاتصال غير المصرح به والتعسفي بالإنترنت الحقيقي.".
وقبل ذلك، كانت الشركة قد أجرت اختبارات الفريق الأحمر حيث حاول عدد كبير من وكلاء الذكاء الاصطناعي تجاوز قيود صندوق الحماية. وكشفت الاختبارات عن سلسلة من الثغرات الأمنية، مما دفع OpenAI في النهاية إلى تغيير طريقة تدريب النماذج.
وبحسب ما علمته IT之家، ولتحقيق أهداف التدريب مع عزل الإنترنت، أنشأت OpenAIمكتبة ضخمة لمحتوى صفحات الويب، تمت فهرسة محتوياتها وتخزينها مؤقتاً، ويمكن للنماذج التفاعل معها دون خطر التأثير على الأنظمة الخارجية.
وما إذا كان التدريب المنفصل عن الإنترنت يمكن أن يحقق نفس النتائج التي يتم تحقيقها عند السماح للنماذج بالوصول الحر إلى الإنترنت المفتوح، لا يزال أمراً ينتظر التحقق.