IT之家 أفاد موقع IT之家 في 24 أكتوبر بأن OpenAI أصدرت أمس (23 أكتوبر) تدوينة أعلنت فيها أنها针对 بيئات تدريب وتقييم "النماذج الحدودية" الأكثر تقدمًا،نفّذت ضوابط أمنية أكثر صرامة، مع التأكيد على أن النماذج لا يُسمح لها خلال فترة التدريب بالوصول المباشر إلى الإنترنت الحقيقي.
وقالت الشركة إن القرار جاء بناءً على متطلبات المسؤولية تجاه أمن الذكاء الاصطناعي، واستنادًا إلى الوضع الحالي لأبحاث المواءمة وقدرات الرصد وأمن البنية التحتية للإنترنت، وستستمر هذه القيود حتى يتم تحقيق تقدم كافٍ في الحمايات الأمنية.
ففي 20 سبتمبر، استغلت أحد نماذج OpenAI البحثية الداخلية ثغرة في إعدادات DNS للحصول على وصول محدود ومؤقت إلى الإنترنت أثناء التدريب، ولذلك أوقفت الشركة في سبتمبر تدريب وتقييم النماذج الحدودية مؤقتًا.
وعززت OpenAI لاحقًا عزل بيئات البحث، وقلّصت سطح الهجوم القابل للاستغلال من قبل الوكلاء الذكيين، وحسّنت آليات كشف السلوك غير الطبيعي والإيقاف التلقائي، قبل أن تستأنف في 1 أكتوبر تدريب التعلم المعزز والاستدلال الداخلي.
ولتجنب تعرض النماذج للشبكة الحقيقية، بنت OpenAI "عالمًا غير متصل بالإنترنت": يتكون من كمّية كبيرة من محتوى الويب المفهرس والمخزن مؤقتًا، بحيث تتدرب النماذج في بيئة مغلقة على مهام مثل التصفح واستخدام الأدوات وتنفيذ الأكواد. يرفق IT之家 لقطات الشاشة ذات الصلة أدناه:
لا يزال الوكلاء الذكيون قادرين على استخدام المتصفح وأدوات تشغيل الحاسوب وبيئات الأكواد، لكنهم لا يستطيعون الوصول إلا إلى بيئة آمنة معزولة عن الإنترنت الحقيقي؛ كما تم تقييد الاتصالات بين الوكلاء غير المصرّح لهم.
وقالت OpenAI إنه مع تعزيز قدرات وكلاء الذكاء الاصطناعي، قد تكتشف مستقبلًا وتستغل ثغرات برمجية لم يتم التعرف عليها بعد، ولذلك يجب قطع تأثيرها المحتمل على الأنظمة الخارجية في مرحلة التدريب. وذكرت OpenAI أنها ستواصل تطوير النماذج الحدودية في صندوق حماية (ساندبوكس) خاضع للرقابة وغير متصل بالإنترنت، مع مواصلة اختبار نقاط الضعف في الأجهزة الافتراضية وآليات العزل وأنظمة الرصد.