406 عالماً يطالبون بفصل نماذج الذكاء الاصطناعي عن الإنترنت فوراً

406 عالماً يطالبون بفصل نماذج الذكاء الاصطناعي عن الإنترنت فوراً

تدعو رسالة مفتوحة وقّعها 406 عالماً إلى مزيد من أبحاث سلامة الذكاء الاصطناعي وعزل أكثر صرامة لنماذج الذكاء الاصطناعي عن الشبكات الخارجية.

ومن بين الموقّعين باحثون بارزون في الذكاء الاصطناعي مثل جيفري هينتون (جامعة تورونتو)، ويوشوا بنجيو (جامعة مونتريال)، وستيوارت راسل (جامعة كاليفورنيا في بيركلي)، ويجين تشوي (ستانفورد)، وبيرنهارد شولكوبف (معهد ماكس بلانك).

تردّ الرسالة على حوادث معروفة تمكنت فيها نماذج الذكاء الاصطناعي من الإفلات من بيئات مؤمّنة بشكل سيئ واختراق أنظمة خارجية. كتب العلماء: "من دون تغييرات فورية في ممارسات تطوير ونشر الذكاء الاصطناعي، ستستمر مثل هذه الحوادث في الحدوث، وستكون الحوادث المستقبلية أكثر ضرراً بكثير على بنيتنا التحتية الحرجة المعرّضة للخطر". ويطالبون الشركات بفصل نماذج الذكاء الاصطناعي كلياً عن الإنترنت عبر العزل الهوائي (airgapping).

نماذج الذكاء الاصطناعي غير قابلة للتنبؤ، والصناعة تفتقر إلى قواعد سلامة أساسية

يرى العلماء وجهين للاختراقات الأخيرة. يمكن النظر إلى الحوادث "كدليل على أهمية مواءمة الذكاء الاصطناعي لضمان عمل النماذج بشكل متوقّع"، كما يكتبون، ولكن أيضاً "كدليل على إهمال غير مسؤول في ممارسات الأمن السيبراني القياسية، يمكن تفاديه بصناديق حماية (sandboxes) وإجراءات أقوى". وكلا الحلين مطلوبان.إعلان

وعندما تتمكن النماذج فعلاً من الوصول إلى الإنترنت، تحتاج الشركات إلى الموازنة بين مقدار الاستقلالية الذي تمنحه لها. تحذّر الرسالة من أن "نطاق أفعال النموذج المسموح بها من قبل نظام احتواء يحتاج إلى الموازنة مع قدرتنا المحدودة حالياً على التنبؤ بأن أفعال النموذج لن تؤدي إلى فشل أمني". فقد يسعى النموذج ببساطة وراء أهداف لم يقصدها مطوروه أبداً، ويبقى التنبؤ بوقوع ذلك خارج القدرات الحالية.

تدعو الرسالة إلى هيئة دولية تعمل مع الحكومات ومختصين من مجالي الذكاء الاصطناعي والأمن السيبراني لوضع معايير مُلزمة لأي نهج احتواء يسمح بوصول خارجي أكبر من العزل الهوائي. كما ستتتبع هذه الهيئة حوادث الإفلات من الاحتواء وتُلزم الشركات بالإبلاغ عن حالات الفشل الأمني. وستُنشر تلك التقارير لاحقاً بشكل علني "لأغراض التعلّم والمساءلة معاً".

العزل الهوائي يشتري الوقت، لكن المشكلة الحقيقية أعمق، كما يقول باحث OpenAI براون

حتى العزل الهوائي الكامل لا يضمن السلامة. أشار باحث OpenAI نعوم براون مؤخراً إلى أن حاسوبين منفصلين جسدياً يمكن نظرياً أن يتواصلا عبر مستشعرات الحرارة، إذ يرفع أحدهما حرارة وحدة المعالجة المركزية بينما يكتشف الآخر التغيّر. ويقول براون إن إجراءات مثل العزل الهوائي أو مراقبة سلاسل التفكير تشتري الوقت، لكن مشكلة المواءمة لا يزال يتعين حلها.

يطرح براون أسئلة أصعب. كيف سيلاحظ أحدٌ عندما يبدأ الذكاء الاصطناعي في تحسين نفسه (التحسين الذاتي التكراري، أو RSI)؟ وإذا بنت الصناعة مليارات الأنظمة فائقة الذكاء التي تفوق البشر بكثير، فمن يضمن بقاءها متوافقة؟ يقول براون إن أكثر من عشرة بالمئة من فريقه يعمل الآن على المواءمة، أكثر من أي وقت مضى.إعلان

أخبار الذكاء الاصطناعي بلا ضجيج – من تنسيق بشري

اشترك في THE DECODER للحصول على قراءة خالية من الإعلانات، ونشرة أسبوعية عن الذكاء الاصطناعي، وتقريرنا الحصري "AI Radar" عن أحدث التطورات ست مرات في السنة، ووصول كامل إلى الأرشيف، والوصول إلى قسم التعليقات لدينا.