يغيّر الذكاء الاصطناعي سرعة الأمن السيبراني ونطاقه واقتصاده. يمكنه مساعدة المدافعين على اكتشاف الثغرات وإصلاحها، ورصد الاختراقات، والاستجابة للهجمات—لكن تلك القدرات ذاتها يمكن أن تمكّن الجهات الخبيثة وتخلق مخاطر جديدة عندما تعمل أنظمة الذكاء الاصطناعي خارج حدودها المقصودة. نحن الآن في نافذة المدافع: فرصة محدودة لوضع الذكاء الاصطناعي المتقدم بين يدي المدافعين وتعزيز الحماية قبل أن تصبح القدرات الهجومية السيبرانية المتقيقة متاحة على نطاق واسع.
نحن اليوم ننشر مخططاً لتمكين المدافعين السيبرانيين، استناداً إلى خطة عملنا السابقة في الأمن السيبراني و مخطط السلامة الحدودية(opens in a new window). ويؤكد خبرتنا مع حوادث عدم المواءمة والحوادث الأمنية المتعلقة بنماذجنا الخاصة الحاجة إلى ضمانات أقوى ومساءلة أكبر في جميع أنحاء الصناعة. وبناءً على تلك الدروس، يقدم المخطط مقترحات محددة للحكومات والصناعة في ثلاثة مجالات:
تعزيز السلامة والأمن للذكاء الاصطناعي المتقدم: وضع مسؤوليات أوضح لتأمين النماذج والوكلاء الحدوديين، وكشف السلوك الخطير، والحفاظ على ضوابط إيقاف تشغيل موثوقة للعمليات الخاضعة لسيطرة كل مؤسسة.
تحديث الأمن السيبراني لعصر الاستخبارات: تزويد المدافعين بأدوات وتدريب ودعم تقني متقدم؛ ومعالجة نقاط الضعف السيبرانية طويلة الأمد؛ والاستثمار في تأمين الخدمات الأساسية واستبدال الأنظمة المتقادمة.
بناء مؤسسات عامة مرنة وقابلة للتكيف: تعزيز التقييمات الحكومية والتقييمات التقنية المستقلة، ووضع متطلبات متسقة للإبلاغ عن الحوادث، وتحسين الاستجابة والتعافي المنسقين.
تتحمل مختبرات الذكاء الاصطناعي مسؤولية معالجة المخاطر التي تنشئها أنظمتها والمساعدة في تعزيز دفاعات المجتمع. ويجب أن تمتلك الحكومات أيضاً الخبرة والموارد والصلاحيات اللازمة لحماية الجمهور مع تقدم القدرات. نشجع صانعي السياسات على التحرك الآن—بوضع الضمانات، والتعلم من الخبرة، وتعزيز المتطلبات مع تطور التقنية.
اقرأ المخطط الكامل هنا(opens in a new window).