يغيّر الذكاء الاصطناعي سرعة الأمن السيبراني وحجمه واقتصادياته. يمكنه مساعدة المدافعين على اكتشاف الثغرات وإصلاحها، ورصد الاختراقات، والاستجابة للهجمات—لكن القدرات نفسها يمكن أن تُمكّن جهات فاعلة خبيثة وتخلق مخاطر جديدة عندما تتصرف أنظمة الذكاء الاصطناعي بما يتجاوز حدودها المقصودة. نحن نمرّ بنافذة المدافع: فرصة محدودة لوضع الذكاء الاصطناعي المتقدم بين يدي المدافعين وتعزيز الحماية قبل أن تصبح قدرات الهجوم السيبراني المتقدمة متاحة على نطاق واسع.
اليوم، ننشر مخططًا لتمكين المدافعين السيبرانيين، مبنيًّا على خطة العمل السيبراني السابقة لدينا وعلى مخطط السلامة الرائدة(opens in a new window). ويؤكد تجربتنا مع حالات عدم التوافق والحوادث الأمنية المتعلقة بنماذجنا الخاصة الحاجة إلى ضمانات أقوى ومساءلة أكبر في كامل الصناعة. واستنادًا إلى تلك الدروس، يطرح المخطط مقترحات ملموسة للحكومات والصناعة في ثلاثة مجالات:
تعزيز السلامة والأمان للذكاء الاصطناعي المتقدم: وضع مسؤوليات أوضح لتأمين النماذج والوكلاء الرائدين، واكتشاف السلوك الخطير، والحفاظ على ضوابط إيقاف تشغيل موثوقة للعمليات تحت سيطرة كل منظمة.
ديثكرة الأمن السيبراني لعصر الاستخبارات: تزويد المدافعين بأدوات متقدمة وتدريب ودعم تقني؛ ومعالجة نقاط الضعف المزمنة في الأمن السيبراني؛ والاستثمار في تأمين الخدمات الأساسية واستبدال الأنظمة المتقادمة.
بناء مؤسسات عامة صامدة وقابلة للتكيف: تعزيز التقييمات الحكومية والتقييمات التقنية المستقلة، ووضع متطلبات متسقة للإبلاغ عن الحوادث، وتحسين الاستجابة والتعافي المنسقين.
تقع على عاتق مختبرات الذكاء الاصطناعي مسؤولية معالجة المخاطر التي تخلقها أنظمتها والمساعدة في تعزيز دفاعات المجتمع. ويجب أن تمتلك الحكومات أيضًا الخبرة والموارد والصلاحيات لحماية الجمهور مع تقدم القدرات. نشجّع صانعي السياسات على التحرك الآن—بوضع الضمانات، والتعلم من التجربة، وتعزيز المتطلبات مع تطور التقنية.
اقرأ المخطط الكامل هنا(opens in a new window).