في Block، الشركة التي تقف خلف Square وCash App وAfterpay، يستفيد فريق الأمن من OpenAI Defense Factory: حيث يتولى الذكاء الاصطناعي اكتشاف الثغرات وكشفها والاستجابة لها على نطاق لا يستطيع أي فريق بشري اللحاق به. وبفضل أنظمة الذكاء الاصطناعي بما فيها OpenAI Daybreak، تنجز Block في ساعات قليلة عملاً كان يستغرق أسابيع.
“الذكاء الاصطناعي يضغط الوقت الفاصل بين النية البشرية والفعل. ولعصور كان يُفترض أن للمهاجم ميزة لأنه أسرع وأكثر رشاقة. لكن مع أدوات مثل Daybreak والتقدم في أدوات OpenAI، أصبح المدافعون قادرين على مقاومة النار بالنار ومواكبة وتيرة تبنّي الذكاء الاصطناعي المتسارعة.”—جيمس نيتسايم، الرئيس التنفيذي لأمن المعلومات، Block
ركز فريق الأمن في Block على تبنّي الذكاء الاصطناعي بشكل مسؤول عبر سير العمل، سواء في توليد الشيفرة البرمجية أو في العمليات الأمنية. يقول جيمس نيتسايم، الرئيس التنفيذي لأمن المعلومات: “المحور الحقيقي هو امتلاك زميل جديد يمكنك التوسع معه. ليس الأمر كالأتمتة التقليدية التي كنت مضطراً فيها للسير خطوة بخطوة. يمكنك أن توجّه إليه مشكلة غامضة نسبياً ومصممة على هيئة معينة وتعمل على حلها معاً.”
المشاريع مثل مراجعة خطأ برمجي أو تحليل سجل كانت تستغرق أياماً أو أسابيع لإكمالها. والآن يمكن للفريق إتمام تلك المشاريع في جزء بسيط من الوقت، مع بقاء إنسان يتحقق من كل نتيجة.
على سبيل المثال، في ضبط الكشف، يحفظ كل تحقيق أدلته الخام من الاستعلامات، بحيث يستطيع الفريق الآن إعادة تشغيل تغيير مقترح في الكشف مقابل سبعة أشهر من بيانات القياس عن بُعد في بيئة الإنتاج في أقل من ساعة. كان هذا العمل يتطلب سابقاً إعادة الاستعلام يدوياً عن مئات الحالات القديمة، وكثيراً ما لم يكن يحدث فعلياً بسبب استهلاكه الكثير من الوقت.
كما أصبح الفريق أكثر انتقائية بشأن النموذج الذي يستخدمه لكل مهمة. يقول: “كنا نستخدم أحدث نموذج، لكن لم يعد ضرورياً فعل ذلك. لقد كانت تجربة تعليمية اختيار نماذج مختلفة لمهام مختلفة.” مبني نظام الأمن في Block فوق Daybreak للمساعدة في توجيه المهام إلى النموذج المناسب، ويتضمن آليات تمكّن البشر من تولي المهام أو الوكلاء من التحقق من أعمال بعضهم البعض. ويقيّم الفريق هذه الأنظمة باستمرار مقابل معايير داخلية وأداء في العالم الحقيقي، ويعدّل نهجه عند الحاجة، بما في ذلك توجيه العمل إلى مراجعة بشرية عندما يكون ذلك هو المسار المسؤول.
أدى نظام الفرز الآلي إلى إنجاز عمل أسرع (وأكثر منه). فقد سجّل فريق الأمن في Block زيادة بنسبة 50% في إنتاجية الفرز، وزيادة بنسبة 50% في جمع المعلومات الاستخباراتية والتحقيقات، وقدرة جديدة كلياً على البحث الآلي. يقول نيتسايم: “يؤدي هذا نحو 1,100 ساعة محلل من التحقيق في كل ربع سنة، لأن كل تنبيه يحصل الآن على تحقيق كامل وعميق عبر جميع العناصر التي يتضمنها التنبيه. يعالج نظامنا كل تنبيه وكأنه التنبيه الوحيد لدينا في ذلك اليوم.”
OpenAI Defense Factory في العمل
أدوات الفحص التقليدية تضع علامة على ثغرة واحدة بعيداً عن سياقها، لكن فريق الأمن في Block يستطيع الذهاب إلى أبعد من ذلك بكثير مع Daybreak. يساعد النموذج في تكوين فرضيات حول أنماط الهجوم وربط سلسلة من الهجمات في مسار اختراق كامل من البداية إلى النهاية، كاشفاً ثغرات ربما وُجدت منذ سنوات.
في إحدى الحالات، بدا التنبيه على حاسوب محمول واحد مجرد مشكلة بسيطة في السياسات بحد ذاته. لكن أثناء المراجعة النظيرة، تتبع النموذج مؤشراً ظهر صدفةً فقط في الأدلة، وربطه بسجلات الهويات في Block، وكشف مجموعة أكبر بكثير من المشاكل. يقول جيمس: “تنبيه روتيني واحد على نقطة نهاية تحوّل إلى إسقاط حملة كاملة. لا توجد أداة واحدة تستطيع إجراء هذا الربط. الإشارة لا توجد إلا عبر سجلَّي منتجين.”
مثال آخر ساعد فيه Daybreak كان خلال تمرين حديث للفريق الأحمر. أُعطي النموذج بعض التلميحات حول نظام داخلي، فربط معاً مسار هجوم كامل—حقن SQL، وتصعيد الصلاحيات، وترسيخ موطئ قدم، وتعداد بيانات الاعتماد، والانتقال إلى أنظمة أخرى—في نحو ساعتين. هذا ما يتطلب عادةً عدة أيام من عمل أحد أعضاء الفريق الأحمر البشر. في تمارين الفريق الأحمر الأخيرة، بلغ الوقت من إبلاغ ثغرة عالية المستوى إلى ترقيع مقترح آلي 18 دقيقة.
إيجاد الثغرات لا قيمة له دون القدرة على إصلاحها. يستعرض نيتسايم العملية التي يتبعها فريقه مع كل نتيجة: تحديد موقع المشكلة في الشيفرة ومعرفة مالكها، ثم الانتقال إلى المعالجة. يقول: “تقترح ترقيعاً، وتؤكد إمكانية استغلال الثغرة، ثم تتحقق من أنك أصلحتها، مع بقاء إنسان في الحلقة يوجّه العمل وينشر تغييرات الشيفرة.”
رغم أن الوكلاء قادرون تقنياً، إلا أنهم لا يحملون سياق المنظمة أو المنطق الكامن وراء القرارات السابقة. يوفر الإنسان ذلك السياق والاستراتيجية، وهنا يأتي دور فريقه في تقديم طبقة بشرية من المراجعة. ومع إثبات حكم الذكاء الاصطناعي في الممارسة العملية، يقول نيتسايم: “سنرفع تدريجياً مستوى المخاطرة لاستخدامه في أنظمة أكثر حساسية.”
النتائج في لمحة
أقل من ساعة واحدة لإعادة تشغيل تغيير مقترح في الكشف مقابل سبعة أشهر من بيانات القياس عن بُعد.
18 دقيقة من إبلاغ ثغرة عالية المستوى إلى ترقيع مقترح آلي في تمارين الفريق الأحمر الأخيرة.
نحو 600 ساعة محلل في كل ربع سنة مستعادة من فرز الإنذارات الكاذبة.
نحو 1,100 ساعة محلل من التحقيق مكتملة في كل ربع سنة.
زيادة بنسبة 50% في إنتاجية الفرز.
زيادة بنسبة 50% في جمع المعلومات الاستخباراتية والتحقيقات.
ما التالي
عمل الكشف والاستجابة وحده استعاد نحو 600 ساعة محلل في كل ربع سنة كانت تُستهلك سابقاً في فرز الإنذارات الكاذبة. وباستعادة هذا الوقت، يخصص الفريق الآن وقتاً أكبر للتحقيقات الأعمق وبناء مزيد من الأتمتة بشكل مسؤول.
مع تسارع وتيرة الهجمات واستمرار تقدم نماذج الذكاء الاصطناعي، يرى نيتسهايم فرصة لتقليل عدد الثغرات الأمنية التي تُقدَّم من الأساس. وسيحرر ذلك فرق الأمن لقضاء وقت أقل في إصلاح الثغرات ووقت أكبر في العمل الوقائي والاستراتيجي.
يقول: "تُحوِّل OpenAI الميزة إلى المدافعين من خلال وضع هذه القدرات المتقدمة بين يدي الجميع. لقد كانت عادةً حكرًا على شركات التكنولوجيا البارزة جدًا والحكومات فقط. لكن الجميع، بما في ذلك البنية التحتية الحيوية والمدارس والشركات الصغيرة، يمكنهم الآن البدء في استخدام هذه التقنية للدفاع عن شبكاتهم."