في Block، الشركة التي تقف خلف Square وCash App وAfterpay، يستفيد فريق الأمن من OpenAI Defense Factory: حيث يتولى الذكاء الاصطناعي اكتشاف الثغرات وكشفها والاستجابة لها على نطاق لا يستطيع أي فريق بشري مواكبته. وبفضل أنظمة الذكاء الاصطناعي بما فيها OpenAI Daybreak، تنجز Block أعمالاً كانت تستغرق أسابيع في غضون ساعات قليلة فقط.
“الذكاء الاصطناعي يضغط الوقت الفاصل بين النية البشرية والفعل. ولفتة طويلة، كان يُفترض أن المهاجمين يتمتعون بميزة لأنهم أسرع وأكثر رشاقة. لكن مع أدوات مثل Daybreak والتقدم في أدوات OpenAI، صبح المدافعون قادرين على مقاومة النار بالنار ومواكبة الوتيرة السريعة لتبني الذكاء الاصطناعي.”—جيمس نيتسهايم، كبير مسؤولي أمن المعلومات، Block
ركز فريق الأمن في Block على تبني الذكاء الاصطناعي بمسؤولية عبر سير العمل، سواء في توليد الأكواد أو العمليات الأمنية. يقول جيمس نيتسهايم، كبير مسؤولي أمن المعلومات: “الجوهر الحقيقي هو امتلاك زميل جديد يمكنك التوسع معه. إنه ليس الأتمتة التقليدية التي كنت مضطراً فيها للمضي خطوة بخطوة. يمكنك أن تطلب منه مشكلة خاصة إلى حد ما وغامضة، ثم تعمل على حلها معاً.”
المشاريع مثل مراجعة خلل برمجي أو تحليل سجل ما كانت تستغرق أياماً أو أسابيع لإنجازها. والآن يمكن للفريق إتمام تلك المشاريع في جزء بسيط من الوقت، مع استمرار إنسان في التحقق من كل نتيجة.
على سبيل المثال، في ضبط الكشف، تخزّن كل عملية تحقق أدلتها الاستعلامية الخام، بحيث يستطيع الفريق الآن إعادة تشغيل تغيير مقترح في الكشف مقابل سبعة أشهر من بيانات القياس في بيئة الإنتاج في أقل من ساعة. كانت هذه الأعمال تعني إعادة الاستعلام اليدوي عن مئات الحالات القديمة، وكثيراً ما نادراً ما كانت تحدث فعلياً لاستهلاكها الكثير من الوقت.
أصبح الفريق أيضاً أكثر حرصاً في اختيار النموذج المناسب لكل مهمة. يقول: “كنا نستخدم أحدث نموذج، لكن لم يعد ذلك ضرورياً. لقد كانت تجربة تعليمية اختيار نماذج مختلفة لمهام مختلفة.” يعتمد إطار الأمن في Block على Daybreak للمساعدة في توجيه المهام إلى النموذج الصحيح، ويتضمن آليات تمكّن البشر من تولي المهام أو من الوكلاء من التحقق من أعمال بعضهم البعض. ويقيّم الفريق هذه الأنظمة باستمرار مقابل معايير داخلية وأداء واقعي، ويعدّل نهجه عند الحاجة، بما في ذلك توجيه الأعمال إلى المراجعة البشرية حين يكون ذلك هو المسار المسؤول.
أدى نظام الفرز الآلي إلى إنجاز أعمال أسرع (وأكثر منها). فقد سجّل فريق الأمن في Block زيادة بنسبة 50% في إنتاجية الفرز، وزيادة بنسبة 50% في جمع المعلومات والتحقيقات، وقدرة جديدة كلياً على البحث المستقل. يقول نيتسهايم: “تُنجز هذه القدرة نحو 1,100 ساعة محلل من التحقيق في كل ربع سنة، لأن كل تنبيه يحصل الآن على تحقيق كامل وعميق في جميع العناصر التي يتضمنها التنبيه. يعمل نظامنا على كل تنبيه وكأنه التنبيه الوحيد لدينا في ذلك اليوم.”
OpenAI Defense Factory في العمل
أدوات الفحص التقليدية تؤشر على ثغرة واحدة بمعزل عن غيرها، لكن فريق الأمن في Block يستطيع الذهاب أبعد من ذلك مع Daybreak. يساعد النموذج في تكوين فرضيات حول أنماط الهجمات وربط سلسلة من الهجمات في مسار اختراق كامل من البداية إلى النهاية، مكاشفاً ثغرات ربما ظلت قائمة لسنوات.
في إحدى الحالات، بدأ تنبيه على حاسوب محمول واحد وكأنه مشكلة سياسة بسيطة في حد ذاته. لكن أثناء المراجعة المتبادلة، تبع النموذج مؤشراً ظهر عرضاً في الأدلة فقط، وقارنه بسجلات الهوية في Block، وكشف عن مجموعة من المشكلات أكبر بكثير. يقول جيمس: “تحوّل تنبيه نقطة نهاية روتيني إلى تفكيك حملة كاملة. لا توجد أداة واحدة تستطيع إجراء هذا الربط. الإشارة لا توجد إلا عبر سجلات منتجين.”
ومن الأمثلة الأخرى التي ساعد فيها Daybreak تدريب حديث للفريق الأحمر. أُعطي النموذج بعض التلميحات حول نظام داخلي، فربط مسار هجوم كامل—حقن SQL، وتصعيد الصلاحيات، واكتساب موطئ قدم، وحصر بيانات الاعتماد، والانتقال إلى أنظمة أخرى—في حوالي ساعتين. هذا ما يستغرق عادةً عدة أيام من عمل أحد أعضاء الفريق الأحمر البشريين. وفي تدريبات حديثة للفريق الأحمر، بلغ الوقت من الإبلاغ عن ثغرة عالية المستوى إلى ترقيع مقترح آلي 18 دقيقة.
اكتشاف الثغرات لا قيمة له دون القدرة على إصلاحها. يستعرض نيتسهايم العملية التي يستخدمها فريقه مع كل نتيجة: تحديد موقع المشكلة في الكود وتحديد مسؤولها، ثم الانتقال إلى المعالجة. “تقترح ترقيعاً، وتؤكد قابلية الاستغلال، ثم تتحقق من أنك أصلحت المشكلة، مع بقاء إنسان في الحلقة يوجّه العمل وينشر تغييرات الكود.”
رغم أن الوكلاء قادرون تقنياً، إلا أنهم لا يحملون سياق المؤسسة أو الأسباب الكامنة وراء القرارات السابقة. يوفر الإنسان هذا السياق والاستراتيجية، وهنا يأتي دور فريقه في توفير طبقة بشرية من المراجعة. ومع إثبات حكم الذكاء الاصطناعي في الممارسة العملية، يقول نيتسهايم: “سنرفع تدريجياً مستوى المخاطرة لاستخدامه في أنظمة أكثر حساسية.”
النتائج في لمحة
أقل من ساعة واحدة لإعادة تشغيل تغيير مقترح في الكشف مقابل سبعة أشهر من بيانات القياس.
18 دقيقة من الإبلاغ عن ثغرة عالية المستوى إلى ترقيع مقترح آلي في تدريبات حديثة للفريق الأحمر.
نحو 600 ساعة محلل في الربع الواحد عادت من فرز الإنذارات الكاذبة.
حوالي 1,100 ساعة محلل من التحقيق تُنجز في الربع الواحد.
زيادة بنسبة 50% في إنتاجية الفرز.
زيادة بنسبة 50% في جمع المعلومات والتحقيقات.
الخطوات القادمة
أعمال الكشف والاستجابة وحدها أعادت نحو 600 ساعة محلل في الربع الواحد كانت تُصرف سابقاً على فرز الإنذارات الكاذبة. وباستعادة هذا الوقت، يمضي الفريق الآن وقتاً أطول في تحقيقات أعمق وبناء المزيد من الأتمتة بمسؤولية.
مع تسارع وتيرة الهجمات واستمرار تقدم نماذج الذكاء الاصطناعي، يرى نيتسهايم فرصة لتقليل عدد الثغرات الأمنية التي تُقدَّم من الأساس. وهذا من شأنه أن يتيح لفرق الأمن قضاء وقت أقل في الترقيع ووقت أكبر في العمل الوقائي والاستراتيجي.
ويقول: "تعمل OpenAI على تحويل الميزة لمصلحة المدافعين من خلال وضع هذه القدرات المتقدمة في متناول الجميع. وكانت عادةً حكراً على شركات التكنولوجيا البارزة جداً والحكومات فقط. أما الآن فيمكن للجميع، بمن في ذلك البنية التحتية الحيوية والمدارس والشركات الصغيرة، البدء في استخدام هذه التقنية للدفاع عن شبكاتهم".