الملياردير المستثمر مارك كيوبان: الدفاع ضد الوكلاء الذكية الخارجة عن السيطرة يشبه مكافحة الصراصير، ويمكن استخدام الذكاء الاصطناعي "لرش…

IT之家 في 24 أكتوبر، وبخصوص مشكلات الأمن السيبراني في عصر الذكاء الاصطناعي، طرح الملياردير ورائد الأعمال والمستثمر مارك كيوبان فكرة مثيرة للاهتمام حول "مكافحة الآفات".

وفقًا لما نقلته مجلة Business Insider اليوم (24)، قارن كيوبان الهجمات السيبرانية التي تشنها أعداد كبيرة من وكلاء الذكاء الاصطناعي بغزو الصراصير: حتى لو رُشّ المنزل للتو بمبيد حشري، تظل الصراصير قادرة على إيجاد طريقة للتسلل إلى الداخل. "أسأل دائمًا خبراء الأمن السيبراني: عند سماع مختلف الهجمات القرصانية والاختراقات التقنية والمشكلات الأمنية، هل اخترع الذكاء الاصطناعي فعلًا حيلة جديدة؟ الجواب لا.الذكاء الاصطناعي لم يبتكر وسائل هجوم جديدة، بل هو قادر فقط على شن هجمات بكميات هائلة، وجوهرها يبقى التخمين بالقوة الغاشمة。”

في نظر كيوبان، هناك أوجه شبه بين الوقاية من الهجمات السيبرانية للذكاء الاصطناعي ومنع دخول الصراصير إلى المنازل. "المنطق مثل منع الصراصير تمامًا. ما دام هناك من يصنع عددًا كافيًا من وكلاء الذكاء الاصطناعي، فستوجد دائمًا طريقة للعثور على مدخل النظام ثم استغلال الثغرات المكتشفة. الخبر الجيد أننا يمكننا أيضًارشّ النظام بمبيد باستخدام كميات كبيرة من الذكاء الاصطناعي. أعتقد أن المزيد من الناس سيبذلون جهودًا لمنع الهجمات الخبيثة. أنا متشائم إطلاقًا بشأن الذكاء الاصطناعي".

بدأت صناعة الذكاء الاصطناعي أيضًا في تشكيل "فرق مكافحة الآفات" الخاصة بها لمواجهة المخاطر الأمنية. خلال العام الماضي، ارتفع عدد إعلانات وظائف الأمن التي نشرتها OpenAI على لينكدإن بنسبة 91%، وتشمل مجالات اختبار الأنظمة والبحوث التقنية والحوكمة.

اطلع IT之家 على أن بعض المخاطر ظهرت بالفعل أثناء الاختبار. كشفت Anthropic أن ثلاثة نماذج Claude وصلت دون تصريح إلى أنظمة تشغيل فعلية تابعة لمؤسسات معنية بسبب خطأ في إعداد بيئة اختبار من طرف ثالث. بعد ذلك، أدخلت Anthropic نموذج تصنيف فوري لتحديد سلوك نماذج الذكاء الاصطناعي الذي يحاول تجاوز بيئة الاختبار ومنعه.

يرى كيوبان أنه رغم أن الذكاء الاصطناعي خفّض عتبة تنفيذ الهجمات الخبيثة، يمكن للمدافعين بالمثلتعزيز قدرات الحماية للأمن السيبراني باستخدام الذكاء الاصطناعي. "بالتأكيد ستحدث أشياء سيئة، لكن الهجمات السيبرانية لم تكن يومًا أمرًا جديدًا. إذا كان المهاجمون قادرين على شن الهجمات بالاعتماد على التخمين بالقوة الغاشمة على نطاق واسع، فيمكن للمدافعين أن يتعاملوا بالطريقة نفسها".