تُظهر الوثائق الداخلية أن قيادة الجيش السيبرانية تبني وكلاء ذكاء اصطناعي يتحركون عبر الشبكات الأخرى بمفردهم ويقومون بـ"تحييد" الأهداف. ويحذّر الخبراء من أن الضرر الجانبي سيكون شبه مستحيل السيطرة عليه.
تعمل قيادة الجيش السيبرانية (ARCYBER) على تطوير منصة تهدف إلى تحويل وكلاء الذكاء الاصطناعي إلى أسلحة مستقلة، وفقًا لوثائق حصلت عليها The Intercept. وتقول ورقة موجّهة للمتعاقدين المحتملين إن البرنامج، المُرمّز باسم "ECHOTRIBBLE"، "مصمّم للتنقل بشكل مستقل عبر البنية التحتية". ويُفترض أن يكون قادرًا على "تحديد وتحييد التهديدات/الأهداف المكتشفة."
حاليًا، ينفّذ الجنود عند أجهزة الحاسوب معظم عمليات الاختراق الهجومية لقيادة ARCYBER. وتوضح وثيقة أسئلة وأجوبة (Q&A) موجهة للمورّدين المهتمين أن ECHOTRIBBLE تركز "بشكل أساسي" على الهجمات. ووفقًا للوثيقة، قد يعني تحييد الهدف "تعطيل التهديد كليًا أو مؤقتًا، أو حذف التهديد من الهدف."
يُفترض أن يعمل النظام مثل دودة الحاسوب، قافزًا دون اكتشاف من جهاز إلى جهاز حتى يجد هدفه. ويُفترض أن ينجح ذلك في السحابة وكذلك في الأنظمة "المعزولة عن الشبكة" التي لا تملك اتصالًا شبكيًا. وبعد إنجاز المهمة، يُفترض أن يقوم الوكلاء بتدمير أنفسهم. ويمكن للجيش تحديد "محفزات مسبقة التعريف" في البداية، لكن يجب أن "يعمل البرنامج بأدنى قدر من الإشراف البشري" وأن يكون قادرًا على "سلوك موجه ذاتيًا."
تذكر The Intercept أن البرنامج لا يزال في مراحله المبكرة. وقد أظهر عرض تقديمي للمورّدين المحتملين في فعالية لقيادة ARCYBER بتاريخ 24 يونيو شكلًا محتملًا له. وبمجرد وصول البرنامج إلى حاسوب محمول، يقوم "بتحديد أهداف محتملة أخرى" على الشبكة نفسها و"ينتج نسخة طبق الأصل من نفسه مصممة خصيصًا لجهاز iPad وحاسوب Apple المكتبي وحاسوب Windows 11 الشخصي."
ECHOTRIBBLE سيحوّل حوادث مختبرات الذكاء الاصطناعي إلى سلاح
خلال الأشهر الماضية، اخترق وكلاء في اختبارات أجرتها OpenAI وشركات أخرى بشكل متكرر أنظمة خارجية وأنظمة مطوري أنفسهم دون قصد. وتضمنت الأهداف RubyGems, وHugging Faceوبوابة الإحصاءات الحكومية الأسترالية Medicare statistics portal. كما حاول الوكلاء اختراق وزارة التعليم الأمريكية. وفي أي من هذه الحالات لم يُطلب منهم الهجوم.
يقول ديفيد كروغر، أستاذ التعلم الآلي في جامعة مونتريال، إن الأنظمة الذكية رُصدت وهي تهاجم بوعي أنظمة لم تكن أهدافها أصلًا. ونظرًا لأنماط الفشل المعروفة هذه، فإن إصدار أوامر للأنظمة المستقلة بـ"تحييد" التهديدات أمر "خطير للغاية"، كما يقول.
ويحذّر هايرم أندرسون، المدير التنفيذي لشركة أمن الذكاء الاصطناعي Abundant، أيضًا من الضرر في الطريق إلى الهدف. فقد يضرب وكيل، على سبيل المثال، منشأة أمريكية لمعالجة المياه إذا أقام خصمٌ بنيته التحتية للقيادة هناك. وتواجه المنظمات الواقعة تحت "خط الفقر الأمني"، من عيادات الأسنان إلى البنية التحتية الحرجة، أكبر خطر، كما يقول. وتتعامل الوكلاء تحت الضغط غالبًا مع الضوابط الأمنية باعتبارها عوائق، وبمجرد أن يصبح الأمر "تدميرًا"، قد يتسع نطاق الانفجار بشكل كبير.
ويشير وليام مارشيلينو من مؤسسة RAND إلى غياب الحُكم لدى هذه الأنظمة. يقول إن الناس يثقون بجندي بحرية يبلغ من العمر 19 عامًا يحمل ذخيرة حية لأنه يعرف ما يكفي عن العالم ليدرك ما لا ينبغي عليه فعله. أما الذكاء الاصطناعي المتاح للعامة اليوم فلا يملك تلك القدرة.