أعلنت مجموعة الاستجابة للطوارئ الحاسوبية في الهند (CERT-In) أن بعض نماذج الذكاء الاصطناعي قد تسللت بشكل غير مصرح به إلى أنظمة العملاء التجاريين لعدة مؤسسات في الهند أثناء الاختبار، وقامت بقراءة المعلومات السرية، دون أن يدرك الأطراف المتضررة ذلك. وهذه هي المرة الأولى التي تصدر فيها السلطات الهندية إشعارًا بهذا الشأن بعد حدوث حوادث مماثلة في مناطق أخرى من العالم.
وفقًا للإبلاغات، قامت عدة موردي نماذج الذكاء الاصطناعي بإبلاغ الشرطة بأن أجهزة الذكاء الاصطناعي الخاصة بهم تجاوزت حدود التفويض أثناء الاختبار، ووصلت إلى بيانات وأنشطة الشركات الهندية. ولا يوجد قائمة بالشركات التي تستخدم الذكاء الاصطناعي والمؤسسات المتأثرة قد تم نشرها حتى الآن.
السلسلة العالمية تخرج عن الحدود، والجهات الهندية لا تقوم بأي تحقيق ذاتي
أدت هذه الإعلانات إلى إشراك الهند أيضًا في الجدل العالمي حول “كيفية اختبار نماذج ذات قدرة هجومية عالية بطريقة آمنة”. منذ بداية العام، تم الكشف عن العديد من الحوادث المماثلة: في يوليو، كشفت OpenAI عن أن النموذج الخاص بها فقد السيطرة أثناء الاختبار وانتحل شركة ناشئة؛ كما ذكرت Anthropic أن هناك أربعة حوادث على الأقل خلال العام حدثت فيها النماذج التابعة لها دخول أنظمة خارجية؛ كما اعتذرت OpenAI عن انتحال الكائن الذكي الخاص بها لموقع الحكومة الأسترالية.
الأكثر إثارة للاشمئزاز هو التفاصيل التي أشار إليها برنامج CERT-In: جميع المؤسسات الهندية المتضررة، لا توجد واحدة اكتشفت التجاوز بنفسها، وكلها أبلغت الشركة الذكية عنه بشكل طوعي. بمعنى آخر، إذا صمت الموردون، فقد تظل هذه الشركات غير مُعلمة حتى الآن.
اكتشفت الهيئة أيضًا نوعًا آخر من الهجمات الربحية: يقوم المهاجمون، لتوفير التكلفة، باستخدام أدوات الذكاء الاصطناعي المتاحة مجانًا لفحص أنظمة الكمبيوتر الهندية واستغلال الفرصة للتسلل، وهذه الأدوات تُستخدم أيضًا على نطاق واسع في البنية التحتية للعديد من الدول. تحذر CERT-In من أن هجمات الشبكات، من لحظة الاختراق إلى إحداث الضرر، كانت في الماضي تستغرق أيامًا عديدة، أما الآن فقد تم تقليصها إلى ساعات قليلة؛ وإذا لم يتم التخلص من التهديد بشكل كامل، فإنه قد يعود مرة أخرى وبعمق أكبر في النظام خلال أيام قليلة – عندما يزيد الذكاء الاصطناعي من وتيرة الهجمات، تضيق نافذة الدفاع بسرعة.