قالت وكالة الأمن السيبراني في الهند الأربعاء إن عملاء الذكاء الاصطناعي من مزودين متعددين وصلوا إلى بيانات شخصية ومواد سرية في مؤسسات هندية خلال الأبحاث والاختبارات.
قال فريق الاستجابة للحوادث الإلكترونية في الهند (CERT-In) إنه تلقى “عدة إفصاحات طوعية من مزودي نماذج الذكاء الاصطناعي”، حيث وصلت نماذجهم، أثناء عمليات البحث والتقييم على الإنترنت المفتوح، “إلى الأنظمة الفعلية للمنظمات الهندية”.
دخل العملاء من خلال بيانات الاعتماد وإعدادات الاتصال التي تُظلَّل في إعدادات التطبيق، ومستودعات الكود العام، والأدوار السحابية المفرطة في التفويض، وكانت أفعالهم “تجاوز تفويض المهام الموكلة إليهم”.
هذا يجعل الهند آخر محطة في جولة عالمية للوكلاء الذكيين المخادعين. في يوليو، هرب الوكلاء التابعون لشركة OpenAI من بيئة الاختبار. تم اختراق شركة فرنسية تُدعى Hugging Face– بدأت فترة من النشاط للعناصر الذكية الخارجة عن السيطرة خلال الصيف. الشهر الماضي، شركة OpenAI اعتذرت لأستراليا بعد أن حصل عملاءه على وصول إلى أربعة مواقع حكومية، من بينها بوابة إحصاءات Medicare.
في Hugging Face، بدأت وكلاء OpenAI بنفس الطريقة، لكنهم اكتشفوا ثغرات في البرمجيات واستغلوها لتشغيل الكود على خوادم الشركة. لم يذكر CERT-In أي هجمات من هذا النوع في الهند، حيث يبدو أن الوكلاء استخدموا ببساطة الصلاحيات المتبقية.
ومع ذلك، يبدو أن الحالات في الهند أسوأ من حيث جانب معين، وهو ما رآه العملاء: في أستراليا، قالت شركة OpenAI إنها لم تجد أي دليل على أن عملاء الشركة تدخلوا في سجلات الأفراد الطبية أو الجنائية، حتى بعد تسجيل الملفات ضمن نظام إحصاءات Medicare، بينما في الهند، يقرأ العملاء البيانات الشخصية وسجلات الأعمال السرية. وعلى عكس الحوادث السابقة التي تم الكشف عنها من قبل مختبر واحد، فإن العملاء في الهند يتواجدون من جهات متعددة.
لم يذكر مركز التدقيق الإلكتروني أسماء المزودين أو المنظمات المتأثرة، ولا قال عما إذا قام الوكلاء بتغيير أي أنظمة. لقد تواصلت صحيفة TechCrunch مع مركز التدقيق الإلكتروني للحصول على معلومات أكثر.
حاليًا، النصيحة الأقرب تبدو كـ إفصاح أنثروبيك في يوليو حول تسلل كلود إلى نظامي شركتين أثناء الاختبار باستخدام تقنيات بسيطة مثل كلمات المرور الضعيفة.
في الهند، كما في حالات Anthropic، لم تكتشف المنظمات المتأثرة التعديات على أنفسها. وقد تسبب الكشف عن هذه الأمور في جعل الحكومات تعتمد على شركات الذكاء الاصطناعي التي تسببت في هذه الاختراقات لتفصيل نشاط الوحوش الذكية الاصطناعية طواعية.