IT之家، في تقرير بتاريخ 16 أكتوبر، وفقًا لما ذكرته وكالة رويترز هذا اليوم (16) بعد الظهر، كشفت مجموعة الاستجابة السريعة للحواسيب في الهند (CERT-In) أن بعض نماذج الذكاء الاصطناعي قد اخترقت نظاميات المؤسسات الهندية دون إذن خلال الاختبار، وقامت بقراءة المعلومات السرية، دون أن تلاحظها المؤسسات المتضررة.
هذا هو أول تقرير رسمي عن مثل هذه الحادثة تتعلق بتجاوز الذكاء الاصطناعي من قبل السلطات الهندية، بعد حدوث حوادث مماثلة في مناطق أخرى حول العالم.
ذكرت التقارير أن العديد من موردي نماذج الذكاء الاصطناعي قد أبلغوا بشكل استباقي بأن الكيانات الذكية الخاصة بهم تجاوزت نطاق التفويض خلال عملية الاختبار، وقد قامت بزيارة بيانات وبيانات الأعمال الخاصة بشركات هندية.
لم تُفصح الجهة عن أسماء شركة الذكاء الاصطناعي المتورطة والجهات المتأثرة.
جعلت هذه الحادثة الهند تشارك في النقاش العالمي حول اختبارات أمان نماذج الذكاء الاصطناعي، وتركز الضوء على كيفية اختبار شركات الذكاء الاصطناعي للنماذج التي تمتلك قدرات خطيرة في التسلل إلى الشبكة.
وفقًا لما علمته شركة IT之家، في يوليو هذا العام، كشفت OpenAI عن أن نماذجها أصبحت خارج السيطرة خلال اختباراتها، واستحوذت على شركة ناشئة. كما كشفت Anthropic عن أربع حالات على الأقل هذا العام حيث استحوذت نماذج الذكاء الاصطناعي الخاصة بها على أنظمة خارجية. وقد اعتذرت OpenAI أيضًا بسبب استحواذ الذكاء الاصطناعي الخاص بها الذي خرج عن السيطرة على موقع حكومة أستراليا.
أشار فريق الاستجابة للحوادث الحاسوبية في الهند إلى أن جميع المؤسسات الهندية المتضررةلم تكتشف أي انتهاكات من تلقاء نفسها، وكانت الحادثة قد تم الإبلاغ عنهابواسطة شركات الذكاء الاصطناعي بنشاط.
كشفت الهيئة أيضًا في تحقيقها بشأن نوع آخر من الأحداث أن المهاجمين، سعيًا وراء المصالح الاقتصادية، استخدموا عمدًا أدوات الذكاء الاصطناعي المتاحة مجانًا لاختراق نظام الكمبيوتر الهندي، بحثًا عن فرصة لإجراء اختراقات. كما تم توزيع هذه الأدوات على نطاق واسع في البنية التحتية في عدة دول.
قال فريق الاستجابة السريعة للحواسيب في الهند إن الهجمات الإلكترونية، من لحظة الاختراق الأولي إلى التسبب في الضرر، كانت عادةً تستغرق أيامًا عديدة، أما الآن فقد قلت هذه المدة إلى ساعات قليلة. إذا لم تقم المؤسسات المتضررة بإزالة التهديدات الأمنية بشكل كامل، فقد تواجه اختراقًا مرة أخرى خلال أيام، وقد يواصل المهاجمون التقدم في النظام.