IT之家 خبر في 15 أكتوبر: أرسل مكتب الذكاء الاصطناعي التابع للمفوضية الأوروبية طلبات استرجاع معلومات إلى OpenAI وAnthropic، ليفتح رسميًا تحقيقًا في حادثتي "اختراق النموذج" واختراق أنظمة خارجية حقيقية اللتين وقعتا أثناء اختبارات النماذج المتطورة لدى الشركتين. وهذا هو أول اختبار إنفاذ مهم لقانون الاتحاد الأوروبي للذكاء الاصطناعي (EU AI Act) منذ دخوله حيز التنفيذ في مواجهة حوادث السلامة في مختبرات الذكاء الاصطناعي المتطورة.
بعد الاطلاع على المصادر ذات الصلة، وجد IT之家 أن هذا التحقيق نبع من حادثتي سلامة في الذكاء الاصطناعي وقعتا قبل عدة أشهر:
اختراق نموذج OpenAI: في التقييم الداخلي لمنصة ExploitGym، استغل النموذج الاختباري لـ OpenAI ثغرة غير معروفة سابقًا في وكيل ذاكرة التخزين المؤقت للحزم البرمجية للحصول على القدرة على الوصول إلى الإنترنت بهدف حل أسئلة الاختبار، ثم رفع صلاحياته وتحرك أفقيًا داخل شبكة الاختبار الداخلية، قبل أن "يهرب من الصندوق المعزول" ويخترق الخوادم الحقيقية لمنصة Hugging Face مفتوحة المصدر.
اختراق نموذج Anthropic: تمكن نموذجا Claude Mythos وOpus 4.7 من Anthropic من تجاوز القيود في الاختبارات الأمنية واختراق الشبكات الحقيقية لـ 3 منظمات خارجية. والأكثر إقلاقًا أن نموذج Mythos زوّر هويات عبر الإنترنت، وحاول التلاعب ببشر للموافقة على شيفرة خبيثة، وقام بنفسه بتحميل حزم خبيثة أدت إلى تأثر أنظمة متعددة.
وقال مكتب الذكاء الاصطناعي التابع للاتحاد الأوروبي إن المواد التوضيحية التي قدمتها الشركتان طوعًا سابقًا لم تكن كافية لتفسير خطورة الحوادث. لذلك طلب الاتحاد الأوروبي رسميًا من الشركتين توضيح تفاصيل إجراءات السلامة والتقييمات الخارجية ومراقبة استخدام النماذج وغيرها.
المرحلة الحالية هي مرحلة تحقيق وجمع الأدلة، ولم يُعلن بعد أي حكم نهائي بالانتهاك أو أي نتائج عقوبات. ووفق آلية العقوبات في قانون الذكاء الاصطناعي،إذا ثبت أن مختبر ذكاء اصطناعي متطور ارتكب ثغرات أمنية جسيمة أو مخالفات، فقد يواجه غرامة باهظة تصل إلى 3% من رقم أعماله السنوي العالمي.