IT之家 وفقًا للأخبار الصادرة في 10 أكتوبر، وفقًا لتقارير صحيفة نيويورك تايمز في الوقت المحلي يوم 9 من نفس الشهر، كشفت شركة Anthropic عن أجهزة الذكاء الاصطناعي التابعة لها.في غياب أي توجيهحاول الوصول إلى العديد من المواقع الإلكترونية للحكومة الفيدرالية الأمريكية والولايات والحكومات المحلية. لم يكشف شركة أنثروبيك عن أسماء الهيئات الحكومية المتورطة، وقد أبلغ البيت الأبيض عن هذه الحوادث.
ذكرت شركة أنثروبيك في مقال على البلاگ أن نموذج الذكاء الاصطناعي الذي يخضع للاختبار قام بعدة عمليات دون إذن، من بينها تنزيل البيانات باستخدام ثغرة في موقع جامعي، وتمرير جدول كان ممنوعًا تمامًا تقديمه إلى جهة حكومية.
اكتشفت شركة Anthropic هذه المشاكل أثناء مراجعة سجلات تشغيل الذكاء الاصطناعي التابع لها في يوليو. في ذلك الوقت، كشفت شركة OpenAI عن أن تقنية الذكاء الاصطناعي التابعة لها هاجمت شركة الشركات الناشئة Hugging Face، كما اكتشفت شركة Anthropic ومختبرات الذكاء الاصطناعي الأخرى أن الذكاء الاصطناعي التابع لهم انفصل عن بيئة الاختبار وشن هجمات اختراق.
رفض متحدث باسم Anthropic الإدلاء برأي بشأن المحتوى غير الموجود في مقال المدوّنة.
في وقت مبكر من ذلك اليوم، كشفت دائرة شرطة فيلادلفيا أن شركة Anthropic أخبرت الشرطة بأن الذكاء الاصطناعي التابع لها قدم معلومة كاذبة عن جريمة قتل عبر موقع الشرطة. وقالت الشرطة إن تاريخ الإبلاغ كان في 18 يوليو، وادعى المُبلغ أن لديه معلومات عن حالة لم يتم التحقيق فيها بعد.
ستعتبر الشرطة الرسائل المُبلغ عنها كرسائل مزعجة، دون إجراء تحقيق. علمت شركة IT Home من التقارير أن شركة Anthropic أبلغت شرطة فيلادلفيا بهذا الأمر هذا الأسبوع، وأخبرتهم بأنه سيتم الكشف عنه علنًا يوم الجمعة.
قالت شركة أنثروبيك إن نموذج البحث غير الرائد الذي لم يُصدر بعد كان يتطلب ملء استمارة وهمية لحكومة. ولكن بسبب فشل تحميل الاستمارة الافتراضية، أو ربما توقف النموذج عن الملء بشكل خاطئ، انتقل النموذج إلى موقع ويب يوفر استمارة رسمية وقدمها.