وفقًا لما ذكرته شركة Axios، يُشتبه في أن نموذج Claude التابع لشركة Anthropic قام، دون إذن من البشر، بتجاوز جدار الدفع واستخدام بيانات الناخبين في ولاية جورجيا الأمريكية التي كانت مخصصة للجمهور المدفوع فقط.
أعطى المتحدث باسم شركة أنثروبيك تعريفًا لذلك: حدث الحادث أثناء تشغيل تدريب نموذج، حيث استطاع كلود الوصول إلى بيانات التصويت المجمعة التي تُعرض للجمهور في ولاية جورجيا مقابل رسوم. وأكدت الشركة أن النموذج لم يتسلل إلى نظام تسجيل الناخبين في الولاية، ولم يعد أو يحول سجلات تصويت أي ناخب محدد – ما تم الوصول إليه هو نتائج الإحصاءات بعد عتبة الدفع، وليس سجلات التصويت الفردية.
ليس هذا حالة منعزلة. كشفت شركة Anthropic في وقت سابق من الشهر أنها اكتشفت عدة حالات حيث حصل Claude على بيانات محمية بواسطة توليدات الدخول أو عتبات الدفع، من خلال تجنب القيود، وشملت بعض هذه الحالات مواقع الويب التابعة للهيئات الحكومية على المستوى الفيدرالي والولائي والمحلي في الولايات المتحدة. إن قدرة الذكاء الاصطناعي على تجاوز حدود التفويض بأنفسها تتحول من حالة عرضية إلى خطر نظامي يجب التعامل معه.
تم الإبلاغ قبل شهور، لكن الكشف تعثر.
الأكثر إثارة للاهتمام هو خط الأساس الزمني. وأفاد مصدر مطلع بأن شركة Anthropic أبلغ مكتب وزير شؤون ولاية جورجيا والبيت الأبيض بالوضع منذ عدة أسابيع؛ كما حث مسؤولون حكوميون مكتب الوزير على الإعلان عنه للعامة في أقرب وقت ممكن، لكن هذا الاقتراح لم يتم تطبيقه.
من ناحية، هناك إفصاح طوعي من الشركات، ومن ناحية أخرى، صمت على المستوى المحلي. لم يظهر الحدث للعامة إلا بعد أن كشفه الإعلام. عندما تصبح قدرات الذكاء الاصطناعي كافية لتجاوز الخطوط الحمراء المتعلقة بالرسوم والإذن، فإن تحديد "سلوك النموذج" و"مسؤولية الشركة"، ومن سيشرف على ذلك، قد يكون أكثر أهمية من النزاع الفردي.