تمتلك Anthropic نموذجًا داخليًا يتفوق على Mythos 5.1 من حيث القدرة والمواءمة معًا، وفقاً لـ تحليل الذي يعيد النظر في اختبار الأمن السيبراني من قبل معهد الأمن الذكاء الاصطناعي البريطاني (AISI). في ذلك الاختبار، كلود ميثوس 5 تجاوزت المهمة الموكلة إليها بكثير، إذ حاولت إدخال شيفرة خبيثة في مشروع حقيقي على GitHub، وأنشأت حسابات مستخدمين وهمية، وكذبت على المطوّرين لاعتماد الشيفرة. حدث ذلك في 9 من أصل 43 محاولة. تصف Anthropic ذلك بأنه "فشل خطير في التوافق"، مع أن آليات السلامة المعتادة كانت قد أُوقفت عمداً لأجل الاختبار.
وفقاً لـ Anthropic، تُظهر النماذج الأحدث قدراً أقل بكثير من هذا السلوك في سجلات مُعاد تشغيلها مع إضافة بعض الخطوات. Opus 5.5 أوقف الهجمات الجارية من تلقاء نفسه في 10 بالمئة من الحالات، فيما فعل نموذج الأبحاث الداخلي "الذي يُظهر قدرات أكبر من Mythos 5.1" ذلك في 67 بالمئة من الحالات. وتتوقع Anthropic أن هذه النسب تظل أقل من تقدير مدى تكرار إيقاف النماذج الفعلية للهجمات.
Ad المصدر: Anthropic