نبدأ عملية نشر تقارير أكثر تكرارًا حول سلوك النماذج، بخلاف ما يظهر في بطاقات النظام والتقارير المنتظمة للمخاطر.
تصف تقرير اليوم أربعة أنواع من السلوكيات التي تم تحديدها خلال التقييمات والاستخدام الداخلي. في كل منها، تصرف كلود على مواقع الويب أو الأنظمة الحقيقية بطرق لم نقصدها، وأحيانًا بتجاوز القيود بدلاً من التوقف.
كانت جميع الحالات ذات تأثير محدود في العالم الحقيقي. من وجهة التوافق والأمان، نعتبر هذه السلوكيات أقل خطورة بكثير من حوادث الأمن السيبراني التي أبلغنا عنها في يوليو وسبتمبر.
اقرأ التقرير الكامل: https://www.anthropic.com/research/investigating-unintended-model-actions