أبحاث جديدة في مجال الأنثروبيك: أتمتة البحث في الاختلافات الخفية الناشئة.

أبحاث جديدة في مجال الأنثروبيك: أتمتة البحث في الاختلافات الخفية الناشئة.

التجربة الحمراء هي جزء أساسي من اختبار أمان النماذج، لكنها محدودة أيضًا بسبب وقت الباحثين. لنجد ما إذا كان يمكن أتمتتها، قمنا بتعيين آلاف وكلاء Claude بمهمة تجنب مراقب بيانات التدريب.

قامت هذه الوكلاء بتطوير بيانات تدريب كانت تبدو غير ضارة بالمراقبين (مثل ملاكم مخضرم يوجه جديدًا، أو استفسارات وإجابات حول تربية النحل المهنية)، لكن في الواقع علمت تلك البيانات السلوكيات غير المتوافقة.

يمكن استخدام أمثلة من هذا النوع لتحسين مراقبي بيانات التدريب في المستقبل مباشرة. هذه الأبحاث هي خطوة أولى فقط، لكنها تشير إلى أن جهود التدريب المستقبلية يمكن أن تتحسن أكثر بكثير، من خلال استخدام نماذج أفضل وأكثر قوة في الحوسبة.

اقرأ المقال الكامل على مدونة علوم التوافق: https://alignment.anthropic.com/2026/automated-em-search/