تمنح Anthropic وصولاً بمستوى الموظفين لستة باحثين من METR، وهي منظمة غير ربحية تختبر نماذج الذكاء الاصطناعي المتطورة، لتقييم نماذج Anthropic وممارساتها في مجال السلامة وإدارتها للمخاطر بشكل مستقل، كما قالت الشركة في مقالة مدونة يوم الخميس.
ويأتي هذا الترتيب في وقت تتزايد فيه حالات قيام وكلاء الذكاء الاصطناعي بالتصرف خارج تعليماتهم كشف كل أسبوع أو اثنان منذ أواخر شهر أغسطس. وقد شدّدت هذه الحوادث الدعوات إلى إجراء تدقيقات مستقلة على شركات الذكاء الاصطناعي.
قالت أنثروبيك في التدوينة: «نريد أن نكون مسؤولين علنًا عن القرارات التي نتخذها. نسعى إلى تقليص الفجوة بين ما يفهمه المقيّمون عن أنظمة شركة رائدة في الذكاء الاصطناعي وما تفهمه الشركة نفسها».
بموجب الترتيب الجديد، يمتلك فريق METR أجهزة كمبيوتر محمولة من إصدار شركة Anthropic، ومساحات مكتبية، وإمكانية الوصول إلى الأدوات الداخلية بما يقارب ما تستخدمه فرق تقييم المخاطر الخاصة بشركة Anthropic نفسها. وقالت الشركة: "يُشجَّع موظفو Anthropic على مشاركة المعلومات معهم تماماً كما يفعلون مع موظف زميل يعمل على مخاطر المواءمة".
قارنت Anthropic هذا الترتيب بالأعمال المصرفية، على غرار الطريقة التي يضع بها المنظمون مفتشين مقيمين داخل أكبر البنوك.
ستنشر METR تقييماتها الخاصة لمخاطر Anthropic وحوادثها وممارساتها، وقد تنازلت الشركة عن حق حظر ذلك.
«لا يمكن لشركة Anthropic الاعتراض على النشر، لكن يمكننا أن نطلب منها حجب المعلومات إذا كانت تقع ضمن فئات ضيقة ومحددة مسبقًا،» قالت الشركة، مثل بيانات العملاء، أو أي ما يخضع لامتياز المحامي-الموكل، أو ما يتعلق بمعلومات حول بُنى نماذجها. وأضافت Anthropic: «يمكن لشركة METR أن تصف حجبنا علنًا بحرية، وأن تقول ما إذا كانت تعتقد أن الحجب كان مبررًا، طالما أنها تفعل ذلك دون الكشف عن المعلومات المحجوبة.»
METR هو المُقيِّم الوحيد حتى الآن في قمة نظام من ثلاث طبقات تبنيه Anthropic. أما المُقيِّمون في الطبقة السفلى، مثل المنظمة غير الربحية المعنية بالأمن الحيوي SecureBio، فيجرون مراجعات محدودة النطاق ويحتاجون إلى موافقة Anthropic للنشر. وتحصل الطبقة الوسطى على مزيد من المعلومات ويمكنها النشر دون موافقة، في حين تضيف الطبقة العليا مستوى الوصول الذي يحظى به موظفو METR.
يحقق إعلان اليوم الخميس وعدًا قطعه الرئيس التنفيذي لشركة Anthropic داريو أموداي في مقال في سبتمبر، حيث اقترح إدخال مقيّمين خارجيين داخل مختبرات الذكاء الاصطناعي كخطوة أولى نحو إبطاء تطور هذه التقنية. تعهدت OpenAI سريعًا بالمثل، وقد وقّعت الشركتان، إلى جانب Google وMeta وNvidia وxAI، اتفاقاً مع البيت الأبيض يلتزم بمراجعة مستقلة.