تحديث حول المقيمين المستقلين

تحديث حول المقيمين المستقلين

في الشهر الماضي، التزمنا بـ تقييم أقوى ومستقل من أطراف خارجية لنماذجنا وممارساتنا المتعلقة بالسلامة. كما وقعنا اتفاق البيت الأبيض بشأن الذكاء الفائق، الذي تعهدت فيه الشركات بالشراكة مع مدققين أو مقيمين خارجيين مستقلين. نعلن اليوم أننا بدأنا في منح فريق من METR، وهي منظمة غير ربحية تقيّم نماذج الذكاء الاصطناعي الرائدة، صلاحيات وصول تشبه صلاحيات الموظفين.

سينشر METR نتائج تقييماته للمخاطر. على مدار العام الماضي، عملنا مع METR على عدة مراجعات لتقارير المخاطر لدينا. نعمل أيضًا مع SecureBio و Accenture بوصفهما مقيمين، ونجري محادثات مبكرة مع عدة منظمات أخرى، بما في ذلك Hugging Face.

نشرح هنا نهجنا في العمل مع المقيمين.

لماذا نعمل مع مقيمين مستقلين

مع ازدياد قوة النماذج، أصبحت تتطلب ضمانات أقوى وتقييمات مخاطر أكثر تحديًا. نريد أن نتحمل المسؤولية علنًا عن القرارات التي نتخذها. لكننا لا نستطيع مشاركة جميع المعلومات المتعلقة بعملنا في مجال السلامة علنًا. فبعضها قد يكون مفيدًا للجهات الخبيثة، أو حساس تجاريًا، مثل معلومات الحوسبة أو التدريب. بدلاً من ذلك، نمنح المقيمين الخارجيين وصولاً عميقًا إلى معلوماتنا، ونطلب منهم مشاركة الأدلة والاستنتاجات المبررة حول المخاطر المرتبطة ببناء نماذجنا. نهدف إلى تقليص الفجوة بين ما يفهمه المقيمون عن أنظمة شركة ذكاء اصطناعي رائدة وما تفهمه الشركة نفسها.

لتقييم النماذج الرائدة، يحتاج المقيمون إلى ما يلي:

• الخبرة في تقييم قدرات النماذج الرائدة، بما في ذلك فهم الطرق التي قد تخفق بها التقييمات، مثل التظاهر بالمواءمة.
• الاستقلالية: لا ينبغي أن يملكوا حصصًا في الشركة التي يقيّمونها، أو أن يكونوا معتمدين عليها ماليًا أو تشغيليًا.
• وصول كافٍ لتقييم المخاطر بشكل ذي معنى. وإلى جانب الوصول إلى أحدث النماذج، يحتاج المقيمون أيضًا إلى الاطلاع على كيفية تدريب تلك النماذج، وعلى كيفية عمل ضماناتنا، وغير ذلك.
• حرية النشر الملاحظات والتقييمات لنموذج أو عملية.

على الرغم من أن هذه الاستعارة ليست دقيقة تمامًا، إلا أن الإشراف على البنوك يعمل وفق منطق مماثل. فالبنوك تعرف أكثر عن مراكز المخاطر الخاصة بها مما يعرفه الغرباء، ولذلك يعيّن المنظمون مفتشين مقيمين للعمل داخل أكبر البنوك. فإذا كان تحمّل البنك للمخاطر قد يهدد الجمهور، يحاول الأطراف الثالثة رؤية ذلك مسبقًا.

بالنسبة لصناعة الذكاء الاصطناعي، فهذه خطوة نحو رقابة سلامة قوية. نحن نتقدم بسرعة مع عدة مقيّمين ونتعلم بنشاط عن أنواع الشراكات التي تنجح. ونحن ملتزمون بمشاركة التحديثات كما نمضي قدمًا.

ماذا نعني بـ"الوصول الشبيه بالموظفين"

لقد أدخلنا ستة من موظفي METR لديهم أجهزة من الشركة ومساحات مكتبية وإمكانية الوصول إلى أدوات وأنظمة داخلية تعادل تقريبًا ما تتمتع به فرق تقييم المخاطر لدينا. وباستثناء عدد صغير من الفئات المحددة بوضوح (مثل البيانات المتعلقة بالعملاء، أو المعلومات المحمية بامتياز المحامي-العميل، أو المعلومات الخاصة بهياكل نماذجنا)، يُشجَّع موظفو Anthropic على مشاركة المعلومات معهم تمامًا كما يفعلون مع زميل يعمل على مخاطر المواءمة.¹

ستنشر METR تحليلها لمستويات المخاطر لدينا أو الحوادث أو الممارسات. ولا يمكن لـ Anthropic أن تمنع النشر، ولكن يمكننا أن نطلب منهم حجب معلومات إذا وقعت في فئات محددة مسبقًا مثل الفئات المذكورة أعلاه. ويمكن لـ METR بحرية وصف حجبنا للمعلومات علنًا، والقول مما إذا كانت تعتقد أن الحجب كان مبررًا، طالما فعلت ذلك دون الكشف عن المعلومات المحجوبة.

تعاملنا مع METR يقتصر على فريق صغير يعمل بموجب اتفاقيات قابلة للتنفيذ. أما موظفو METR الآخرون فمعزولون عن عمل ذلك الفريق، بما في ذلك الباحثون الذين يعملون معنا في مشاريع أخرى. فالتقييم المدمج يمنح بضعة أشخاص مؤهلين يعملون وفق معايير أمن Anthropic نظرة قريبة على كيفية عملنا. وهو ليس وسيلة للمنظمات الأخرى للحصول على معلوماتنا، أو معلومات عملائنا وشركائنا.

شراكاتنا مع المقيّمين الآخرين

نعمل على عدة شراكات أخرى. ولأن هذه الشراكات الأخرى لا تزال في مراحل مبكرة، فإننا نوفر لهؤلاء المقيّمين معلومات أكثر محدودية، ولهم حقوق نشر أكثر محدودية. هدفنا من هذه التعاملات المبكرة هو التأكد من أن شركائنا يحمون المعلومات السرية ولديهم الموارد والخبرات اللازمة لتقييم نماذجنا. ومع تقدم الشراكات وبنائنا للثقة، نأمل أن ندمج بشكل كامل مقيّمين مستقلين إضافيين.

نحن نطوّر ثلاثة مستويات من الوصول للمقيّمين. على المدى الطويل، نأمل أن يكون لدينا عدة مقيّمين في المستوى الثالث، حيث تنشر كل فرق تحليلها الخاص لوضع المخاطر لدينا والقرارات الرئيسية التي نتخذها.

في المستوى الأول، يُجري المقيّمون تحقيقات مخاطر محدودة النطاق. نحن نقرر ما هو الوصول الذي نقدمه لمقيّم المستوى الأول، ويمكن للمقيّمين نشر نتائجهم بموافقتنا.

في المستوى الثاني، يمكن للمقيّمين النشر دون موافقتنا، ولديهم إمكانية الوصول إلى مزيد من المعلومات. لا يزال بإمكاننا طلب إزالة فئات محددة من المعلومات، مع أنه يمكن للمقيّمين نشر آرائهم حول ما إذا كانت حذفنا للمعلومات مبررًا.

المستوى الثالث هو الترتيب الذي وصفناه مع METR، بوصول شبيه بوصول الموظفين وحقوق نشر مشابهة لتلك الخاصة بالمستوى الثاني.

SecureBio في طور مراجعة فصل الأسلحة الكيميائية والبيولوجية من تقرير المخاطر لماه أغسطسبعد إكمال نشر مراجعة تجريبية لتقرير المخاطر السابق لدينا. بعد اكتمال هذه المراجعة، سنفكر في الانتقال إلى مشاريع ذات وصول متزايد.²

مع Accenture وFaculty، نعمل نحو شراكة طموحة تشمل تقييم النماذج واختبارها بالفريق الأحمر، وإجراء تقييمات المواءمة، واختبار ضمانات النماذج، وبناء القدرات عبر مؤسساتنا.

نحن نستقبل المقيّمين طوعًا، ونعتقد أن كل شركة ذكاء اصطناعي رائدة ينبغي أن تفعل الشيء نفسه.

الحواشي

1. نظرًا لأن هؤلاء المقيّمين (مثل فاحصي البنوك) قد يعملون أيضًا مع شركات أخرى، فإننا نتوخى الحذر إزاء احتمال التسريبات غير المقصودة. المعلومات المتعلقة بالبنى المعمارية تنطوي على خطر مرتفع للتسريبات غير المقصودة، وترابطها عادةً بتقييم المخاطر منخفض. وعندما تكون شديدة الصلة، سنسعى عمومًا إلى مشاركتها، مع أن ذلك سيتطلب موافقات داخلية صريحة.
2. تم التحديث في 15 أكتوبر لتوضيح شروط مشروع SecureBio الحالية مع Anthropic.

محتوى ذو صلة

الاستعداد لانتخابات التجزئة الأمريكية لعام 2026

في وقت سابق من هذا العام، شاركنا تحديثًا بشأن ضماناتنا الانتخابية. هنا، نوضح كيف واصلنا تعزيز هذه الضمانات استعدادًا لانتخابات التجزئة الأمريكية هذا العام.

Anthropic تفتح مكتبًا في سنغافورة وتوقّع مذكرة تفاهم مع حكومة سنغافورة

افتتحت Anthropic مكتبًا في سنغافورة ووقّعت مذكرة تفاهم مع حكومة البلاد لتعزيز التبني الآمن والمسؤول للذكاء الاصطناعي.

تحديث سياسة الاستخدام لعام 2026

نحن ننشر نسخة جديدة من سياسة الاستخدام الخاصة بنا. في هذا المنشور، نلخص التغييرات التي أجريناها.