توفر شركة أنثروبيك لمجموعة METR إمكانية الوصول لمراجعة نماذج الذكاء الاصطناعي وممارسات الأمان الخاصة بها

توفر شركة أنثروبيك لمجموعة METR إمكانية الوصول لمراجعة نماذج الذكاء الاصطناعي وممارسات الأمان الخاصة بها

أعلنت شركة أنثروبيك أن فريقًا من منظمة METR غير الربحية قد حصل على إمكانية مراجعة نماذج الذكاء الاصطناعي وممارسات الأمان الخاصة بها. حصل ستة موظفين من METR على معدات شركة، وفضاء عمل، وإمكانية استخدام الأدوات الداخلية، وقالت أنثروبيك إن ذلك يجعلهم على قدم المساواة تقريبًا مع فريقو المخاطر الخاصين بها.

بيانات العملاء، والمعلومات التي تخضع لحماية المحامي والعميل، والتفاصيل المتعلقة ببنية النموذج، تظل غير قابلة للنشر. سيقوم METR بنشر نتائجه بشكل مستقل. تقول شركة Anthropic إنها يمكنها طلب إخفاء بعض البيانات في فئات محددة مسبقًا، لكن METR حر في القول علنًا عما إذا كانت تعتقد أن هذا الإخفاء كان مبررًا.

تقول شركة Anthropic إنه لا يمكن نشر جميع المعلومات المتعلقة بالسلامة، سواء لأنها قد تساعد المهاجمين أو لأنها حساسة من الناحية التجارية. تتجاوز صفقة METR ما قدمته الشركة للمراجعين الخارجيين الآخرين. حصلت شركات SecureBio وAccenture وFaculty على إمكانيات أقل، بالإضافة إلى قيود أكثر صرامة على ما يمكنها نشره، وقد بدأت Anthropic محادثات مبكرة مع Hugging Face. تلي هذه الخطوة توقيع شركة أنثروبيك على اتفاق البيت الأبيض بشأن الذكاء الفائق، والذي يتضمن التزامًا بالعمل مع مراجعين خارجيين.

أخبار الذكاء الاصطناعي بدون الضجيج – من اختيار البشر

اشترك في THE DECODER للقراءة بدون إعلانات، إلى نشرة أخبار الذكاء الاصطناعي الأسبوعية، إلى تقرير "AI Radar" الحصري الست مرات في السنة، إلى الوصول الكامل إلى الأرشيف، وإلى الوصول إلى قسم التعليقات.