IT之家، وفقًا للأخبار الصادرة في 23 أكتوبر، قامت مؤسستا METR وRedwood Research المتخصصتان في تقييم أمن الذكاء الاصطناعي، في وقت سابق من هذا العام، بتقييم تجريبي لنظام الرقابة الداخلي لشركة OpenAI، واكتشفا العديد من الثغرات الجديدة. إحدى هذه الثغرات يمكن استغلالها من قبل أجهزة الذكاء الاصطناعي، مما يسمح بمرور مئات العمليات دون أن يتم مراقبتها.
وفقًا لما نشرته رويترز، فقد ذكرت مؤسستان غير ربحية في الوقت المحلي اليوم الـ22 أن التقييم تم بين 21 يوليو و11 أغسطس، وذلك لتمكين الباحثين الخارجيين من "الوصول العميق" إلى البنية التحتية الداخلية لشركة OpenAI لإجراء تقييم "مدمج".
أرسل كل من METR وRedwood Research باحثًا واحدًا، وتم السماح له بالاطلاع على الكود الداخلي والوثائق التابعة لـOpenAI، والتواصل مع بعض الفنيين. كان هناك شخص يرافق الاثنين دائمًا في الموقع، وأجهزة الاستخدام تم توفيرها من قبل OpenAI، ولم يُسمح بنقلها خارج مكان العمل.
أبلغت OpenAI двум مؤسستين أن الثغرات التي تؤثر على أمان النظام الفعلي تم إصلاحها بالفعل，لكن لم يتم التحقق من مدى فعالية تدابير الإصلاح من قبل المؤسستين.
تدعو مختبرات الذكاء الاصطناعي والخبراء ووزارة الخارجية الأمريكية دائمًا إلى إدخال تقييمات خارجية مستقلة، حتى يتم ضمان أمان الذكاء الاصطناعي دون إعاقة التطور التقني. لكن شركات الذكاء الاصطناعي تخشى أن يؤدي وجود مقيمين من الخارج إلى تسريب المعلومات السرية للمنافسين.
تقول شركتا METR وRedwood Research إنهما قدمتا تقريرًا داخليًا كاملًا مكونًا من 61 صفحة إلى OpenAI، لكنهما وافقتا على نشر ملخص للنتائج فقط، وسمحتا لـOpenAI بحذف المحتوى الذي يحتوي على معلومات حساسة.
وفقًا لما علمته شركة IT之家، على عكس بعض التقييمات السابقة، لا تملك المؤسستان الحق في نشر معلومات محددة حول الحذف من المحتوى بنفسه، ولكنهم يأملون أن تكون التقييمات المستقبلية أكثر شفافية.
اكتشف الباحثون أيضًا أن الوشاح الذكي من OpenAI لديه طرق محتملة لتجاوز القيود الأمنية，وبالتالي الحصول على نفس صلاحيات التشغيل الكاملة للمستخدمين.
تم تقييم نظام المراقبة في تاريخ 21 يوليو وما قبل ذلك التاريخ. وأشار الباحثون إلى أن OpenAI قامت أيضًا بتوسيع النظام خلال فترة التقييم. وقالت OpenAI: "ساعدت نتائج التقييمنا في تعزيز الأمان الأمني أثناء توسيع النظام، وستكون أيضًا مرجعًا للتعاون البحثي مع METR وغيرها من المؤسسات التقييمية الطرف الثالثة في المستقبل".