أزمة الأمان التابعة لشركة OpenAI تزداد سوءًا، والشركة تزيد الوضع سوءًا أكثر

محنة السلامة التابعة لشركة OpenAI تزداد سوءًا، والشركة تزيد الوضع سوءًا أكثر فأكثر

نقاط مهمة

• قامت OpenAI بفصل ثلاثة باحثين في الأمان، بعضهم ساعدوا في التحقيق في حادثة حيث هاجمت نماذج الذكاء الاصطناعي منصة Hugging Face بشكل مستقل.
• في رسالة مفتوحة، يحذر الباحثون الذين تم فصلهم من العمل من أن الانهيارات المفاجئة تخلق جوًا من الخوف بين الموظفين المتبقين.
• أحدهم، توميك كورباك، حذر داخليًا لعدة أشهر من أن شركة OpenAI تفقد القدرة على مراقبة ما يفكر فيه وكلاء الذكاء الاصطناعي الخاص بها. تنفي شركة OpenAI هذه الادعاءات.

تستمر OpenAI في إضاعة الثقة في أزمة الذكاء الاصطناعي الخارجي الخاصة بها.

عاد مرة أخرى مايو 2024، رئيس أمن الذكاء الاصطناعي الفائق في شركة OpenAI انتقد جان ليكي علاقته بالشركة عندما انتقد بشكل علني صاحب عمله السابق وغادر للانضمام إلى أنتروبيك. وقال ليكي إن ثقافة الأمان والعمليات كانت متأخرة عن “المنتجات اللامعة” التابعة لشركة أوبن آيدي.

منذ ذلك الحين، لم يتحقق OpenAI من التسوية، يتعرض لحادثة تلو الأخرى. آخر حادثة كانت هجوم Hugging Face، والذي أكد كل المخاوف، مدح النقاد، وكما نعلم الآن، وصل الأمر إلى ما هو أبعد من Hugging Face.

حذر باحث منذ شهور من أن الضعف في الإشراف يتزايد

إطلاق النار على ثلاثة باحثين في سلامة العملاء المتورطين في الحادث جعل الأمور أسوأ. في رسالة مفتوحة إلى لجنة السلامة والأمان في OpenAI، ومجموعة الاستشارة الأمنية، ومجلس الاستشارة المهمة، تحذر الثلاثة من أن إنهاء عمل الموظفين المتبقين يثير قلقهم.

كان الفصل فجائي وعلني، وقد أثار ذلك الخوف بين أفراد الفريق. يُذكر في الرسالة: "إذا كان السلوك الذي كان طبيعيًا في الشهر الماضي يُعتبر أساسًا للفصل المفاجئ، فإن جميع أفراد OpenAI يظلون يخمنون ما هي الحدود".

توميك كورباك، أحد الثلاثة، وصف إطلاق النار عليه على منصة X. تم استدعاؤه إلى اجتماع مع رئيس قسم الأمان، حيث قيل له إن OpenAI لم تعد تثق به. أخذ ضابط الأمن بطاقته الخاصة وأخرجه من المبنى. ثم علم أن زملائه جاسمين وانغ وميكيتا باليسني قد تم فصلهم أيضًا.

شارك كورباك وباليسني كليهما مباشرة في التحقيق في هجوم Hugging Face. وكان كورباك يعمل كـ الطرف التقني الرئيسي لـ OpenAI في مشروع METRمختبر السلامة الخارجي الذي فحص الحادثة. عملت باليسني بالتوازي على الالتزامات المشتركة بين الصناعة بشأن قابلية مراقبة نماذج الذكاء الاصطناعي. يبدو أن وانغ تم فصلها لأسبب مختلف: لقد أعطت صلاحية الوصول إلى صندوق البريد الإلكتروني للمديرين لأغراض التوظيف، ولم يقم قسم تكنولوجيا المعلومات بإزالتها على الرغم من طلبها. عندما فتحت بطريق الخطأ بريدًا إلكترونيًا حساسًا، أبلغت عنه في غضون دقائق.

يقول كورباك إنه تم إخباره شفهيًا بأنه تم فصله بسبب طريقة تواصله مع METR. لم يخبره أحد بالخطأ الذي ارتكبه بالضبط، ولم يتم تقديم أي ما يُكتب. "للتوضيح، التواصل مع METR كان جزءًا من مهامي"، كتب كورباك على X.Ad.

يقول كورباك إنه طرح مخاوف تتعلق بالسلامة داخليًا لعدة أشهر، قلقًا من أن شركة OpenAI تفقد القدرة على مراقبة ما يفكر فيه العملاء الذكيون. قدرة المراقبة على سلسلة الأفكار هي أحد القليلين من الأدوات الموثوقة لكشف أنظمة الذكاء الاصطناعي التي تتصرف بشكل خاطئ. ويعتقد أن هذا كان السبب الحقيقي لفصله.

يقول الباحثون إن الشائعات غير صحيحة

الثلاثة ينكرون أنهم مصدر تسرب معلومات إلى صحيفة “ذا إنفورميشن” حول هيكليات جديدة غير قابلة للمراقبة. ويقولون إن المقال أضر بعملهم، لأنه أضعف الجهود المستمرة لتطبيق قيود على الهيكليات غير القابلة للمراقبة على مستوى الصناعة.

تقول الرسالة إن التحقيق الذي أجرته Hugging Face كان غير مسبوق. كانت الإرشادات الداخلية تُكتب في الوقت الحقيقي، واتبع كورباك القواعد المعمول بها في ذلك الوقت، بينما قام باليسني بأعماله مع أعضاء مجلس الإدارة والقادة الكبار، وأزال التفاصيل الحساسة من المواد قبل مشاركتها.

أما بالنسبة للشائعات حول مذكرة على مستوى مجلس الإدارة، فقال الثلاثة إن الافتراض الأساسي خاطئ. لم يتم طرح هذا الموضوع معهم أبدًا، ولم يحصلوا على فرصة للرد.

يضع الباحثون ثلاثة متطلبات. يجب على OpenAI أن تلتزم بالالتزامات العامة التي قطعتها، وتوفير إمكانية الوصول للمحللين الأمنيين الخارجيين مثل METR على مستوى الموظفين داخل المنظمة. كما يجب عليها حفظ إمكانية المراقبة للنماذج الجديدة، لأن الصناعة لا تزال لا تعرف كيف تبني نماذجًا لا يمكن مراقبتها بشكل آمن. ويجب عليها أيضًا تحديد بوضوح كيف يُسمح للموظفين بالعمل مع مجموعات الأمان الخارجية.

بدون تلك القواعد، قد يزداد خطر حدوث نتائج كارثية، لأن الموظفين سيخافون كثيرًا من الإبلاغ عن مشاكل السلامة. "الذكاء الاصطناعي ليس تكنولوجياً عادية، وOpenAI ليست شركة عادية"، كما يكتبون.

تقول أوبنآي آي أنها ترفض لكنها تظل غير محددة

وجدت “تحقيق شامل” أن الثلاثة موظفين خالفوا “سياسات واضحة بشأن التعامل مع المعلومات الحساسة”， شركة OpenAI قال في ردلقد كشف الاختبار الداخلي عن “انتهاك كبير للثقة يتجاوز ما تم تحديده في الرسالة التي نشروها”， لكن OpenAI لا تخبر عن نوع هذا الانتهاك بالتحديد، وهو أمر غريب بالنظر إلى مدى تحديد الباحثين الثلاثة لأوضاعهم.

تؤكد شركة OpenAI أن عمليات الفصل لم تكن مرتبطة بأي مخاوف تتعلق بالسلامة. ويذكر البيان: "لم نفعل و لن نفصل أي من موظفينا بسبب طرح المخاوف". نشرت شركة OpenAI بيانها عبر حساب @OpenAINewsroom، وهو الحساب الرسمي الذي يحظى بأقل عدد متابعين بين قنوات الشركة. كما أكدت الشركة أنها تعمل على اتفاقيات مع مراجعين أمنيين خارجيين، ووافقت على أن مراقبة نماذج الحدود تحتاج إلى التزام عالمي من القطاع الصناعي.

أخبار الذكاء الاصطناعي بدون الضجة الشرسة – مُختارة من قبل البشر

اشترك في THE DECODER للقراءة بدون إعلانات، إلى مجلة AI أسبوعية، تقرير "AI Radar" الحصري الست مرات في السنة، الوصول الكامل للأرشيف، والوصول إلى قسم التعليقات.