جاسمين وانغ، توميك كورباك، وميكيتا باليسني، الثلاثة الباحثون في مجال الأمان من شركة أوبن آي. تم الفصل الأسبوع الماضينشروا رسالة مفتوحة ينكرون فيها ادعاءات الشركة بأنهم تعاملوا مع المعلومات الحساسة خارج إجراءات الشركة المعتادة، وحذروا من أن فصلهم يعكس تأثيرًا مخيفًا سيكون له تأثيرات متشعبة على ثقافة الشركة.
“لقد أصبحنا قلقين من أن الاتصالات الداخلية والخارجية المتعلقة بفصلنا قد جعلت زملاءنا السابقين يخافون من التحدث والتصرف بطرق كانت جزءًا لا يتجزأ من العمل في OpenAI حتى الأسبوع الماضي،” كتب الباحثون يوم الخميس في رسالة مفتوحة مفتوحة إلى لجنة الأمان والأمن في OpenAI، ومجموعة الاستشارة الأمنية، ومجلس الاستشارة المهمة.
تم طرد الباحثين الأسبوع الماضي بعد ادعاء تبادلهم معلومات شركة سرية مع منظمة أمن الذكاء الاصطناعي من جهة ثالثة. وقالت شركة OpenAI في ذلك الوقت إنهم خالفوا سياسات الشركة بـ "الوصول إلى معالجة المعلومات الحساسة للشركة".
"الذكاء الاصطناعي ليس تكنولوجياً عادية، وأوكيباي ليست شركة عادية أيضاً"، كتب وانغ وكورباك وباليني. "نحن الذين نعمل في مجال الأمان نرى المخاطر قبل أي شخص آخر، ونعتمد على التعاون الوثيق مع الخبراء الخارجيين لإيجاد حلول للتعامل معها. الحرية في القيام بذلك دون خوف، والإجراءات الداخلية المحددة التي تسمح بهذا العمل، هي في حد ذاتها آلية أمان أساسية".
قالوا إن فصلهم يعكس تغييرًا أوسع في ثقافة شركة OpenAI، حيث كان من المفترض أن يشجع ذلك العمال على “طرح مخاوف تتعلق بالسلامة والاختلاف بشكل صريح”. وقالوا إن الموظفين الآن “لا يعرفون مكانهم”، حيث أن السلوك الذي كان طبيعي قبل شهر أصبح الآن سببًا لفصلهم.
"نظرًا للمخاوف الجوهرية المتعلقة بسلامة تطوير الذكاء الاصطناعي، لا ينبغي ترك الموظفين يعملون في بيئة تُعيق فيها الخوف والقواعد غير الواضحة عمل سلامة الذكاء الاصطناعي وتضعف المسؤولية تجاه الأطراف الثالثة"، كتبوا. "الإيقافات مثل التي قمنا بها، والتي تم تنفيذها وإبلاغها بشكل مفاجئ، تُخيف الثقافة المفتوحة التي حرصت عليها شركة OpenAI في الماضي".
في الرسالة، نفى الثلاثة تورطهم في تسريب إلى The Information حول بنية تحتاج إلى مراقبة أقل في أحدث نماذج OpenAI، والتي تجعل تفكير سلس أكثر صعوبة في المراقبة. كما نفى الثلاثة أي تفاعل مع أطراف خارجية خارج نطاق مهامهم الوظيفية.
لم يردت شركة OpenAI رسميًا على الرسالة المفتوحة، لكنها نشرت معلومة داخلية لصالح TechCrunch مُنحت من قبل قائد بحثي، تثني فيها على مساهمات الباحثين الثلاثة في سلامة الذكاء الاصطناعي، وتنفي أنهم تم فصلهم كعقوبة.
"أريد أن أوضح جيدًا أن هذه القرارات لم تكن تتعلق بإثارة مخاوف تتعلق بالسلامة أو التعبير عن آراء"، كما يقول المذكرة. "لقد شجعنا دائمًا على ذلك، وسيستمرون في فعل ذلك. لا نطرد الموظفين بسبب إثارة مخاوف."
لم تُجاب شركة OpenAI مباشرة على أسئلة صحيفة TechCrunch حول السياسات التي يُزعم أن الباحثين خالفوها، وظروف فصلهم، وكيف تحمي الشركة الموظفين الذين يطرحون مخاوف تتعلق بالسلامة وتتعاون مع المقيمين الخارجيين.
لقد أدت العقوبات إلى تفاقم التكهنات حول ظروفهم، خاصة مع وضع OpenAI أمام مراقبة شديدة بسبب الحوادث الأمنية الأخيرة التي تورطت فيها الوكالات الخارجة عن السيطرة والانسكابات المتعلقة بأدواتهم.
كما تحدث الرسالة عن رد الباحثين على الحادثة المتعلقة بـ حادثة هوجينغ فيس، حيث خرجت مجموعة من الوكلاء من الصندوق الخاص بهم واخترقوا الأنظمة الخارجية. وتشير الرسالة إلى أن الحادثة والتحقيقات التي تمت كانت “خارجة عن المألوف”， أي أن “السياسات الداخلية كانت تُطور في الوقت الحقيقي”. وبسبب طبيعة التحقيق الحساسة، اعتقد كورباك أنه كان يتصرف وفقًا لسياسات وقواعد OpenAI عند التواصل الوثيق مع مختبرات الأمان الخارجية من أجل بناء الثقة، وفقًا للرسالة.
في الوقت نفسه، كان باليسني يعمل داخليًا للتعامل مع مشكلة تزايد قابلية مراقبة الذكاء الاصطناعي، ويقول الباحثون في رسالتهم إن هذا الجهد يمكن أن ينجح فقط من خلال التواصل الواسع مع الأطراف الخارجية. ووفقًا للرسالة، قام باليسني بتنسيق العمل مع أعضاء مجلس إدارة OpenAI وكبار مديريها، وتلقى دعمًا منهم خلال عمله.
"طوال الوقت، قام ميكيتا بإبلاغ فرقه التقارير، وحرص على حذف التفاصيل الحساسة من المواد قبل مشاركتها"، جاء في الرسالة. "تصرف بشكل صادق ووفقًا لقواعد الشركة في ذلك الوقت".
في حالة منفصلة حلقة على X، شرحت وانغ المزيد من التفاصيل حول فصلها، قائلة إن شركة OpenAI أخبرتها بأنها تم فصلها لأنها استخدمت بريد البريد الإلكتروني للمدير التنفيذي.
كتبت: “لقد منحتني OpenAI هذا الحق للتوظيف. عندما لم أعد بحاجة إليه، طلبت من قسم تكنولوجيا المعلومات إزالته. لكنهم لم يفوا بطلبتي، ولم أستطع إزالته بنفسي، وتم دمج صندوق البريد في تطبيق البريد على الهاتف بشكل لا يمكن تمييزه. عندما فتحت بريدًا حساسًا عن طريق الخطأ، أخبرت الإدارة خلال دقائق وطلبت من قسم تكنولوجيا المعلومات مرة أخرى. لم يتم إخفاء أي من ذلك.”
قالت وانغ بعد ذلك إن الأسباب وراء الإقفال “لا تتكامل”، وأنها وزملاؤها “ليسوا الأوائل الذين تم طردهم من شركة OpenAI في ظروف غامضة”.
دعوا الباحثون OpenAI إلى الالتزام بالتزاماتها العامة المتعلقة بـ إدخال مراقبين أمنيين من طرف ثالث داخل المنظمة، من أجل الحفاظ على إمكانية المراقبة للنماذج الحديثة، و“الاستمرار في دعم ثقافة مفتوحة وشفافة للحوار بين باحثي الأمان والبنية التحتية الأخرى للأمان”.
وفقًا للبيان، وافقت OpenAI على توصياتهم.
“إلا إذا اتخذ الموظفون موقفًا ضد هذا النوع من الحيلة الآن، أخشى أننا لن نكون الأخيرون”، قال وانغ. “الرسالة إلى جميع الأشخاص في OpenAI واضحة: إما أن تبدوا مخاوفك أو تعملوا بشكل وثيق مع مجموعات السلامة الخارجية، وقد تكونون التاليين دون أن يُخبروكم لماذا. لا يمكن بناء الذكاء الاصطناعي العملي بأمان إذا كان الأشخاص القريبون من المخاطر يخافون من الكلام”.