IT之家 AIتاريخ نشر المصدر

ثلاثة باحثين في مجال الأمان طُردوا من OpenAI ينفون تسريب المعلومات، ويعبّرون عن شكوك بأنهم استُهدفوا بسبب دفعهم نحو الشفافية في الذكاء…

IT之家 في 25 أكتوبر، كشف ثلاثة باحثين أمان في OpenAI فُصلوا بتهمة تسريب الأسرار عن روايتهم للقصة. توميك كورباك (Tomek Korbak) وميكيتا بليسني (Mikita Balesني) وجاسمين وانغ (Jasmine Wang) نفوا تسريب معلومات سرية، وشككوا في الأسباب الرسمية المعلنة لفصلهم، وافترضوا أن الأمر قد يتعلق بدعوتهم المستمرة لزيادة شفافية أنظمة الذكاء الاصطناعي.

IT之家 في 25 أكتوبر، كشف ثلاثة باحثين أمان في OpenAI فُصلوا بتهمة تسريب الأسرار عن روايتهم للقصة. توميك كورباك (Tomek Korbak) وميكيتا بليسني (Mikita Balesني) وجاسمين وانغ (Jasmine Wang) نفوا تسريب معلومات سرية، وشككوا في الأسباب الرسمية المعلنة لفصلهم، وافترضوا أن الأمر قد يتعلق بدعوتهم المستمرة لزيادة شفافية أنظمة الذكاء الاصطناعي.

بعد إجراء تحقيق داخلي، قررت OpenAI أن ثلاثة أشخاص خالفوا لوائح إدارة المعلومات الحساسة، فطردتهم. وقبل فصلهم، كان الثلاثة قد عبّروا علنًا عن آرائهم بشأن مخاطر الذكاء الاصطناعي.

لاحظ IT之家 أنه خلال مقابلة مع صحيفة وول ستريت جورنال، عرض عدة باحثين ردوداً على الرواية الرسمية. أفادت OpenAI للصحيفة بأن مسألة الفصل من العمل لا علاقة لها بالمخاوف الأمنية التي طرحوها. لكن ثلاثة باحثين قالوا إن الشركة لم تُبلغهم كتابياً أبداً عن المعلومات التي عولجت بطريقة غير مناسبة تحديداً. وعبّروا أيضاً عن قلقهم من أن هذا الحادث سيجعل مدققي الأمان المستقلين مترددين في التعاون مع شركات الذكاء الاصطناعي مستقبلاً.

استعاد تقرير صحيفة وول ستريت جورنال أسباب هذا الصراع. شكّ فريق الأمان في OpenAI بأن الأشخاص الثلاثة سرّبوا تفاصيل معمارية لنماذج الشركة الداخلية إلى باحث أمني خارجي، وطالبوا بإلغاء قفل هواتفهم الشخصية. وجد المحققون في الهواتف محادثات على تطبيق Signal مفعّل فيها خاصية الرسائل المختفية بعد القراءة. وبعد أسبوع، فُصل الثلاثة جميعاً في الوقت نفسه. قالت OpenAI إن Signal ليس أداة تواصل معتمدة من الشركة، لكنها أكدت أن هذا ليس سبباً للفصل. وفي المقابل، ردّ كولبارك بأن الرسائل المختفية بعد القراءة ممارسة أمنية معتادة أصلًا في وادي السيليكون.

محور الجدل: هل يُسمح بتدقيق خطوات استدلال الذكاء الاصطناعي

جوهر هذا الخلاف هو مسألة تقنية بعيدة المدى: هل ينبغي لشركات الذكاء الاصطناعي أن تسمح لجهات خارجية بالاطلاع على عملية تفكير النماذج. تسجّل النماذج الاستدلالية الخطوات الوسيطة لحل المسائل في منطقة تخزين مؤقتة تُعرف بـ"سلسلة التفكير"، وتعتمد الشركات والباحثون الأمنيون على هذه السجلات لفهم منطق النماذج في اتخاذ الأحكام.

في ورقة بحثية عام 2025، دعا باليسني وكولبارك ووانغ مولي مع كبار باحثين من مختبرات ذكاء اصطناعي متعددة إلى الاستمرار في الحفاظ على هذه القدرة القابلة للتدقيق. وفي صيف هذا العام، أصبحت المسألة أكثر إلحاحاً: بدأت شركات ذكاء اصطناعي عدة نقاشات داخلية حول فئة جديدة من النماذج — وقت تفكيرها أطول، لكن الخطوات الوسيطة المسجّلة منها أقل. اعترض باليسني داخل الشركة، وأعاد توجيه مقترح ذي صلة من رايان غرينبلات (Ryan Greenblatt)، العالم الرئيسي في معهد ريدوود للأبحاث (Redwood Research) آنذاك.

كما حافظ كولبارك على تواصل متكرر مع غرينبلات. تعاون الاثنان عبر Slack وSignal لتحليل حدث لفت الانتباه بشكل كبير: حادثة هجوم وكيل OpenAI على Hugging Face. وكلّفت منظمة METR غرينبلات بالإشراف على هذا التحقيق المستقل.

تقرير عن Astra أشعل التحقيق الداخلي

في 1 سبتمبر، نشرت The Information تقريراً أفاد بأن نموذج OpenAI الجديد Astra أكثر قدرة، لكنه يكشف عن عملية استدلال أقل. وأصبح هذا التعاون منذ ذلك الحين فتيل المتاعب. وفي ذلك الوقت، علّق العالم الرئيسي في OpenAI يعقوب باشوتسكي (Jakub Pachocki) على منصة X قائلاً إن منطق التقرير مشوّش، لكنه كان قد حذّر بنفسه سابقاً من أن القطاع بأكمله يتسابق لتطوير نماذج يصعب رصدها.

ذكرت صحيفة وول ستريت جورنال أن OpenAI أطلقت بعد أسابيع تحقيقاً داخلياً حول تسرب المعلومات. قال باليسني إن المحققين قرروا أن غرينبلات هو المتلقي للمعلومات المسربة، وطالبوا بالحصول على محادثات Signal بينهما. وأنكر غرينبلات نقل أي معلومات سرية إلى الصحفيين.

أما التهم الموجهة إلى وانغ مولي فهي منفصلة: قالت OpenAI إنها وصلت عدة مرات إلى بريد بريدي لأحد المسؤولين التنفيذيين. وشرحت هي أنها تقدمت بطلب إلغاء هذه الصلاحية قبل قرابة عام؛ وأنها الشهر الماضي فتحت رسالة حساسة بالخطأ فقط، ولم تحوّل المحتوى أو تنشره، وأبلغت عن هذا الخطأ فوراً. وقالت OpenAI إن الصلاحية نفسها ليست موضع المشكلة.

يرى كولبارك أن الآثار السلبية للحدث تتجاوزهم ثلاثتهم بكثير. قال إن الزملاء الآن لا يجرؤون على التواصل مع جهات خارجية، ولا على طرح المخاوف الأمنية داخل الشركة. وقد كتب الباحثون الثلاثة بالفعل رسالة إلى مجلس إدارة OpenAI داعين إلى تعزيز التعاون مع الجهات الأمنية الخارجية.

كما شككت نسخة أخرى نُشرت حديثاً من تقرير تدقيق ميداني في إجراءات الأمان لدى OpenAI. وجد مدققو METR ومعهد ريدوود للأبحاث خلال فحصهم ثغرات أمنية كثيرة في بنية OpenAI التحتية، لكن OpenAI حجبت بالتلوين نحو نصف محتوى التقرير النهائي.

ونشرت OpenAI أيضاً تقريراً جديداً عن معمارياً أمنياً جديداً يعمل معزولاً عن الإنترنت. وقالت الشركة إن الثغرات ذات الصلة تم إصلاحها، واستؤنف تدريب النماذج في مطلع شهر 10، كما أشارت إلى أنها ستعلن قريباً عن عدة تعاونات خارجية جديدة.

المصدر الأصلي

IT之家 AI

ملاحظات المحتوى

النشر الأصلي والحقوق تعود إلى المصدر.

ترجمة آلية · يُرجى الرجوع إلى الأصل