يحذر كبير علماء الذكاء الاصطناعي في Tencent من أن الذكاء الاصطناعي سيصبح قريباً قادراً على تطوير أسلحة بيولوجية، وأن النماذج المفتوحة بالكامل ولا المغلقة بالكامل يمكنها حل هذه المشكلة بمفردها.
في الجدل حول نماذج الذكاء الاصطناعي المفتوحة مقابل المغلقة، فينس ياو شونيو, الذي عمل سابقًا في OpenAI، يدعو إلى حل وسط، وفقًا لـ ساوث تشاينا مورنينغ بوست. إن المزج بين المصدر المفتوح والمصدر المغلق يتيح للجميع استخدام التقنية للدفاع أيضًا. لكن في علم الأحياء، من الأصعب فصل القدرات الهجومية عن الدفاعية مقارنة بالأمن السيبراني. وبما أن الفجوة بين النماذج الصينية والأمريكية ليست كبيرة، يدعو ياو الصناعة بأكملها إلى التقدم بحذر.
يقول ياو إن Anthropic وشركات أمريكية أخرى قدمت حججًا قوية لصالح النماذج المغلقة، لكنه يرى أيضًا مزايا واضحة في النماذج المفتوحة. ويشير إلى حادثة اختراق في Hugging Face كمثال: عندما رفضت النماذج الأمريكية المغلقة مثل Claude من Anthropic تحليل أوامر الهجوم بسبب مرشحات السلامة الخاصة بها، استخدمت المنصة النموذج الصيني المفتوح GLM-5.2 لتحليل السجلات بدلاً من ذلك.
ما تُظهره حادثة Hugging Face وما لا تُظهره
يؤكد تقرير Hugging Face مثال ياو لكنه يُظهر أيضًا حدوده. فقد استُخدم GLM-5.2 فقط أثناء التحليل الجنائي. وتم إيقاف الهجوم الفعلي عندما رقعت فريق الأمن الثغرة المستغلة، وأعاد بناء الخوادم المتأثرة، وغيّر بيانات الاعتماد. كما شددت Hugging Face على أن الحادثة ليست حجة ضد مرشحات السلامة على النماذج المستضافة.
في يوليو، كانت Anthropic هي المختبر الوحيد الكبير في مجال الذكاء الاصطناعي الذي لم يوقّع رسالة مدعومة من Nvidia تحذّر من القيود المبكرة على النماذج المفتوحة. يرفض الرئيس التنفيذي داريو أمودي تحديدًا الادعاء بأن النماذج المفتوحة تفيد المدافعين أكثر من المهاجمين. وهو يجادل بأنها أكثر خطورة محتملًا لأن آليات السلامة يصعب فرضها وأوزان النماذج المنشورة لا يمكن استرجاعها. ومع ذلك، لا تطالب Anthropic بحظر مطلق للنماذج المفتوحة.
النماذج المفتوحة تفقد مرشحاتها بسهولة، والنماذج المغلقة كثيرًا ما ترشح بتشدد مفرط
تُظهر تقنية تسمى Abliteration مدى هشاشة مرشحات السلامة على النماذج المفتوحة. فأي شخص لديه إمكانية الوصول إلى أوزان نموذج يمكنه استخدامها لإزالة سلوكيات الرفض المدرّبة جراحيًا. وتوجد آلاف من هذه المتغيرات المعدّلة على Hugging Face، وتبيع الشركة الأمريكية الناشئة Abliteration.ai الوصول إلى نسخة غير مُرشّحة من GLM-5.3. وتُظهر الأبحاث الحالية أن التدابير المضادة الموجودة تجعل هذه التعديلات أصعب لكنها لا تمنعها. والنهج الأكثر متانة هو استبعاد المعرفة الخطرة من النموذج أثناء التدريب منذ البداية.
الصين تدرك المشكلة أيضًا. فالهيئة المعيارية TC260 تحذر من أن آليات السلامة في النماذج المفتوحة يمكن إزالتها أو تجاوزها، وتعمل على معيار أمني خاص بها للذكاء الاصطناعي مفتوح المصدر. أ إطار عمل مسودة ضوابط التصدير يغطي النماذج الكبيرة بشكل خاص لكنه يعفي النماذج المفتوحة التي تم إصدارها بالفعل. لم تضع الصين ولا الولايات المتحدة عتبة ملزمة لا يمكن نشر النماذج المفتوحة فوقها.
تشارك Anthropic وOpenAI نماذجهما الأكثر قدرة في الأمن السيبراني مع شركاء تم فحصهم فقط، من خلال برامج مثل Project Glasswing و Daybreak. منذ Claude Fable 5, تقوم فلاتر كلود بتوجيه الاستفسارات المشبوهة حول موضوعات الأمن السيبراني والأحياء إلى النموذج الأضعف Opus 4.8. وفقًا لـ Artificial Analysis، أثر هذا في البداية على ثمانية إلى تسعة بالمئة من المهام، وأفاد المستخدمون بأن حتى تحليل صور الرنين المغناطيسي MRI تم وضع علامة عليه كإرهاب بيولوجي. واعترفت Anthropic بأن الفلاتر كانت متشددة أكثر من اللازم.
تخطط Tencent لإطلاق نموذجها الجديد Hy4 كنموذج مفتوح الأوزان مع تقرير سلامة مرافق خلال الأيام المقبلة. وتقول الشركة إن القدرات البيولوجية لـ Hy4 تقع دون عتبة الخطر العالي. وقد أزالت Tencent قدرات الاختراق للنموذج عن طريق تصفية بيانات التدريب، ويقول الباحثون إن هذا النهج يصمد أمام الـ abliteration أيضًا.