أصدر ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، مقالًا طويلًا عبر منصة التواصل الاجتماعي في 10 أكتوبر، داعيًا الصناعة إلى تطبيق آلية “الاحتراق الأسرع” على نماذج الذكاء الاصطناعي المتقدمة، وإجراء تقييم شامل لبنية الثقة في الذكاء الاصطناعي الحالية.
بالنسبة لتقنيات الذكاء الاصطناعي الفائقة التي تتطور بسرعة حاليًا، أشار نيدرا إلى أنه لا يمكن للصناعة أن تعتبر نماذج معقدة كأنها مخفية تمامًا، بل يجب أن تبدأ من فرضية دفاعية تفترض أن هذه النماذج قد تم اختراقها، وتتبنى نهجًا أكثر حذرًا في الحوكمة الأمنية.
في إطار التقنيات التفصيلية، يدعو نيدرا إلى فصل نماذج الذكاء الاصطناعي الأساسية من إطار التحكم الذي يتولى تنسيق مهام العمل، بحيث يتم تحويل تدابير السيطرة والأمان إلى خارج الإطار. ويؤكد على أن كل عملية تطبيق للنموذج المهم يجب أن تكون مصحوبة بأدلة تنفيذ قابلة للقراءة من قبل البشر، وضمان حق المختصين في إيقاف أو إغلاق النموذج في أي وقت خلال تنفيذ المهمة. تتوافق هذه الادعاءات مع خطة التطوير الحذرة التي طرحها داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، مما يبرز القلق الشديد من قادة التكنولوجيا الرائدة تجاه مخاطر فقدان السيطرة لنماذج الذكاء الاصطناعي.
وفقًا لتحليلات الصناعة، مع التطور المستمر في استقلالية النماذج وقدرات الوكالات، أصبح إنشاء معايير صناعية شفافة وقابلة للتحكم وبإمكانها التدخل الخارجي من المهمة الأساسية لتحقيق التوازن بين الابتكار التقني والخطوط الحرجة للأمان.