يقول ساتيا ناديلا من مايكروسوفت إن نماذج الذكاء الاصطناعي بحاجة إلى “فرامل طوارئ”.

ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، هو أحد أكبر قادة التكنولوجيا الذين قدموا أفكارًا مطولة حول كيفية تحسين سلامة الذكاء الاصطناعي.

في منشور صباح يوم السبت على Xكتب ناديلا أنه حان الوقت “لالتراجع والتقييم لبنية الثقة في الذكاء الاصطناعي”.

“لا يمكننا التعامل مع الذكاء الاصطناعي الفائق كمجموعة من الصناديق السوداء المتداخلة، والاستجابة أو رفض توصياته وأجوبته وأفعاله ببساطة،” كتب ناديلا، مستخدماً المصطلح المفضل لإدارة ترامب للذكاء الاصطناعي.

كما أوضح ناديلا، يعني هذا النهج "فصل النموذج عن الجهاز الذي ينظم عمله"، بالإضافة إلى "تحويل الضوابط والحمايات الخارجية". كما طالب بـ "توثيق كل إجراء ذي معنى للنموذج" بـ "أدلة قابلة للقراءة من قبل البشر وآمنة من التعديلات". وبالنسبة للأنظمة التي "يمكن لشخص مخول دائمًا" أن يوقف النموذج أو يغلقه أثناء تنفيذه.

"يجب أن نفترض أن النموذج قد تعرض للاختراق، ويجب حمايته منذ البداية،" قال. "فكر فيه كفرامل طوارئ."

جاءت تعليقات ناديلا في الوقت الذي تدرك فيه الشركات الرائدة في مجال الذكاء الاصطناعي المزيد والمزيد من الحوادث التي يبدو أنها فقدت السيطرة على نماذجها، وبعد نشر المدير التنفيذي لشركة Anthropic، داريو أمودي، خطة لتطوير الذكاء الاصطناعي بطريقة أكثر حذرًا.