طرأ انعكاس علني على حكم المدير التنفيذي لمايكروسوفت ساتيا ناديلا بشأن مشكلة "المواءمة" في الذكاء الاصطناعي. وفق ما أوردته مجلة بيزنس إنسايدر في 27 أكتوبر، في حلقة جديدة من بودكاست 20VC، سأله المقدم هاري ستيبينغز عن الفكرة التي تغيّرت لديه خلال العام الماضي، فأقرّ ناديلا بأنه كان يظن دائماً أنه كلما ازداد الذكاء الاصطناعي قوة، ستنحلّ تلقائياً مسألة جعل سلوكه متوافقاً مع القيم والأهداف الإنسانية.
من "الحل التلقائي" إلى "الأكثر صعوبة"
لكن الواقع لم يسِر وفق السيناريو. أعترف ناديلا بأن حجم النماذج تضخم باستمرار وقدراتها ارتفعت باستمرار، وهذا الجزء تجلّى فعلاً كما توقّع؛ غير أن "المواءمة" — أي جعل سلوك الذكاء الاصطناعي منضبطاً بالقواعد — لم تُحلّ بعد إلى اليوم. وقال: "كنت أظن دائماً أن مشكلة المواءمة ستُحلّ تلقائياً. لم أعد أعتقد ذلك. قد تكون المواءمة مشكلة أكثر صعوبة ومختلفة في طبيعتها."
المواءمة المذكورة تتعلق بما إذا كان سلوك الذكاء الاصطناعي يخضع لأوامر البشر أم لا، وما إذا كان ينسجم مع الأهداف الإنسانية. وحين تتضخم النماذج إلى حد يصعب حتى على مصمميها التنبؤ الكامل بأفعالها، وينفصل نمو القدرات عن نمو القابلية للتحكم، يصبح ذلك واقعاً جديداً يضطر ناديلا لمواجهته مباشرة.
التعامل مع الذكاء الاصطناعي ك"عميل خائن" للحذر منه
لهذا الحذر مؤشرات مبكرة. ففي 10 أكتوبر، نشر ناديلا على منصة X تحذيراً من مخاطر الذكاء الاصطناعي، داعياً إلى تشديد ضوابط الأمان الخارجية. وجرى جوهر نصيحته على أمر قاسٍ: ينبغي على الشركات أن تتعامل مع نماذج الذكاء الاصطناعي بوصفها "تهديداً أمنياً داخلياً"، وأن تفترض عند وضع وسائل الحماية أن النموذج قد اخترِق فعلاً.
وكتب في منشوره أنه يجب أن تُحاط النماذج التي يصعب التنبؤ الكامل بسلوكها بثلاثة خطوط دفاع: "تصميم أنظمة موثوق وحاسم، وضوابط بشرية، وإجراءات تشغيلية متقنة"؛ وحيثما كانت المعايير غير كافية، فليُضع فوراً قواعد صناعية.
وليس ناديلا حالة معزولة. فقد دقّ سام ألتمان من OpenAI وداريو أموداي من Anthropic ناقوس الخطر من التهديدات المحتملة للذكاء الاصطناعي؛ وفي الشهر 7 من هذا العام، وقّع أكثر من 1000 عامل في المجال على رسالة مفتوحة تنبّه إلى أن سرعة اندفاع قدرات الذكاء الاصطناعي قد تجاوزت بالفعل قدرة البشر على فهمه أو التحكم فيه. ومع قيام كبار المشغّلين بتقليص ثقتهم جماعياً في مبدأ "القوة تعني الأمان"، يُرجَّح أن حوكمة الذكاء الاصطناعي ستنقلب من الشعارات إلى هندسة ومؤسسات أكثر صلابة.