في مقال طويل على Xوقدم الرئيس التنفيذي لشركة مايكروسوفت آراءه حول المخاطر التي تفرضها النماذج الذكية المتقدمة للغاية، وكيفية مواجهة تلك المخاطر. يقول ناديلا إننا لم نعد قادرين على قبول عالم حيث يتم التعامل مع الذكاء الاصطناعي كـ “مجموعة من صناديق سوداء متراكمة”، حيث نقبل أو نرفض نصائحها وأفعالها ببساطة. ويدعو إلى بناء نظام أكثر شفافية، حيث يمكن تفريغ النماذج ومراقبتها، مع ترك “أدلة قابلة للقراءة من قبل البشر” تُحمي من التعديل.
العديد من توصياته يتوافق مع ما سمعناه من الآخرين في الصناعة: الكشف الفوري عن الحوادث، التدقيق المستقل، البيانات القابلة للتحقق، والاحتواء. ويبدو أنه يذهب قليلاً أكثر من بعض الآخرين في المجال في النقطة الأخيرة، حيث يقول:
يجب أن نفترض أن النموذج قد تعرض للاختراق، ويجب حمايته منذ البداية. يمكن اعتبار ذلك كفرامل طوارئ. يجب أن يكون هناك شخص مخول دائمًا قادرًا على إيقاف أو إغلاق النموذج أثناء تنفيذه. أما النماذج الأكثر تقدمًا، فستحتاج إلى تقنيات حماية أكثر تقدمًا، ويجب علينا توحيد هذه التقنيات.
للأسف، يشير ناديلا أيضًا إلى الذكاء الاصطناعي باسم “الذكاء الفائق” في النص بأكمله.
تابع الموضوعات والمؤلفين من هذه القصة لترى المزيد من هذا النوع على صفحة الواجهة الشخصية الخاصة بك، ولتحصل على تحديثات بريدية.