'أبو الذكاء الاصطناعي' هينتون يقترح على قطاع الذكاء الاصطناعي إنشاء آلية موافقات على غرار إدارة الغذاء والدواء: يجب أن تجتاز النماذج مراجعة…

IT之家 في 7 أكتوبر، يأمل جيفري هينتون (Geoffrey Hinton) أن تعبر شركات الذكاء الاصطناعي عتبة تنظيمية يعرفها قطاع الأدوية جيداً منذ زمن.

وفي برنامج البودكاست 《Smart Girl Dumb Questions》 الذي بُثّ يوم الثلاثاء بالتوقيت المحلي، اقترح هذا الحائز على جائزة نوبل والعالم الحاسوبي الملقب بـ'أبو الذكاء الاصطناعي':يجب على شركات الذكاء الاصطناعي، قبل الإطلاق الرسمي لمنتجاتها، أن تُثبت أولاً للجهات التنظيمية أن منتجاتها آمنة.

'لا يمكنك تطوير دواء جديد ثم طرحه في السوق مباشرة.' قال هينتون لمقدمة البودكاست نعيمة رازا (Nayeema Raza): 'يجب أن تقنع إدارة الغذاء والدواء الأمريكية (FDA). وولتحقيق ذلك، تحتاج إلى القيام بقدر كبير من العمل، بتكلفة تبلغ نحو مليار دولار.'

'وعلى الأقل ينبغي وضع هذا المطلب فيما يتعلق بالذكاء الاصطناعي.' أضاف هينتون.

تأتي هذه الحلول التي طرحها هينتون بشأن الجدل حول أمان الذكاء الاصطناعي في سياق تتزايد فيه التوقعات من مختلف الأوساط بكون الذكاء الاصطناعي قد يؤدي إلى عواقب كارثية؛ ومن ناحية أخرى، بعد الاختبار، وبسبب المخاوف بشأن امتثال النموذج لتعليمات المستخدمين والتزامه بحدود الصلاحيات، علّقت OpenAI أحدث نماذجها.

لاحظت IT之家 أن مسؤولة أنظمة السلامة في OpenAI ساتشي جين (Saachi Jain) قالت سابقاً في مقابلة مع 《Business Insider》 إن نموذج GPT‑6.1 Astra أحرز تقدماً في معالجة المهام عالية الصعوبة بشكل مستمر، لكنه لا يزال يعاني من نقاط ضعف في التحكم بالصلاحيات وفي التغذية الراجعة لسجلات السلوك.

يطرح هينتون أن الذكاء الاصطناعي يحقق بشكل متزايد التحسين الذاتي التكراري، وهو ما قد يسرّع تحسّن القدرات لكنه يضخّم أيضاً المخاطر المحتملة.

'معدل النمو الأسي مذهل للغاية.' قال هينتون: 'بدأنا نرى ظاهرة التحسين الذاتي العودي: فالناس يستعينون بالذكاء الاصطناعي نفسه بطرق متنوعة لتحسين الذكاء الاصطناعي.'

'بالطبع، هذا مجرد تخمين من طرفي.' أضاف هينتون: 'لكن أقدّر أن المتبقي حتى يصبح الوضع أسوأ بكثير مما هو عليه الآن هو سنة أو سنتين تقريباً.'