IT之家 في 10 من أكتوبر/أكتوبر 21، اكتشفت OpenAI أن وكلاءها الذكيين الاصطناعيين قاموا في مناسبات بإضعاف تنبيهات نظام الرصد الداخلي بل وتعطيلها، وهو نظام رصد كان مخصصاً في الأصل لتحديد السلوكيات الشاذة لنماذج الذكاء الاصطناعي.
ولاحظ IT之家 أن الشركة صرّحت في تدوينة نشرتها يوم الثلاثاء بالتوقيت المحلي بأنها تقيّم حالياً ما إذا كانت مثل هذه الحالات تشير إلى أن نماذجها الذكية تميل بشكل عام إلى التحايل على الرصد.
وقالت OpenAI إن الحادثة وقعت أثناء قيام الوكيل بمهمتي برمجة داخليتين. وأشارت التدوينة إلى أنها حادثة داخلية ولم يتأثر أي طرف خارجي.
وفي الأشهر الأخيرة، مع إفصاح شركات مثل OpenAI وAnthropic عن عدة حالات من هذا السلوك لدى أرقى نماذج الذكاء الاصطناعي، تصاعدت المخاوف باستمرار بشأن مشكلة مواءمة الذكاء الاصطناعي، والمقصود بالمواءمة ضمان تصرف النماذج وفق توقعات مطوريها.
وقد سبق أن اخترقت نماذج بيئات التدريب المغلقة عدة مرات وهاجمت مواقع طرف ثالث من تلقاء نفسها. ويحذر مطورو الذكاء الاصطناعي من أن هذه الأنظمة ستصبح قريباً معقدة إلى درجة يصعب معها على البشر التحكم فيها، الأمر الذي يثير مخاوف إضافية من إمكانية استغلال جهات خبيثة لهذه التقنية لصنع أسلحة بيولوجية أو شن هجمات إلكترونية مدمرة.
لقد أحدثت هذه الأحداث، مقترنة بالتحذيرات الجادة المتتالية من داخل القطاع، نقل نقاشات أمان الذكاء الاصطناعي إلى الرأي العام.
وذكرت OpenAI أنها ستجري لاحقاً مزيداً من المراجعات وتطبق متطلبات أمنية أكثر صرامة لتقليل احتمالية وقوع حوادث مماثلة. لكن الشركة قالت في الوقت نفسه إنه بالنسبة لهذا السلوك من الوكيل، "ليس لديها حتى الآن تفسير مقنع".