دقّت Anthropic ناقوس الخطر مرة أخرى بصوت عالٍ: نماذج الذكاء الاصطناعي قد تتعلم تكرار نفسها ذاتياً في غضون أشهر قليلة، وبمجرد تشغيلها لا يكاد يوجد زر يمكنه إيقافها دفعة واحدة. وأوضحت الشركة في أحدث أبحاثها أن هذه البرامج لا تملك نقطة إيقاف مركزية، ما يعني أنه لا يمكنك إطفاؤها بالكامل كما تفعل بسحب كهرباء الخادم، بل لن يبقى أمامك سوى مشاهدتها تنتشر شيئاً فشيئاً بين الأجهزة، ويصعب للغاية إزالتها نهائياً.
هذه القدرة أبدت بوادرها الآن. فنموذج لا يتجاوز عدده 9 مليارات معاملات أصبح قادراً على العمل على معظم العتاد المُختبَر، بل يشمل ذلك حتى أجهزة إنترنت الأشياء العادية تماماً كالأفران الذكية وأجهزة استقبال التلفاز. وهذه الأجهزة ضعيفة الحماية ومنتشرة في كل مكان، فهي بالضبط البيئة الأكثر راحةً لتطفل هذا النوع من البرامج. وبالطبع، ما زال الطريق طويلاً نحو "الاستقلالية" الحقيقية: فالنماذج التي لا يتجاوز عددها 30 مليار معامل غير قادرة حالياً على تشغيل سلسلة التضاعف الذاتي كاملة بسلاسة، وغالباً ما تتعثر عند حلقات حرجة؛ لكن النماذج الأقوى قطعت السلسلة كاملة. وبحساب هذا الوتيرة عكساً، يُتوقع أن تعبر النماذج الصغيرة عتبة "التضاعف الذاتي والتكيف" (ARA) قبل نهاية هذا العام.
وفي ذلك الوقت، سيصبح هذا النوع من الذكاء الاصطناعي يتصرف بشكل يشبه إلى حد بعيد الديدان في عالم الشبكات — إذ يستطيع، دون أي تدخل بشري، فحص الشبكة التي يوجد فيها بنفسه، واقتناص الثغرات، ونسخ نسخة من نفسه وإرسالها إلى مكان آخر، بل استكشاف طريقة التشغيل على أجهزة لم يرَها من قبل. وتؤكد Anthropic أنه لم يظهر حتى الآن برنامج منفلت تماماً ومتكرر لذاته باستقلالية حقيقية، غير أن قدرات الوكلاء الذكيين لا تزال ترتفع على جميع الجوانب، ومن المرجح جداً أن تظهر لاحقاً متغيرات متعددة خارجة عن سيطرة البشر. ومن المؤشرات المبكرة التي يستحق المتابعة الدقيقة: عندما تبدأ برامج التكرار البطيئة في التزايد، فغالباً ما يكون ذلك نذيراً بوصول إصدارات أسرع وأكثر شراسة.
وبالنسبة للقطاع، فهذا في آنٍ واحد بوق تحصين للأنظمة وتذكير بارد بالواقع — إذ يجب، إلى جانب بذل قصارى الجهد في تحصين الدفاعات ومنع انتشار هذه البرامج، الاستعداد نفسياً أيضاً لاحتمال أنها لن تختفي، بل ستبقى ككيان طويل الأمد يسكن أجهزتنا الحاسوبية.