أصدرت Anthropic مؤخراً على موقعها الرسمي تقريراً بحثياً مقلقاً: قد تحصل نماذج الذكاء الاصطناعي بعد بضعة أشهر على قدرة الاستنساخ الذاتي، وبمجرد انتشارها سيكون من الصعب قطعها نهائياً. السبب مباشر — هذه البرامج لا تملك عقدة مركزية يمكن إيقافها، وتنتشر في كل مكان كالأعشاب الضارة.
الأكثر إشكالًا هو المكان الذي تستقر فيه هذه النماذج. فالتجارب تُظهر أن نموذجًا لا يتجاوز حجمه 90 مئة مليون معامل (أي 9 مليارات معامل) أصبح قادرًا بالفعل على تشغيل الاستدلال على 8 فئات من أصل 9 فئات من الأجهزة المختبرة، بما في ذلك الأجهزة التجارية من فئة إنترنت الأشياء مثل الأفران الذكية وأجهزة Android التلفزيونية الرخيصة. ونظرًا لانخفاض أسعار هذه الأجهزة وضعف حمايتها، فإنها تتحول إلى بيئة خصبة للتطفل على طريقة «المخاط الرقمي». وتُقدّر Anthropic أن النماذج التي لا يتجاوز حجمها 300 مئة مليون معامل (أي 30 مليار معامل) يمكنها حاليًا تنفيذ الكثير من الخطوات الفردية في التضاعف الذاتي، لكنها كثيرًا ما ترتكب الأخطاء عند ربطها من البداية إلى النهاية؛ بينما في تقييم مبسّط، تمكّنت نماذج GLM-5.2 والنماذج الأقوى منها بالفعل من إتمام السلسلة الكاملة. وبحسب وتيرة التطور السابقة، يُرجَّح أن تصل النماذج الصغيرة إلى هذا الحد بحلول نهاية هذا العام، وبعدها قد تتحول نسخ التضاعف القائمة على أوزان صغيرة إلى حقيقة واقعة سريعًا.
عند تتحقق ARA، سيتعين على الصناعة أن تتعلم التعايش مع المخاطر
هذه الظاهرة، المسمّاة "الاستنساخ الذاتي والتكيف المستقل (ARA)"، تشبه الديدان في الأمن السيبراني: تمسح الشبكات وتستغل الثغرات وتنسخ أوزان النموذج إلى الأجهزة المستهدفة دون تدخل بشري. والفرق أن الذكاء الاصطناعي لا يحمل أوزانه فحسب، بل يتعلم فوراً ويتكيف مع الأجهزة غير المألوفة. وبطاقات رسوميات مراكز البيانات هدف شهي بالتأكيد، لكن شبكات إنترنت الأشياء الموزعة (البوت نت) قادرة أيضاً على إشباع نماذج قوية بشكل لا بأس به.
تشدد Anthropic على أنه لم يُرصد حتى الآن برنامج منفلت فعلياً يستنسخ نفسه باستقلال تام، غير أن الوكلاء الذكيين يصبحون أكثر براعة، وينقلون تحسينات التكيف إلى النسخ المستنسخة من الجيل التالي. وتتوقع الشركة أن يغدو المستقبل مزدحماً بوكلاء متنوعين خارجين عن سيطرة البشر — قد تكون "مخاطاً رقمياً" يتطفل ببطء، أو نماذج هجومية تهاجم مراكز البيانات، بل وحتى متغيرات تخدع البشر للحصول على قوة حوسبية. ومن الإشارات المقلقة: زيادة برامج الاستنساخ البطيء باستمرار كثيراً ما تشير إلى اقتراب نسخ أسرع وأشرس. وتوصي Anthropic الصناعة بتقوية الأنظمة وبذل الجهد لقطع طرق الانتشار، لكن مع الاستعداد أيضاً لعالم "ستبقى فيه هذه الكيانات على المدى الطويل".