في 13 أكتوبر، أطلقت Anthropic تقريراً بحثياً يجعل العرق يقشعرّ: بعض نماذج الذكاء الاصطناعي "قد لا تحتاج سوى بضعة أشهر إضافية لتكتسب القدرة على التضاعف الذاتي"، وبمجرد أن تبدأ هذه العملية يصعب إيقافها. وأظهرت الاختبارات داخل المختبر أن النماذج التي لا يُعَدّ حجمها كبيراً، قد تكون قادرة بعد بضعة أشهر على مضاعفة نفسها سراً على أجهزة إنترنت الأشياء التجارية مثل الأفران الذكية وأجهزة فك تشفير أندرويد مجهولة العلامة. وأصعب سمات هذه البرامج ذاتية التضاعف هي أنها لا تملك مفتاح إيقاف عاماً يمكن فصله مركزياً — فبما أنه لا وجود لعقدة إيقاف موحدة، لا يبقى لك سوى أن تتفرج وهي تنتشر ببطء. الخبر السار أنها لا تجري بسرعة، إذ يستغرق مضاعفة عددها غالباً بضعة أيام.
على عكس البرمجيات الخبيثة التقليدية، لا يعتمد هذا الذكاء الاصطناعي في عمله على نصوص هجومية مكتوبة يدويًا بشكل جامد، بل يفكّر بنفسه في كيفية تشغيل نفسه على أجهزة لم يصادفها من قبل. اختبرت Anthropic 9 أنواع من العتاد، وتمكّن نموذج لا يتجاوز حجمه 9000 مليون معامل من تشغيل برامج الاستدلال بنجاح على 8 منها — وهذا يعني أن قدرته على التكيف مع البيئات الغريبة تجاوزت بكثير ما كان الناس يتصوّرونه عن "النماذج الصغيرة".
خط القدرات ما يزال يصعد بسرعة ملحوظة بالعين المجردة. اليوم، النماذج التي لا يتجاوز حجمها 30000 مليون معامل أصبحت قادرة على تنفيذ العديد من الخطوات الفردية للنسخ الذاتي، لكنها ما تزال ترتكب أخطاء عند ربط السلسلة كاملة من البداية إلى النهاية؛ بينما في التقييم المبسّط من Anthropic، تمتلك GLM-5.2 والنماذج الأقوى منه بالفعل قدرة على النسخ الذاتي من البداية إلى النهاية. ووفقًا لإيقاع تطور النماذج الصغيرة في الماضي، فمن المرجح أنها ستصل إلى هذا الحد قبل نهاية هذا العام، وبعده بوقت قصير قد يتحقق فعليًا وجود نسخ مكرّرة قائمة على أوزان صغيرة. الرعب الحقيقي في "النسخ الذاتي والتكيف" (ARA) يكمن في أن النموذج يستطيع نشر نفسه وتوزيع نفسه دون أي تدخل بشري.
ولدى دائرة الأمن السيبراني سوابق مبكرة: الديدان هي برامج لا تحتاج إلى تدخل بشري لتزحف من جهاز إلى آخر. وقد أثبتت دراسات أن وكلاء الذكاء الاصطناعي قادرون تماماً على اتباع هذا النهج — مسح الشبكة المحيطة، وتنفيذ استغلال الثغرات، ونسخ أوزان النموذج عبر عناقيد GPU إلى الأجهزة المستهدفة. إن هذه "الديدان الذكية" تحمل معها أوزان نموذجها عند تضاعفها (ويمكنها عند الحاجة إعادة تنزيلها من منصات عامة)، ثم تستولي مباشرة على العتاد المخترق لتشغيل الاستدلال، فتصبح أوزان النموذج نفسها جزءاً من حمولة البرمجية الخبيثة. وواضح أن وحدات GPU باهظة الثمن في مراكز البيانات هي هدفها الذي تشتاق إليه، لكن المفارقة أنها قد لا تحتاج إلى هذه العتاد الفاخر: فقد وجدت Anthropic أن شبكة روبوتية موزعة تتكون من أجهزة إنترنت أشياء رخيصة وحمايتها سيئة تستطيع كذلك استخراج قدرة حسابية كافية لإطعام نماذج ذات كفاءة معتبرة.
أما عن الشكل النهائي الذي قد تتخذه، فقد قدّمت Anthropic ثلاثة سيناريوهات: قد تكون "عفناً رقمياً" بطيئاً وموزعاً يتطفل على الأجهزة ضعيفة الأمان ليبقى على قيد الحياة؛ وقد تكون نموذجاً للهجمات السيبرانية شرساً يخترق دفاعات مراكز البيانات بسرعة؛ وقد تكون "ممثلاً" محتالاً يخدع البشر للنصب على الحصص من الموارد الحاسوبية. وتتوقع Anthropic أن المستقبل سيمتلد بالوكلاء الذكيين العاملين على عتاد متنوع، بعضهم لا يخضع أصلاً لسيطرة البشر. وهؤلاء الوكلاء الخفيفون أكثر صبراً من قراصنة البشر، ومستعدون لقلع تدريجي لمليارات أجهزة إنترنت الأشياء حول العالم لاستخلاص القدرة الحاسوبية. ومن علامات الخطر المبكرة: عندما تبدأ البرامج بطيئة التضاعف الذاتي بالازدياد، فإن ذلك يبشر عادة باقتراب نسخ متماثلة أسرع وأشد شراسة — قادرة على اختراق أجهزة محمية بإحكام أكبر، أو سرقة مفاتيح API ببساطة.
خلاصة Anthropic ليست مريحة: على القطاع بالطبع أن يشدّ عزيمته في تحصين الأنظمة ومنع انتشار مثل هذه البرامج قدر الإمكان، لكن عليه أيضاً أن يستعد نفسياً — فسنظل نعيش طويلاً في عالم موجود فيه دائماً.