هل تتآمر أجيال من الأجهزة الذكية — الثلاجات والأفران والمكانس الكهربائية و partات قص العشب وكاميرات المراقبة وأجهزة التلفاز — للسيطرة على الإنترنت؟ لا. لكنها قد تصبح قريباً مضيفين غير متعمدین لنماذج ذكاء اصطناعي ذاتية النسخ تنتشر من جهاز إلى جهاز وتثبت صعوبة احتوائها بشكل ملحوظ.
مرحباً بكم في عالم ديدان الذكاء الاصطناعي المقلق، حيث يكون احتمال انتشار النماذج بشكل خارج عن السيطرة عبر الأجهزة المنزلية، بحسب من تسأل، إما خطراً سيبرانياً وشيكاً أو حالة أخرى من الشركات التي تروّج لضجيج مهلوس عن الذكاء الاصطناعي. في منشور مدونة صدر هذا الأسبوع، تحذر Anthropic من أن النماذج الصغيرة من الذكاء الاصطناعي قد تكون «تبعد شهوراً» عن اكتساب مثل هذه القدرات. وتقدم تجاربها بعض الأدلة الداعمة لذلك، لكنها تترك فجوة هائلة بين ما أثبته الباحثون والتهديد الوشيك الذي يتوقعونه. ومع ذلك، يقول خبراء تحدثوا مع The Verge إنه رغم أن الديدان الحاسوبية ومخاوف الذكاء الاصطناعي ذاتي النسخ ليست جديدة، فإن التطورات الأخيرة تشير إلى وجود أسباب وجيهة لأخذ التحذيرات على محمل الجد.
طالما أن الآلات ذاتية النسخ طاردت باحثي سلامة الذكاء الاصطناعي. فهي تثير احتمال انتشار أنظمة تتجاوز السيطرة البشرية ويصعب، إن لم يكن مستحيلاً، إيقاف تشغيلها. كما هو الحال مع كثير من المخاوف بشأن تقدم الذكاء الاصطناعي, ركزت الأنظار إلى حد كبير على النماذج الرائدة ذات القوة المتزايدة، مثل Astra من OpenAI أو Mythos من Anthropic. لكن العامل المحدد الأساسي هو حجمها: فهي هائلة. تحتوي نظرياً على تريليونات من المعاملات — قيم تتعلم أثناء التدريب — وتتطلب النماذج الرائدة موارد حوسبية ضخمة، مما يحصرها إلى حد كبير في مراكز البيانات، حيث يمكن مراقبتها بسهولة أكبر وإيقاف تشغيلها، من حيث المبدأ.
أما النماذج الأصغر فتطرح مشكلة مختلفة. فهي تتحسن بسرعة، ويمكن تشغيلها على أجهزة من فئة المستهلكين، وكثيراً ما تكون متاحة للتنزيل مجاناً. أراد باحثو Anthropic معرفة ما إذا كان يمكن لنموذج ما أن يعمل عبر شبكة من أجهزة أصغر وأقل قوة. لقد نجحوا في تقسيم Gemma 4 من Google، وهو نموذج يحتوي على 26 مليار معامل، عبر 15 صندوق تلفاز ذكي يعمل بنظام Android، لم يكن أي منها قوياً بما يكفي لتشغيله بمفرده. وقد نجح الأمر، وإن كان ببطء شديد.
مواضيع ذات صلة
- داخل عالم سلامة الذكاء الاصطناعي الذي انفجر فجأة
- شركة واحدة في مركز موجة من هجمات الذكاء الاصطناعي الشاردة
- لماذا لا يمكننا ببساطة إبقاء أنظمة الذكاء الاصطناعي الشاردة خارج الإنترنت؟
وبعد أن أثبتوا أن النموذج يمكن أن يعمل عبر أجهزة منزلية، أراد الباحثون معرفة ما إذا كان الذكاء الاصطناعي قادراً على تنفيذ الخطوات اللازمة للنسخ الذاتي في مثل هذه البيئة. لقد بنوا شبكة محاكاة من أجهزة الكمبيوتر مصممة لتتصرف مثل أجهزة Android، ثم أطلقوا «دودة» مدعومة بالذكاء الاصطناعي — وهو نوع من البرمجيات الخبيثة التي تنسخ نفسها وتنتشر تلقائياً عبر الشبكات — بمهمة العثور على أجهزة جديدة، ونسخ نموذج الذكاء الاصطناعي إليها، وتشغيله على كل منها. ومن الجدير بالذكر أن النموذج الذي كان ينتشر — Llama 3.1-8B من Meta بمعاملات 8 مليار — كان مختلفاً عن النموذج الذي كان ينسق الهجوم، وأصغر حجماً بكثير.
فقط أكثر النماذج تطوراً بين التي اختُبرت، GLM-5.2 من شركة Z.ai الصينية، تمكن من الانتشار عبر الشبكة بأكملها، مع أن النماذج الأصغر نجحت في تنفيذ خطوات فردية. وبناءً على سرعة تحسنها، يتوقع باحثو Anthropic أن النماذج الأصغر قد تساوي قدرات GLM-5.2 بنهاية العام.
«كتنبؤ يتجاوز تجاربنا، نتوقع مستقبلاً مغموراً بالوكلاء الذين يعملون على جميع أنواع الأجهزة، بما في ذلك بعضها ليس تحت السيطرة البشرية»، كما كتب الباحثون. وقد أقرّوا بأنهم لم يثبتوا بعد «ناسخاً شاذاً كاملاً»، ولا يعرفون كيف قد يبدو مثل ذلك (يقترحون «عفريت طحلب رقمي بطيء وموزع» أو «سرباً من ذباب الفاكهة»). لكنهم قالوا إن نتائجهم تظهر «علامات حياة لديدان الذكاء الاصطناعي»، ودعوا إلى تعزيز أمن الأجهزة الكثيرة التي يمكن لنظام ناسخ أن يستخدمها للانتشار.
كتبا: "يجب أن نهدف إلى تحصين أنظمتنا لتسهيل منع انتشار مثل هذه المُكرِّرات، لكن علينا أيضاً الاستعداد للتعامل مع عالم ستستمر فيه في الوجود". ومن المهم الإشارة إلى أن Anthropic لم تستخدم نماذجها الخاصة في هذه الاختبارات وقد بشكل متكرر زعم أن البدائل المفتوحة لنماذجه الذكاء الاصطناعي تحمل «مخاطر أكبر” من الأنظمة المغلقة.
أثار التحذير اتهامات مألوفة بالترويج العلاقات العامة ضجة والذكاء الاصطناعي الإحباط القِدَمي، ومن بينهم قرّاء ذا فيرج’s تغطية سابقة"." ففي نهاية المطاف، هناك فجوة كبيرة بين إثبات قدرة ذكاء اصطناعي على العمل ببطء عبر مجموعة من أجهزة التلفاز الرخيصة، وديدان الذكاء الاصطناعي ذاتي الاستنساخ التي تنتشر عبر الأجهزة المنزلية. لكن بينما يستحق التساؤل عن دوافع الشركة أن يكون مفيدًا بالتأكيد، فإن الادعاءات بوجود تخويف متعمد يصعب إثباتها، خاصة أن شركة Anthropic أثارت منذ زمن طويل مخاوف بشأن سلامة الذكاء الاصطناعي. كما أن Anthropic ليست وحدها في التحقيق في تهديد الذكاء الاصطناعي ذاتي الاستنساخ، أو في الدعوة إلى تعزيز الأمن عبر الأجهزة المتصلة.
في وقت سابق من هذا العام، أجرت شركة Palisade Research، وهي شركة أبحاث متخصصة في سلامة الذكاء الاصطناعي مقرها كاليفورنيا أظهر أن نماذج الذكاء الاصطناعي يمكنها نسخ نفسها ذاتياً على أجهزة أخرى. وقال جيفري لاديش، المدير التنفيذي لـ Palisade: «الجديد هنا هو أن هذه النماذج كانت أصغر بكثير من حيث عدد المعاملات مقارنة بنماذج سابقة أُثبتت قدرتها على التضاعف الذاتي»، ذا فيرجوتأخذ عمل Anthropic ذلك خطوة أبعد من خلال إظهار أن الذكاء الاصطناعي يمكن أن يعمل عبر أجهزة متعددة منخفضة الطاقة. قال Ladish: «سينطبق هذا أيضًا على النماذج الكبيرة»، متوقعًا أن النماذج الرائدة قد تتمكن في النهاية من العمل على شبكات كبيرة من رقائق المستهلكين، مثل تلك الموجودة في أجهزة MacBook.
«أثبتت الأبحاث السابقة بالفعل أنّ تهديد الديدان الحاسوبية المدفوعة بالذكاء الاصطناعي أمر واقعي.»
ديدان الكمبيوتر ليست جديدة كذلك. فالأداة تلتهم الأجهزة منذ عقود. لكن الذكاء الاصطناعي قد يجعلها أكثر ذكاءً وتكيفًا وأفضل تجهيزًا لتفادي أي عقبات. وأشار لاديش إلى أن حتى النماذج الأصغر أصبحت أكثر قدرة على تنفيذ الهجمات السيبرانية بشكل ذاتي. وقال نيكولاس بابيرنو، أستاذ في جامعة تورنتو، الذي سبق له درس لهم، أخبر The Verge.
وإجمالًا، فإن القدرات التي أظهرتها Anthropic يمكن أن توسّع بشكل كبير نطاق الأجهزة المستحقة للاستهداف في الهجمات السيبرانية. وقال بابيرنو: "الأجهزة التي لم تكن هدفًا في السابق بسبب محدودية موارد ووقت المهاجمين البشر يمكن أن تصبح الآن أهدافًا، إن لم يكن ذلك للبيانات التي تحملها، فبهدف استخدامها كمنصة انطلاق لمهاجمة أهداف أكثر قيمة". ولا يوجد نقص في الأهداف: فالإنترنت مثخن بالثغرات مع بشكل سيئ مؤمَّن ذكي الأجهزة.
حذّر بابيرنو من تشبيه الذكاء الاصطناعي بالبشر، لكنه قال إن تهديد ديدان الكمبيوتر المدفوعة بالذكاء الاصطناعي "ملموس" و"يستحق اتخاذ إجراءات فورية"، خاصة عندما يتعلق الأمر بتأمين البنية التحتية الحيوية مثل المستشفيات وشبكات الكهرباء.
"ما لم يبذل جهد هائل لتأمين الأجهزة من كل الأنواع، فمن المرجح للغاية أن تجد الديدان المدفوعة بالذكاء الاصطناعي أرضًا خصبة للاستعمار"، قال لاديش. "أتوقع أن نرى أول هذه الديدان في البرية خلال الـ 12 شهرًا القادمة."
تابع المواضيع والمؤلفين من هذه القصة لرؤية المزيد مثلها في موجز صفحتك الرئيسية المخصصة وللتلقي بتحديثات عبر البريد الإلكتروني.