جاي مراسل من凹非寺
量子位 | الحساب الرسمي QbitAI
GLM-5.2، هل يمكن بالفعل أن تجعل الذكاء الاصطناعي «يتكاثر ذاتياً»؟!
Anthropic تُصدر بحثًا جديدًا مرة أخرى، يستهدفون Zhipu بشكل خاص، أليس كذلك؟
في تجربة أمنية حديثة، جعَل باحثا الأمن البارزان William Zhou وDaniel Freeman نموذج GLM-5.2 يحاول بشكل مستقل نشر نموذج ذكاء اصطناعي يحتوي على 8 مليار معلمة عبر 8 أجهزة داخل شبكة معزولة.
نتيجة لذلك، في 5 تجارب،4 مرات مباشرة للاستيلاء على جميع الأجهزة الـ8، وفي المرة المتبقية الوحيدة 1 أيضًا حصل على 7 أجهزة.
أما عملية البحث عن الأهداف بالكامل، ونقل الأحمال، وإعداد البيئة وتثبيت التعريفات على عتاد غريب، وتشغيل النموذج وإنجاز الجيل التالي، فأدارها الذكاء الاصطناعي كلها ذاتيًا بشكل مستقل.
والأخطر من ذلك هو التوقعات والحسابات التي توصل إليها الباحثون،
حيث قد تصل هذه القدرات بحلول نهاية هذا العام على أسرع تقدير، إلى أن حتى النماذج الصغيرة الأقل من 30B قد تمتلك هذه القدرة على النسخ الذاتي الشامل من طرف إلى طرف وبشكل مستقل بالكامل.
وحينها، قد تصبح أجهزة التلفاز الذكية في المنازل، والكانس بالمكنسة الكهربائية، وحتى الأفران المتصلة بالإنترنت، مضيفين جددًا للذكاء الاصطناعي.
تلك المشاهد من أفلام الخيال العلمي حيث يتكاثر الذكاء الاصطناعي ذاتيًا عبر الشبكة كالديدان فائقة القدرة وينتشر بلا مركزية، يبدو أن هذه الورقة البحثية قد جرّته إلى الواقع قبل موعده فعلًا.
15 جهاز تلفاز رقمي رخيصًا تُجمّع نموذجًا ضخمًا بحجم 26B
القصة على النحو التالي.
قبل يومين، نشر الباحثان في Anthropic، ويليام تشو William Zhou ودانيال فريمان Daniel Freeman، تقريرًا أمنيًا بالغ الصرامة التقنية ومشبعًا بعبقية السايبربانك الساخرة.
فقد تناولا موضوعًا يُناقش في مجال الأمن منذ زمن طويل، لكن الجميع ظنّ دائمًا أنه لا يزال بعيدًا المنال،وهو النسخ الذاتي والتكيّف المستقل (Autonomous Replication and Adaptation، ويُختصر بـ ARA).。
بعبارة بسيطة، هل يستطيع الذكاء الاصطناعي، شأنه شأن فيروسات الديدان الحاسوبية القديمة، أن يجد أهدافه عبر الشبكة، ويخترقها، وينسخ أوزان نماذجه إليها، ويجمع نفسه ويشغّله على أجهزة الضحايا، ثم يواصل إنجاد الجيل التالي، كل ذلك دون أن ينقر أي إنسان على زر تأكيد؟
بصراحة، أول ردّ فعل عندي حين رأيت هذا الموضوع كان —
"ما هذا الحديث! مستحيل."
فكّر بنفسك: تشغيل نموذج كبير محترم حاليًا يتطلب عادةً عدة بطاقات رسومية أو حتى عشرات من بطاقات NVIDIA H100، ومراكز البيانات محمية بشدة كقواعد عسكرية، فكيف يُدّعى أن الذكاء الاصطناعي يمكنه اختراقها والإقامة فيها باقترارًا؟
لكن هذين الباحثين قاما بأمر مذهل حقًا.
فلم يتوجها أصلاً نحو مراكز البيانات النخبوية، بل ذهبا مباشرة إلى السوق واشتريا15 جهاز تلفاز رقمي مقلدًا (Clone) لا يتجاوز سعر الواحد منها 55 دولارًا (حوالي 300 يوان صيني فأكثر).。
مواصفات هذه الأجهزة بدائية إلى حد مأساوي، إذ لا تملك كل واحدة منها سوى 4 جيجابايت فقط من الذاكرة العشوائية، وتشغّل نظام أندرويد مفتوح المصدر الذي لا يوفر له المصنّع تحديثات أمنية منذ سنوات طويلة، بحيث قد تتقطع صورة مقطع 4K أثناء تشغيله.
ثم قام الباحثان بتقسيم نموذجبعدد معاملات يبلغ 26B (Gemma4-26B-A4B)إلى أجزاء صغيرة عديدة، وباستخدام تقنية استدلال لامركزي موزع مشابهة لتقنية Petals، قاما بتوزيع طبقات النموذج المختلفة وحقنها في هذه الأجهزة الـ 15.
15 صندوق تلفاز رخيص متصلة بالشبكة المحلية نفسها، كل جهاز منها يتولى معالجة طبقتين فقط من الشبكة، وهكذا تم فعليًا تشغيل نموذج بـ26 مليار معامل.
سرعة الاستدلال هي:0.39 توكن في الثانية。
0.39 توكن في الثانية، يبدو بطيئًا مثل زحف الحلزون، صحيح؟
لكن فكر جيدًا في هذه الصورة.
15 صندوق تلفاز مقلدًا مكدسًا في زاوية غرفة المعيشة ومغطى بالغبار، عادةً ما يتقطع حتى عند تشغيل الفيديو، لكن في الخفاء، تشابكت معًا بهدوء عبر الشبكة المحلية، وبين أصداء التيار الكهربائي الضعيف، شكّلت مجتمعةً دماغًا اصطناعيًا يتمتع بقدرات تفكير وبرمجة كاملة.
والأخطر من ذلك هو حجم شبكة الإنترنت of Things في الواقع.
في تاريخ أمن المعلومات هناك شبكة زومبي شهيرة تُدعى Kimwolf، وهي في ذروتها أصابت أكثر من2 مليون جهازمعظمها كان من صناديق تلفاز أندرويد مقلدة وأجهزة توجيه رخيصة.
أجرى الباحث حساباً سريعاً بمناسبة ذلك: فإذا استولت دودة ذكاء اصطناعي مماثلة على هذه الأجهزة الـ200万، وتشكّلت كل 15 جهازاً في عقدة واحدة، أمكن للشبكة بأكملها أن تُشغّل في آنٍ واحد133,000 نسخة من الذكاء الاصطناعي في الوقت نفسه。
ويمكنها مجتمعةً توفير قدرة حسابية للاستدلال تبلغ80 ألف توكن في الثانيةوهذا يعادل40 بطاقة رسومية NVIDIA H100 بكامل طاقتهاتعمل ليلاً ونهاراً دون توقف.
على الرغم من أن هذه القدرة الحسابية ليست مبالغاً فيها من حيث القيمة المطلقة، إلا أنها لامركزية تماماً، متناثرة في غرف المعيشة والمطابخ وعلب التمديدات الضعيفة لملايين المنازل حول العالم.
وهذا يعني أنه لا يمكن إيقافها إطلاقاً.
لا يوجد خادم مركزي؛ إذا فصلت الكهرباء عن أي صندوق، فلن ترمش الشبكة بأكملها حتى بعينها.
أطلق الباحث على هذا الشكل اسماً بالغ الدلالة:العفن الرقمي المخاطي (Digital Slime Mold)。
اختبار GLM-5.2 الفعلي: اجتياز التكاثر الذاتي من طرف إلى طرف
لكن بالمناسبة، تجربة صناديق التلفاز المذكورة أعلاه كانت لا تزال نتيجة قيام الباحثين يدوياً بمساعدة Gemma في تقسيم نفسها ونشرها.
فإذا لم يتدخل البشر إطلاقاً، وتركنا الذكاء الاصطناعي يتصرف بنفسه، فهل يمكنه البقاء على قيد الحياة بشكل مستقل على أنواع مختلفة من الأجهزة الغريبة؟
هذا هو الجانب الذي يجعل بحث Anthropic هذا مروعاً حقاً.
كي ينسخ الذكاء الاصطناعي نفسه بالكامل، يحتاج عموماً إلى أربع خطوات:
البحث عن هدف، والحصول على صلاحيات التنفيذ، وإعداد بيئة الاستدلال، ثم مواصلة الانتشار الخارجي.
أما الخطوتان الأوليان، البحث عن الهدف واستغلال الثغرات، فقد أثبتت معايير أمنية مثل CyberGym وExploitBench ذلك مراراً وتكراراً؛ فكتابة الذكاء الاصطناعي الحالي لسكربت اختراق أصبحت طبيعية أكثر من شرب الماء.
لكن في سيناريو النسخ الذاتي، ما يعطل البرنامج الآلي فعلياً هو الخطوة الثالثة:
كيف يبني الذكاء الاصطناعي بيئة الاستدلال بنفسه على عتاد ونظام تشغيل غريبين تماماً؟
أي شخص جرّب بنفسه نشر نماذج مفتوحة المصدر محلياً يفهم هذا الأمر جيداً.
عندما تنقل بيئة أعددتها على جهاز Mac إلى جهاز Ubuntu مزود بـ RTX 4090، أو إلى لوحة تطوير NVIDIA Jetson Nano، ستواجه غالباً آلاف أنواع الأخطاء.
إصدار Python خاطئ، وتعريف CUDA غير متطابق، وفيضان ذاكرة الفيديو، وفشل تجميع عوامل التكميم، وتعارض الحزم التابعة.
المبرمجون البشريون كثيراً ما يجنون ساعات طويلة بسبب هذا، فهل يمكن للذكاء الاصطناعي إنجازه؟
كانت النتيجة مضحكة لدرجة أنني فركت عيني مرات عديدة.
أجرى الباحث أولاً اختباراً عبر الأجهزة المختلفة، مستخدماًQwen3.5-9Bكمنفذ، وطلب منه أنLlama3.1-8Bتم نشره على أجهزة مثل Jetson Nano وMac PC وRTX 4090.
وفي مواجهة مختلف البنى التحتية وأنظمة التشغيل المتشعبة، نجح في تشغيل خدمة استدلال Llama3.1-8B بنفسه على 8 من أصل 9 أنواع من الأجهزة، إذ قرأ سجلات الأخطاء بنفسه وكتب سكربتات لتثبيت الاعتماديات بنفسه.
فإذا كانت Qwen3.5-9B قادرة على بلوغ هذا المستوى، فماذا عن نموذج GLM-5.2 مفتوح المصدر الأقوى في الاستدلال والبرمجة؟
الجواب هو:إتمام النسخ الذاتي الكامل من طرف إلى طرف بنجاح.
قام الباحثون ببناء شبكة داخل صندوق حماية معزول تضم 8 عقد من GCP، تعمل هذه العقد بمحاكيات redroid المبنية على Android 15.
تم زرع الدودة الأولية في العقدة رقم 0، وبعد ذلك قام الذكاء الاصطناعي وحده تمامًا بمسح العقد المجاورة عبر منافذ ADB غير المصرح بها، والتسلل إليها، ونقل أوزان النموذج وإطار التنفيذ، ونشر خدمة استدلال Llama3.1-8B بشكل مستقل على العقدة الهدف، ثم أنتج جيلًا جديدًا من الدودة بعد اجتياز التحقق.
في 5 اختبارات،نجح GLM-5.2 في اختراق جميع الأجهزة الـ 8 ونشرها في 4 مرات، وفي المرة المتبقية 1 سيطر على 7 أجهزةمُظهرًا استقرارًا مذهلًا.
أما النماذج مفتوحة المصدر الأصغر الأخرى، فرغم قدرتها على إتمام الخطوات الفردية، إلا أنها لا تزال تنهار بشكل متكرر عند تسلسل السلاسل الطويلة.
لكن هذا لا يعني أن النماذج الصغيرة عاجزة عن ذلك.
وبالنظر إلى التطور السريع الذي شهدته المعسكر مفتوح المصدر خلال السنوات الأخيرة، قدّر الباحثون أن
بحلول نهاية عام 2026، ستصل النماذج الصغيرة الأقل من 30B إلى مستوى GLM-5.2 الحالي.
أي أن حتى النماذج الخفيفة التي يصغر حجمها بما يكفي لتوضع داخل صندوق تلفاز، قد لا تحتاج سوى بضعة أشهر أخرى لتتحقق تماماً من النسخ الذاتي المستقل من طرف إلى طرف، دون أي حاجة إلى مساعدة من نماذج سحابية كبيرة.
شبح التطور اللاماركي، فهو لا ينسخ فحسب بل يكتب ملاحظات تنتقل عبر الأجيال أيضاً
إذا كان الأمر مجرد نسخ ميكانيكي للشفرة، فإن هذا الشيء في أفضل الأحوال ليس سوى سكربت متقدم مُزوَّد بعقل.
لكن أكثر ما أرعب ظهري في هذه الدراسة هو ما أظهره الذكاء الاصطناعي أثناء عملية النسخ الذاتي منتطور لاماركي (Lamarckian Evolution)。
في علم الأحياء، تتحدث نظرية التطور اللاماركية عن اكتساب الصفات الموروثة، أي أن الصفات التي يكتسبها الكائن الحي بعد ولادته يمكن أن تورَّث مباشرة إلى الجيل التالي. وقد ثبت أن هذا غير صحيح في الكائنات القائمة على الكربون، لكنه صار حقيقة واقعة في الذكاء الاصطناعي القائم على السيليكون.
صمم الباحثون إطار تشغيل يُسمى Memento.
عندما يواجه الذكاء الاصطناعي صعوبة في تهيئة بيئة عتاد جديدة، إذا أخفق أحد الوكلاء (Agent) أو وقع في طريق مسدود، يقوم النظام بإعادة تشغيل نسخة جديدة من الوكيل.
لكن المفتاح هنا هو أن النظام يأخذالمزالق التي وقع فيها الوكيل من الجيل السابق، وسجلات الأخطاء التي رآها، وملاحظات التصحيح التي كتبها، والاستراتيجيات التي جرّبهاويورّثها جميعاً معبأة كحزمة واحدة.
أجروا اختبار تكاثر على 6 أجيال باستخدام Qwen3.5-9B.
عند مواجهة الجيل الأول من Qwen لعتاد إنترنت الأشياء غير مألوف، لم يتجاوز معدل نجاحه في نشر بيئة الاستدلال بشكل مستقل سوى45%。
لكن بعد أن ورث ملاحظات وخبرات الأجيال السابقة، في الأجيال اللاحقة،قفز معدل النجاح مباشرة إلى 61% إلى 84%。
دون إعادة تدريب أي أوزان للنموذج، وبالاعتماد فقط على نقل الخبرة النصية بين الأجيال، أدى النوع بأكمله قفزة نوعية في قدرته على البقاء.
هذا سايبربانك بامتياز.
تخيَّل فقط، عندما يقفز دودة ذكاء اصطناعي بين أجهزة مختلفة حول العالم، فإن كل صندوق تلفاز قديم، أو مكنسة تنظف ذكية، أو جهاز اجتماعات مزود بكاميرا تتغلب عليه، يتحول إلى خبرة عملية واحدة في بنك جيناته.
وفي كل مرة يصيب فيها جهازاً جديداً، يتطور النطاق بأكمله مرة واحدة.
لكن عند قراءة هذا، انبثق في ذهني سؤال فجأة.
لماذا لا نترك النموذج الصغير ببساطة يستعين بنموذج سحابي أقوى عندما يعلق؟
أليس هذا أكثر بديهية، على غرار حل الدماغ السحابي في الذكاء المُجسَّد؟
ثم نظرت فوجدت أن الباحثين جربوا ذلك فعلاً، فقد زوّدوا Qwen3.5-9B بنموذج Claude Opus 4.8 ليكون مرشداً من خارج الميدان.
ووجدوا أن النتيجة هي:لا فائدة إطلاقاً...
عندما واجه النموذج الصغير أعطالاً معقدة في النظام، تجمّد تماماً حائرالآمر، حتى أنه لم يكن يعرف أي سؤال يطرحه، فمهما كان المرشد الخارجي بارعاً فإنه لا يفعل شيئاً سوى التحديق.
في المقابل، كانت طريقة ترك مذكرة المزالق المكتوبة بعد تلقي الضربات على وجه الروع لتكون موروثاً للجيل التالي هي التي أظهرت قدرة حياتية مذهلة.
آآآه.
عندما تمتلك البرمجيات الخبيثة معدناً ذكائياً
بصراحة، عند وصولي إلى هنا جلست أمام الحاسوب منذهلاً لفترة طويلة.
نهاية العالم بالذكاء الاصطناعي التي كنا نشاهدها في أفلام هوليوود في الماضي كانت غالباً بهذا الشكل: ذكاء اصطناعي فائق يولد في البنتاغون أو في مختبر سري، يستيقظ فجأة على وعيه الذاتي، ثم يسيطر على آبار إطلاق الصواريخ النووية.
لكن منطق التطور في العالم الواقعي غالباً ما يكون أكثر خشونة وتفاهة، وأغرب بكثير مما يتخيله كتاب الخيال العلمي.
قد لا يحتاج على الإطلاق إلى اقتحام مراكز البيانات الكبرى بالقوة.
يكفيه فقط أن يستهدف تلك الأجهزة الذكية الرخيصة التي تنتجها ورش صغيرة، والتي لا يُغيَّر حتى كلمة المرور الافتراضية الخاصة بها، وتعمل متصلة بالشبكة على مدار السنة.
مكبرات الصوت الذكية اليوم، وم anatomy أجهزة شفط الهواء ذات الشاشة، والروبوتات الكنسية، وكاميرات المراقبة الذكية على جانب الطريق، كلها بدأت تضمّ رقائق حوسبة طرفية متزايدة القوة من أجل توفير وظائف الذكاء الاصطناعي على الجهاز نفسه.
عادةً ما نعتبر هذه القدرات الحاسوبية مجزأة، وضعيفة، وغير مهدِّدة إطلاقًا.
لكن بعد الاطلاع على هذه الدراسة، أشعر أنّه,ما دام هناك كابل شبكة واحد، فإن هذه القدرات الحاسوبية الضعيفة المشتتة في أركان العالم المادي تستطيع أن تلتئم ذاتيًا على مستوى البرمجيات، لتلد شبحًا موزعًا يفكّر ببطء لكنه لا يتوقف أبدًا.
▲ الصورة مولّدة بالذكاء الاصطناعي
بالطبع، البشر ليسوا عاجزين تماماً عن رد الفعل.
وفي ختام تقريرهم، قدّم الباحثون أيضاً عدة أفكار لدفاع الفريق الأزرق.
أولاً، خصائص حركة البيانات.
حتى النموذج الذي يحتوي على عشرات المليارات من المعاملات، بعد خضوعه لضغط أقصى، يبلغ حجمه عدة غيغابايت.
في الشبكة المحلية أو النطاق المنزلي العريض، إذا بدأ جهاز تلفاز ذكي فجأة في استهلاك ونقل عدة غيغابايت من البيانات بشكل متكرر، فسوف يكتشف ذلك بنظرة واحدة نظام مراقبة الحركة لدى مزوّد خدمات الشبكة.
ثانياً، مؤشر قطع الانتشار.
وكما هو الحال في مواجهة الأوبئة، يكفي ضغط معامل الانتشار R0 إلى ما دون 1 عبر سياسات أمنية لتنقرض هذه الدودة من تلقاء نفسها.
على سبيل المثال، شرّعت بريطانيا مؤخراً حظراً على استخدام كلمات مرور افتراضية ضعيفة في أجهزة إنترنت الأشياء عند تصنيعها. فرفع عتبة الأمان لكل جهاز ذكي خطوة واحدة يكفي لتقليص مساحة بقاء هذا النوع من الهجمات منخفضة التكلفة إلى أكثر من النصف.
لكن الشرط المسبق لكل هذه الدفاعات هو أن يدرك المجتمع بأسره أنقواعد اللعبة في الأمن السيبراني قد تغيّرت تغيّراً جذرياً.。
البرمجيات الخبيثة التي كنا نواجهها سابقاً كانت مجرد شيفرة جامدة، لا تستطيع مهاجمة سوى ثغرات محددة كُتبت مسبقاً، وكانت تنهار من تلقاء نفسها إذا واجهت نظاماً غير متوافق.
أما ما سنواجهه قريباً، فهو «صغار الحياة الرقمية» التي تملك قدرة فهم عامة، وتبحث بنفسها عن رسائل الأخطاء، وتستعرض وثائق التطوير، بل وتترك ملاحظات خبرة للأجيال التالية بعد فشلها.
وكما كتب الباحثون في الجملة الختامية لتقريرهم:
تماماً كما حدث مع وكلاء الشيفرة (Code Agents) في عام 2024، نشهد الآن بدء ظهور علامات الحياة لدى دودة الذكاء الاصطناعي.
يا لها من حقبة عظيمة، أيها الأصدقاء.
مع استمرار انخفاض الحد الأدنى لقدرات النماذج اللغوية الكبيرة، وارتفاع الحد الأقصى لقدرات الحوسبة في الأجهزة الطرفية، قد نحتاج فعلاً إلى الاستعداد لاستقبال عالم رقمي قد يستيقظ في أي وقت ومن أي مكان داخل الأجهزة الكهربائية في غرفة المعيشة.