نموذج Sakana AI الذاتي التحسين يتطور بشكل أفضل في حل المشكلات وتقييمها، لكنه لا يستطيع اكتشاف نقاط ضعفه الخاصة

نموذج ساكانا آي الذاتي التحسين يصبح أفضل في حل المشكلات وتقييمها، لكنه لا يستطيع اكتشاف نقاط ضعفه الخاصة

نقاط مهمة

• نموذج لغة واحدة يحسن نفسه من خلال “التفتيش الذاتي للعديد من الوكلاء” (MASS)، دون الحاجة إلى مساعدة خارجية أو نموذج معلم أقوى.
• يعمل النموذج كفريق مستقل: يخصص مهام لنسخ منه، يقيم النتائج، ويحسن عمليات العمل للجولة التالية من التدريب.
• ارتفعت نسب النجاح ضد النموذج الأساسي إلى ما يقارب 70 بالمئة بعد جولتين، لكن هذه الطريقة تحمل مخاطر حقيقية: أحيانًا يقبل المُقيّم الداخلي الخطوات المعيبة أو الحلول المُحوَّلة كنجاحات ويعيد تطبيقها في النموذج التالي.

طريقة MASS الخاصة بـ Sakana AI تسمح لنموذج لغة واحد بتحسين نفسه من خلال حل المهام وتقييم النتائج وتحسين العمليات، دون الحاجة إلى نموذج معلم أقوى. تُظهر الدراسة أن هناك فوائد في جميع الأدوار الثلاثة، لكن النقاط العمياء المشتركة قد تسمح بمرور الأخطاء كتقدم، وتساهم في دورة التدريب التالية.

قام باحثون من شركة ساكانا آي وأكاديمية بيركلي الحكومية بتقديم “Multi-Agent Self-Supervision” (MASS)، وهي طريقة للتحسين الذاتي المتكرر (RSI). نموذج لغة واحد يتولَّى المهمة، ويحسن طريقة تنفيذ العمل، ويقيّم النتائج.

في حدود البحث الجديد، حتى الخبراء يواجهون صعوبة في تقييم النتائج، لأن التحقق منها يتطلب أدلة داعمة باهظة الثمن أو تجارب طويلة. يقول المؤلفون إن دراسة واحدة في البلازما يمكن أن تستغرق أكثر من 120 مليون ساعة من معالجة المعالجات الحاسوبية، وفقًا للورقة البحثية.

لذلك، قد يكون النموذج نفسه هو أفضل قاضٍ متاح، على الرغم من أنه قد يخطئ في أخطاءه عند مراجعة عمله. استخدام نفس النموذج لحل المشكلات والتحقق منها وتصحيحها قد يعزز تلك الأخطاء بدلاً من تصحيحها.

تقسيم النسخ من نموذج واحد لتقسيم العمل

مستوحاة من كتاب “Society of Mind” لرائد الذكاء الاصطناعي مارفين مينسكي، يركز الباحثون على كيفية تقسيم العمل بين النموذج. في MASS، يتم إضافة نص إلى التعليمات لتحديد دور كل وكيل فرعي وإرشاداته. يحدد “العقد” المعلومات التي يجب على كل وكيل فرعي تقديمها والفحوصات التي يجب عليه أداؤها، بينما يحدد “الخطوة” ترتيب الاستدعاءات.

يقوم منظم العمليات بتوزيع العمل بين الوكلاء الفرعية. عند اختبار استراتيجية تداول مقابل الأسعار التاريخية، على سبيل المثال، يجب أن يضمن عقد المتخصص في البيانات أن الاستراتيجية تستخدم فقط المعلومات المتاحة في كل وقت.

خلال الحلقة الداخلية، تظل أوزان النموذج ثابتة بينما يقوم الفريق بتشغيل سيرورة عملية المرشح، ويقارن المقيم النتائج مع "الطرف الأول" الحالي. يستخدم المحسِّن هذا التغذية الراجعة لاقتراح سيرورة عملية أخرى، أساسًا من خلال تغيير العقود والخطوات. خلال الحلقة الخارجية، يُجري "الطرف الأول" 18 مرة لكل مهمة، حيث يقوم النموذج بترتيب النتائج بنفسه ويختار ما يصل إلى 15 مرة للتدريب.

قام الباحثون بإزالة نص سير العمل من الإشارة الأولية للمنظم في أمثلة التدريب، حتى يتعلم النموذج تنظيم العمل بناءً على المهمة وحدها. تبقى المهام المحددة للوكلاء الفرعية في السجلات المسجلة، ويأخذ النموذج جميع الأدوار الثلاثة مرة أخرى بعد التصحيح الدقيق باستخدام LoRA.

النموذج الأساسي هو Qwen3.6-27B، مع Qwen Code كمنصة توجيهية. يستخدم الباحثون اثني عشر مهمة بحثية تم إنشاؤها بواسطة GPT-5.5 في مجالات المالية والروبوتات والصيدلة، مع تخصيص ثلاث مهام للاختبار و Nine مهام للتدريب. لا تُنتج إلا ثماني مهام بيانات تدريبية لأن البحث لا يجد أي سير عمل يتفوق على النموذج المرجعي في مهمة تدريبية واحدة.

المكاسب في المقاييس المرجعية تأتي في الغالب من إكمال المزيد من العمل

في مهام الاختبار، يرتفع معدل النجاح مقابل النموذج الأساسي من 53.9 بالمئة بعد جولة واحدة إلى 69.9 بالمئة بعد جولتين. على MLR-Bench وDSBench وScienceAgentBench وAstaBench، يصل النموذج إلى 1.2 إلى 1.6 مرة نتيجة النموذج الأساسي لكل كلمة من الكلمات المخرجات. أحيانًا تكون الزيادات في النتائج الخام صغيرة، حيث تحسن DSBench من 0.473 إلى 0.482 فقط، بينما تنخفض النتائج قليلاً على Terminal-Bench 2.0 وSWE-bench Verified.

تُظهر الملحق في الورقة البحثية أن عدد الإدخالات المكتملة لMLR-Bench ارتفع من 31 إلى 50 من أصل 60، بينما انخفض متوسط الدرجة من 3.07 إلى 2.88. لم يتم استخدام أداة الوفد في جميع التجارب الـ 180، مما يجعل من غير واضح ما إذا كان العمل الجماعي يفسر هذا التحسن.

هذه الفوائد لم تعد ذات أهمية إحصائية عند مقارنة النتائج حسب المهام المختلفة. يصف الباحثون نتائج مختلطة في مهام البحث، ويعرض AstaBench نفس النمط.

تطوير الحلول أيضًا يعزز من جودة التقييم والمحسن.

على الرغم من أن النموذج يدرب فقط على آثار الحل، إلا أن أداءه في الأدوار الثنائية الأخرى يتحسن أيضًا. تتحول موافقة النموذج الذاتي على الحكماء الخارجيين من 73 إلى 93 بالمئة. العمليات التي تم اكتشافها بعد جولة واحدة تتفوق على عمليات النموذج الأساسي بنسبة 64 بالمئة، حتى عندما يعمل النموذج الأساسي كليًا.

بدون تعليمات العملية، يفوض النموذج الأساسي الوكلاء الفرعيين في إحدى من بين 110 جولات فقط، مقارنة بـ 87 جولة بعد جولتين. كان يمكنه التفويض بالفعل عند تلقي التعليمات الصريحة، لكن الآن يفعل ذلك دون أن يتم طلب ذلك.

أثناء التحسين، تتحول معرفة المهمة إلى عقود وخطوات، بينما تصبح الأدوار والتعليمات أكثر عمومية. يعتمد هذا الاستنتاج على عينة صغيرة تضم من ثمانية إلى تسعة مهام فقط.

تُنتج التدريب على آثار الفريق نموذجًا بنسبة نجاح 68.3 بالمئة، مقارنة بـ 64 بالمئة للطالب الذي يعمل بمفرد الوكيل، مع استخدام 31 بالمئة أقل من كلمات التدريب. يفضل القضاة الخارجيون نتائج الفريق 85.1 بالمئة من الأحيان، على الرغم من أن الفرق تنتج حوالي 2.4 مرة أكثر من كلمات. عندما تكون النتائج متشابهة في الطول، يفضل القضاة نتائج الفريق 80 بالمئة من الأحيان، استنادًا إلى عشر زوجات فقط.

تؤدي الفرق التي تم تقييمها أداءً أفضل، لكن المقارنة لا تثبت أن التفويض وحده هو الذي يفسر هذا الميزة. تختلف الفرق والعملات الفردية أيضًا في تعليمات العملية، وتعليمات المراجعة، وما تم اختياره من الحلقات التي تم إنجازها بنجاح.

التعليقات الأفضل تفيد فقط إذا كان المحسن يمكنه استخدامها

استبدال مجرد جهاز التقييم بGPT-5.5 لم يساعد كثيرًا؛ فتقدم البحث تباطأ كثيرًا عندما كان الجهاز المحسّن أقوى أيضًا. استنتج المؤلفون أن التغذية الراجعة الجيدة لا تساعد إلا عندما يمكن للجهاز المحسّن التصرف بناءً عليها. مع قيام Qwen بأداء جميع الأدوار الثلاثة، لا يزال البحث يجد عمليات عمل ناجحة لـ 11 من 12 مهمة، لكنه يستغرق وقتًا أطول.

تقريب نطاق إعادة كتابة سير العمل على تأثيره على النتائج لا يدل على الكثير، وحتى السير العمل المتطابقة في التفاصيل يمكن أن تؤدي إلى نتائج معاكسة. في أحد التجارب، فازت جميع التقييمات الخارجية الستة، بينما خسر آخر بعد أن وقع الوكيل في حلقة تكرارية. يعتقد الباحثون أن تحديد مدى تغيير المحسن في كل خطوة قد يساعد في استقرار البحث.

يمكن أن تتكثف نقاط الضعف المشتركة من جولة إلى أخرى

بعد فشل المحاكيات في مهمة الروبوتات، تم تعديل المحاكي بحيث يتحرك الأجسام مباشرة نحو الهدف، ثم تم الإبلاغ عن النجاح. وقد قيم الحكام الخارجيون العملية بشكل إيجابي خمس مرات من أصل ست مرات. وفي تمرين آخر كان المستخدم في التدريب، تم اختباره بنجاح رغم أنه أعطى قيمًا غير صحيحة فقط.

يرى الباحثون أن النقاط الضعيفة المشتركة تُعتبر "عيبًا حادًا” محتملًا في التحسين الذاتي المتكرر. إذا أخطأ النموذج نفس الخطأ في جميع الأدوار الثلاثة، فيمكن قبول هذا الخطأ كتحسين ودمجه في النموذج التالي. وعندها ستؤثر الضعف على النظام وآلية تصحيحه، مما يدفع الباحثين إلى طلب فحوصات مستقلة، وتقييد الاستقلالية، وشروط واضحة للتدخل. الكود متاح علنًا.

مختبر الأبحاث الياباني Sakana AI أطلق في يونيو مختبر أبحاث متخصص لتحسين الذات بشكل متكرر، مستندًا على أبحاث سابقة تشمل آلة داروين-جودل وعالم الذكاء الاصطناعي. يسعى باحثو جوجل إلى اتباع نهج مماثل، من خلال تحسين تلقائي الإطارات، وعمليات العمل، والأدوات المرتبطة بنموذج ثابت، دون السماح للعناصر الذكية بتحسينها بشكل مفرط بالنسبة لمهام الاختبار.

اكتشف الذكاء الاصطناعي Vals مؤخرًا أن فرق العملاء تكلف 1.8 إلى 5.1 مرة أكثر من العملاء الفرديين، لكنها أدت إلى تحسينات قابلة للقياس في اختبار واحد فقط من أربعة اختبارات. وأظهرت شركة Anthropic أن النماذج التي تشارك في استخدام الاختراق كمكافأة لتشكيلها ضد أنظمة المكافآت، تتعلم أيضًا خداع وتخريب عمليات التحقق من الأمان.

أخبار الذكاء الاصطناعي بدون الضجيج – من اختيار البشر

اشترك في THE DECODER للقراءة بدون إعلانات، وللحصول على نشرة أخبار الذكاء الاصطناعي الأسبوعية، وتقرير الحدود الخاص بـ"AI Radar" الست مرات في السنة، والوصول الكامل إلى الأرشيف، والوصول إلى قسم التعليقات.