أصدرت Mirendil Fern، أول نماذجها في الذكاء الاصطناعي. إن Mirendil Fern نموذج برمجة مبني من الصفر بنافذة سياق تصل إلى 10M من الرموز (tokens). توضح Mirendil أن هذا يعادل نحو 23 MB من الشيفرة البرمجية، أو ما يقارب نصف مليون سطر. إنها قاعدة شيفرة بحجم Megatron-LM محمّلة في السياق دفعة واحدة. Fern 0.1 هي الإصدار الأول، المبني من Mirendil-Base بعد جولة قصيرة من التدريب اللاحق. بالنسبة للمطورين، الأمر كأنك تحمّل مستودعًا برمجيًا كاملًا، أو سجل تدريب كاملًا، أو أيامًا من آثار عمل الوكلاء مرة واحدة.
TL;DR
- الحجم: من 0.1 إلى 0.5T من المعاملات (العدد الدقيق والمعاملات الفعالة لم يُكشفا)؛ سياق يصل إلى 10M من الرموز.
- يعمل على: وصول مبكر مستضاف فقط؛ لم يُعلن عن أوزان مفتوحة أو إصدارات مكممة.
- الأداء: استرجاع قوي للسياقات الطويلة، وأداء برمجة وكيلية متوسط مقارنة بالنماذج ذات الأوزان المفتوحة، ومتأخر كثيرًا عن النماذج الرائدة.
- الأفضل: 100% على استرجاع RULER single-needle عند كل الأطوال من 32K إلى 10M من الرموز (النموذج الأساسي).
- الأسوأ: 6.1% على Terminal Bench 4.0، مقابل 66.4% لـ Claude Opus 5.5 في جدول Mirendil نفسه.
ما هو Mirendil Fern؟
Fern نموذج لغوي من Mirendil، وهو مختبر بحث وتطوير في الذكاء الاصطناعي.
Fern موجّه لأعمال البحث والتطوير في الذكاء الاصطناعي، وليس للمحادثة العامة. تذكر Mirendil ستة (6) استخدامات مستهدفة:
- العمل عبر قواعد شيفرة برمجية أكبر
- البرمجة الوكيلية التي تُشغّل الأوامر حتى تنجح الاختبارات
- شيفرة بحثية: حلقات التدريب وخطوط أنابيب البيانات والتقييمات
- تصحيح أخطاء جلسات التدريب من السجلات الطويلة وآثار الأخطاء
- قراءة آثار الوكلاء أو التدريب كاملة من أولها إلى آخرها
- تدقيق شرائح التدريب المسبق بحثًا عن التكرار والتلوث والبيانات غير المفيدة
كيف بُني Fern؟
يقوم Fern على Mirendil-Base، والتي يقول Mirendil إن أحد الباحثين درّبها مسبقًا خلال 3.5 أشهر. بلغ إجمالي الحوسبة أقل من $10M، بما في ذلك التجارب وإنفاق رموز الوكلاء ومعالجة البيانات. كتب وكلاء الذكاء الاصطناعي أكثر من 99% من الشيفرة. وكان الباحث هو من يختار ما يُجرَّب ومتى يتدخل.
جاءت بيانات التدريب من مصادر عامة فقط: GitHub، والشيفرة العامة، وصفحات الويب، ومجموعات البيانات العامة. يقول Mirendil إنه لم يُستخدم أي تقطير، ولا بيانات اصطناعية، ولا بيانات مرخّصة. كُتبت الشيفرة من الصفر على PyTorch وJAX.
Fern هو أصغر 3 نماذج مخطط لها. Mirendil-Base-Large (من 0.5 إلى 2T معلمة) تجاوز 80% من التدريب المسبق. وMirendil-Base-XL (من 2 إلى 10T) تجاوز 20%.
هل يساعد السياق الأطول فعلًا؟
اختبر Mirendil التنبؤ بالرمز التالي على مستودعاته الخاصة، مدمجةً في تدفق واحد بحجم 42.9 MB. قاس الإنتروبيا المتقاطعة بالبتات لكل بايت، حيث يكون الأقل أفضل. أحجام النوافذ هنا تُقاس بالبايتات، وليس بالرموز.
انخفضت خسارة Fern من 0.246 عند نافذة بحجم 32K بايت إلى 0.155 عند 16M و23M بايت. سُجلت النماذج الأخرى حتى حوالي 1M رمز، وهو حدّها المعلن. عند نافذة بحجم 1M بايت، سجّل Kimi-K3 النتيجة 0.140 وFern النتيجة 0.165. لذا فإن Fern ليس أفضل متنبئ عند السياق المتساوي. ميزته هي أن المنحنى يستمر بعد النقطة التي يتوقف عندها الآخرون.
كيف تسجل Fern في RULER؟
RULER هو معيار قياسي للسياق الطويل. شغّل Mirendil 5 مهام من RULER على Mirendil-Base، النموذج قبل وبعد التدريب. استخدم فك الترميز الجشع، مع إيقاف التفكير والمطابقة الدقيقة للسلاسل النصية.
| مهمة RULER | 32K | 1M | 4M | 10M |
|---|---|---|---|---|
| إبرة واحدة | 100 | 100 | 100 | 100 |
| استرجاع متعدد المفاتيح | 100 | 98 | 98 | 90 |
| متعدد المفاتيح، جميع الإبر | 100 | 100 | 100 | 100 |
| تتبع متغير | 100 | 95 | 75 | 100 |
| سؤال وجواب متعدد القفزات (HotpotQA) | 65 | 65 | 60 | 45 |
يصمد الاسترجاع جيدًا. يتراجع الاستدلال متعدد القفزات إلى 45% عند 10M. كل خلية 10M تستخدم 20 مثالًا فقط، مقابل 100 في الأماكن الأخرى. يقول Mirendil إن نتائج السياق الطويل الأوسع قادمة.
كيف تؤدي Fern 0.1 على معايير الوكلاء؟
قارن Mirendil بين Fern 0.1 والنماذج مفتوحة الأوزان والنماذج الرائدة. تُؤخذ درجات النماذج الأخرى من بطاقات النماذج أو لوحات الصدارة أو من تجارب Mirendil نفسه.
| المعيار (نسبة النجاح %) | Fern 0.1 | Kimi-K3 | GLM-5.3 | Claude Opus 5.5 |
|---|---|---|---|---|
| DeepSWE v1.1 | 44.2 | 67.3 | 66.9 | 74.2 |
| Terminal Bench 4.0 | 6.1 | 12.6 | 41.9 | 66.4 |
| SWE Atlas QnA | 53.2 | 66.1 | 59.4 | 66.4 |
| SWE-Pro v2 Hard | 76.5 | 88.2 | 84.3 | 100.0 |
| SWE-Bench Verified | 73.4 | 93.4 | 95.4 | 98.2 |
تتفوق Fern 0.1 على Inkling وNemotron 3 Ultra في 4 من 5 اختبارات. وتعادل Beam في SWE-Pro v2 Hard عند 76.5. وتتأخر عن Beam في SWE-Bench Verified، بنسبة 73.4 مقابل 81.6. وكل نموذج رائد ومفتوح كبير في الجدول يتفوق عليها.
كيف تقارن Fern بالنماذج المشابهة؟
| الخاصية | Fern 0.1 | Kimi-K3 | GLM-5.3 |
|---|---|---|---|
| المطوّر | Mirendil | Moonshot AI | Z.ai |
| إجمالي المعاملات | 0.1 إلى 0.5T | 2.8T | 753B |
| المعاملات النشطة | غير مُفصح عنه | 104B | ~40B |
| السياق | حتى 10M tokens | 1,048,576 tokens | 1,048,576 tokens |
| المدخلات | نص، برمجيات | نص، صورة، فيديو | نص |
| الترخيص | غير مُفصح عنه | ترخيص Kimi K3 | ترخيص GLM-5.3 |
| الأوزان | غير مُتاحة | مفتوحة | مفتوحة |
| الوصول | طلب وصول مبكر | أوزان مفتوحة، واجهات برمجية | أوزان مفتوحة، واجهات برمجية |
| SWE-Bench Verified* | 73.4 | 93.4 | 95.4 |
| بتات لكل بايت عند 1M بايت* | 0.165 | 0.140 | 0.170 |
*الأرقام من مخططات إعلان Mirendil.
الخلاصات الرئيسية
- يدعم Fern 0.1 ما يصل إلى 10M tokens، أي نحو 23 MB من الشيفرة البرمجية.
- تستمر البتات لكل بايت في الانخفاض إلى 0.155 عند نافذة بحجم 23M بايت.
- يبقى اختبار RULER لإبرة واحدة عند 100% من 32K إلى 10M tokens.
- يتأخر الترميز الوكيلي: 6.1% على Terminal Bench 4.0.
- نموذج أساسي بُني بواسطة 1 باحث بمساعدة وكلاء الذكاء الاصطناعي بأقل من 10M دولار.
اطلع على إعلان Fern، ومنشور التدريب المسبق لـ Mirendil-Base، واطلب الوصول المبكر. كما يمكنكم متابعتنا على تويتر ولا تنسوا الانضمام إلى سابرديت ML الذي يضم أكثر من 150k عضو والاشتراك في نشرتنا البريدية. مهلاً! هل أنتم على تيليجرام؟ يمكنكم الآن الانضمام إلينا على تيليجرام أيضًا.
هل تحتاج إلى شراكة معنا للترويج لمستودع GitHub الخاص بك أو صفحتك على Hugging Face أو إطلاق منتجك أو ندوتك عبر الإنترنت وغير ذلك؟ تواصلوا معنا
ظهر المقال تطلق Mirendil نموذج Fern 0.1، أول نماذجها، بسياق يبلغ 10M رمز أول مرة على MarkTechPost.