MarkTechPostآخر تحديث

StepFun تُطلق أوزان Step 5 Preview المفتوحة: نموذج MoE بحجم 600B، و27B نشطة، وسياق 1M

أطلقت StepFun نموذج Step 5 Preview كأوزان مفتوحة. نقاط التحقق FP8 وBF16 متاحة الآن على Hugging Face وModelScope. Step 5 Preview هو نموذج Mixture-of-Experts متناثر من StepFun مصمم لأعمال الوكلاء طويلة المدى. يحتوي على…

أطلقت StepFun Step 5 Preview كأوزان مفتوحة. نقاط التحقق FP8 وBF16 متاحة الآن على Hugging Face و ModelScope. Step 5 Preview هو نموذج Mixture-of-Experts متناثر من StepFun مصمم لأعمال الوكلاء طويلة المدى. يحتوي على 600B معامل إجمالية، و27B نشطة لكل رمز، وسياق يصل إلى 1M رمز. للمطورين، هذا خيار جديد قابل للاستضافة الذاتية لوكلاء البرمجة وتحليل المستندات وسير العمل المالي.

الخلاصة السريعة

  • الحجم: 600B إجمالية، 27B نشطة لكل رمز، وسياق يصل إلى 1M رمز.
  • يعمل على: وحدات معالجة الرسومات لمراكز البيانات فقط. FP8 يحتاج 4x B300 أو 8x H200. BF16 يحتاج 8x B300 أو 16x H200.
  • الأداء: قريب من النماذج المفتوحة نظيراته GLM-5.3 وKimi K3 في البرمجة. متأخر خلف GPT-6 Astra وClaude Opus 5.
  • الأفضل: 88.3% في AA-LCR للاستدلال طويل السياق (Artificial Analysis).
  • الأسوأ: 33.3% في Terminal-Bench 4.0، مقابل 41.9% لـ GLM-5.3.

ما هو Step 5 Preview؟

Step 5 Preview هو النموذج الرائد من StepFun لأعمال الوكلاء. تضع StepFun النموذج لهندسة البرمجيات، والعمل المعرفي الاحترافي، والمالية. يتنقل النموذج في قواعد أكواد كبيرة، وينسق التغييرات عبر ملفات متعددة، ويشغل الأكواد ويكرر النتائج. كما يحلل المستندات الطويلة والرسوم البيانية ولقطات الشاشة والفيديو لإنتاج تقارير منظمة.

وقد انطلقت الواجهة البرمجية في 20 سبتمبر. وتبعتها الأوزان في 14 أكتوبر.

كيف تعمل البنية؟

فقط 27B من أصل 600B معامل تُفعَّل لكل رمز. فريق StepFun التقني يضيف أحد المطلعين:

  • العمق: 92 كتلة محول في تصميم ضيق وعميق.
  • مزيج الاهتمام: انتباه النافذة المنزلقة المحصور والطبقات كاملة الانتباه، متداخلة بنسبة 3:1.
  • GQA المتناثر: تختبر طبقات الانتباه الكامل 4,096 رمزًا من الرموز السابقة لكل استعلام، مع التقييم في كتل من 8.
  • فك الترميز التخميني: يرأس MTP-3 تحسناً في السرعة من البداية إلى النهاية بنسبة 30% تقريباً.
  • تدريب: دقة FP8 المختلطة، مع تعلّم معزز (RL) على بيئات وكيلة قابلة للتحقق بمستوى الملايين.

كيف يُحدث Step 5 Preview أداءً في الاختبارات المعيارية؟

أجرت StepFun تقييماتها الخاصة في مرتفع إعداد الاستدلال. المنافسون في مخططها جرى بأقصى جهد، لذا فإن المقارنة ليست متكافئة تماماً.

النتائج المُبلَّغ عنها في بطاقة Hugging Face:

  • DeepSWE v1.1: 67.7 (SWE-agent harness، درجة الحرارة 1.0، top_p 0.95)
  • Terminal-Bench 4.0: 33.3
  • Agents’ Last Exam (ALE-CLI): 29.5

الأرقام المستقلة تأتي من Artificial Analysis عبر OpenRouter. يحصل النموذج على 43.7 على مؤشر الذكاء، ويحقق 88.3% على AA-LCR و46.5% على Humanity’s Last Exam. أما GDPval-AA فيبلغ 54.3%.

Vals AI تُظهر النتائج نقاط ضعف واضحة. SRE Bench يسجل 0.4%. ومعيار Harvey’s Legal Agent Benchmark يسجل 9.2%.

فيما يتعلق بالمال، يُظهر مخطط StepFun 66.4% على FrontierFinance. وهذا يتخطى GLM-5.3 وKimi K3، لكنه يظل خلف Claude Opus 5 عند 69.7%.

كيف يمكن مقارنته بنماذج الأوزان المفتوحة الأخرى؟

ميزةمعاينة الخطوة 5GLM-5.3Kimi K3
إجمالي المعاملات600B753B (حجم ملف HF)2.8T
المعاملات النشطة27Bغير معلن104B
نافذة السياق1M1M1M
وسائط الإدخالالنص، الصور (تضيف الواجهة البرمجية الفيديو)النص فقطالنص، الصور
أوزان التنسيقاتFP8، BF16BF16، FP8أوزان MXFP4
الرخصةStepFun Model License 1.0رخصة GLM-5.3رخصة Kimi K3
الحد الأدنى للإعداد الذاتي الاستضافة المذكور4x B300 (FP8)غير معلنغير معلن
DeepSWE v1.1 (حسب ما أوردته StepFun)67.766.967.5
Terminal-Bench 4.0 (حسب تقارير StepFun)33.341.912.6
FrontierFinance (حسب تقرير StepFun)66.464.162.6
سعر الـ API لكل 1M توكن (إدخال / إخراج)$1.00 / $2.70لم يُفصح عنه$3.00 / $15.00

صفوف المعايير القياسية مأخوذة من مخطط المقارنة الخاص بـ StepFun، حسب النقل الذي أجراه CellCog و eesel.

ما العتاد الذي يحتاجه Step 5 Preview للتشغيل؟

هذا نموذج لمركز بيانات. ملف نقاط FP8 وحده يبلغ حجمه 650.32 GB. التكوينات المدرجة:

  • FP8 على vLLM أو SGLang: 4 بطاقات B300 GPU أو 8 بطاقات H200 GPU، كل منها على 1 عقدة.
  • BF16 على vLLM: 1 عقدة مزودة بـ 8 وحدات معالجة رسومات B300، أو 2 عقدة مزودتان بـ 16 وحدة معالجة رسومات H200.
  • Transformers: توليد دون اتصال فقط. سير عمل شرائح BF16 الكامل لم يُتحقق منه بعد من البداية إلى النهاية.

يأتي vLLM وSGLang مع صور Docker مخصصة بواجهات API متوافقة مع OpenAI. على Blackwell، تستخدم أوضاع التوازي بين الخبراء واجهة MegaMoE الخلفية. توصي StepFun بدرجة حرارة 1.0 وtop_p 0.95 وtop_k 0.

كم تكلفة الـ API؟

تفرض واجهة StepFun API رسماً قدره $1.00 لكل 1M توكن إدخال و$2.70 لكل 1M توكن إخراج. تكلفة إصابات ذاكرة التخزين المؤقت $0.10 لكل 1M. يشمل سعر الإخراج توكنات الاستدلال. تدعم الـ API مستويات جهد استدلال منخفضة ومتوسطة وعالية، واستدعاء الأدوات، وإخراج JSON Schema.

أهم النقاط

  • 600B MoE، مع 27B نشطة، وسياق 1M، وأوزان مفتوحة الآن بصيغتي FP8 وBF16.
  • أصغر إعداد ذاتي الاستضافة مدرج: 4 من وحدات B300 GPUs مع FP8.
  • أفضل نتيجة مستقلة: 88.3% في AA-LCR للاستدلال طويل السياق.
  • أضعف نقطة: 33.3% في Terminal-Bench 4.0.
  • تكلفة الـ API $1.00 للإدخال و$2.70 للإخراج لكل 1M توكن.


اطلع على أوزان النموذج على Hugging Face, مستودع GitHub, مدونة التقنية, أوزان BF16, ModelScope و وثائق واجهة برمجة التطبيقات. كل الفضل يعود إلى الباحث في هذا المشروع. كما لا تترددوا في متابعتنا على تويتر ولا تنسوا الانضمام إلى 150k+ مجتمع ML على ريديت والاشتراك في نشرتنا البريدية. مهلاً! هل أنتم على تيليجرام؟ يمكنكم الآن الانضمام إلينا على تيليجرام أيضاً.

المقال StepFun تُطلق Step 5 Preview بأوزان مفتوحة: MoE بحجم 600B، و27B مفعّلة، وسياق بطول 1M ظهر للمرة الأولى على MarkTechPost.

المصدر الأصلي

MarkTechPost

ملاحظات المحتوى

النشر الأصلي والحقوق تعود إلى المصدر.

ترجمة آلية · يُرجى الرجوع إلى الأصل