StepFun hat Step 5 Preview als Open Weights veröffentlicht. FP8- und BF16-Checkpoints sind verfügbar auf Hugging Face und ModelScope. Step 5 Preview ist ein sparsames Mixture-of-Experts-Modell von StepFun, das für langfristige agentische Arbeit entwickelt wurde. Es hat 600B Parameter insgesamt, 27B aktiv pro Token und bis zu 1M Tokens Kontext. Für Entwickler ist dies eine neue selbst hostbare Option für Coding-Agents, Dokumentenanalyse und Finance-Workflows.
TL;DR
- Größe: 600B insgesamt, 27B aktiv pro Token, bis zu 1M-Token Kontext.
- Läuft auf: nur Data-Center-GPUs. FP8 benötigt 4x B300 oder 8x H200. BF16 benötigt 8x B300 oder 16x H200.
- Leistung: nahe bei den Open-Weight-Pendants GLM-5.3 und Kimi K3 beim Programmieren. Hinter GPT-6 Astra und Claude Opus 5.
- Bestes: 88.3% bei AA-LCR Long-Context Reasoning (Artificial Analysis).
- Schlechtestes: 33.3% bei Terminal-Bench 4.0, gegenüber 41.9% für GLM-5.3.
Was ist Step 5 Preview?
Step 5 Preview ist StepFuns Flaggschiff-Modell für agentische Arbeit. StepFun positioniert es für Softwareentwicklung, professionelle Wissensarbeit und Finanzen. Das Modell navigiert durch große Codebasen, koordiniert mehrgliedrige Änderungen über mehrere Dateien, führt Code aus und iteriert über die Ergebnisse. Es analysiert auch lange Dokumente, Diagramme, Screenshots und Video, um strukturierte Berichte zu erstellen.
Die API wurde am 20. September gestartet. Die Gewichte folgten am 14. Oktober.
Wie funktioniert die Architektur?
Nur 27B der 600B Parameter werden pro Token aktiviert. StepFuns Tech-Team ergänzt die Interna:
- Tiefe: 92 Transformer-Blöcke in einem schmalen, tiefen Design.
- Attention-Mix: gegated Sliding-Window-Attention und Full-Attention-Schichten, im Wechsel im Verhältnis 3:1.
- Sparse GQA: Full-Attention-Schichten wählen 4,096 History-Tokens pro Query aus, bewertet in Blöcken von 8.
- Speculative Decoding: ein MTP-3-Kopf bringt roughly 30% End-to-End-Beschleunigung.
- Training: FP8 Mixed Precision, mit RL auf millionenfach skalierbaren verifizierbaren agentischen Umgebungen.
Wie schlägt sich Step 5 Preview in Benchmarks?
StepFun führte eigene Auswertungen in der High Reasoning-Einstellung durch. Rivalen in seiner Grafik wurden mit Max effort ausgeführt, daher ist der Vergleich nicht wie-für-wie.
Ergebnisse laut der Hugging-Face-Karte:
- DeepSWE v1.1: 67.7 (SWE-agent harness, temperature 1.0, top_p 0.95)
- Terminal-Bench 4.0: 33.3
- Agents’ Last Exam (ALE-CLI): 29.5
Unabhängige Zahlen stammen von Artificial Analysis via OpenRouter. Das Modell erreicht 43.7 auf dem Intelligence Index. Es erzielt 88.3% auf AA-LCR und 46.5% auf Humanity’s Last Exam. GDPval-AA landet bei 54.3%.
Vals AI -Ergebnisse zeigen deutliche Schwachstellen. SRE Bench liegt bei 0.4%. Harveys Legal Agent Benchmark liegt bei 9.2%.
Im Finanzbereich zeigt StepFuns Grafik 66.4% auf FrontierFinance. Das übertrifft GLM-5.3 und Kimi K3, liegt aber hinter Claude Opus 5 mit 69.7%.
Wie vergleicht es sich mit anderen Open-Weight-Modellen?
| Funktion | Schritt 5 Vorschau | GLM-5.3 | Kimi K3 |
|---|---|---|---|
| Gesamtparameter | 600B | 753B (HF-Dateigröße) | 2,8T |
| Aktive Parameter | 27B | Nicht offengelegt | 104B |
| Kontextfenster | 1M | 1M | 1M |
| Eingabemodalitäten | Text, Bild (API fügt Video hinzu) | Nur Text | Text, Bild |
| Weight-Formate | FP8, BF16 | BF16, FP8 | MXFP4-Gewichte |
| Lizenz | StepFun Model License 1.0 | GLM-5.3-Lizenz | Kimi K3 License |
| Minimale aufgeführte Self-Hosting-Konfiguration | 4x B300 (FP8) | Nicht offengelegt | Nicht offengelegt |
| DeepSWE v1.1 (von StepFun berichtet) | 67.7 | 66.9 | 67.5 |
| Terminal-Bench 4.0 (von StepFun berichtet) | 33.3 | 41.9 | 12.6 |
| FrontierFinance (laut StepFun berichtet) | 66.4 | 64.1 | 62.6 |
| API-Preis pro 1M Token (ein/aus) | $1.00 / $2.70 | Nicht offengelegt | $3.00 / $15.00 |
Die Benchmark-Zeilen stammen aus StepFuns Vergleichsdiagramm, wie von CellCog und eesel transkribiert.
Welche Hardware benötigt Step 5 Preview zum Ausführen?
Dies ist ein Rechenzentrumsmodell. Allein das FP8-Checkpoint ist 650.32 GB. groß. Die aufgeführten Konfigurationen::
- FP8 auf vLLM oder SGLang: 4 B300 GPUs oder 8 H200 GPUs, jeweils auf 1 Node.
- BF16 auf vLLM: 1 Node mit 8 B300 GPUs oder 2 Nodes mit 16 H200 GPUs.
- Transformers: nur Offline-Generierung. Der vollständige BF16-Shard-Workflow ist noch nicht Ende-zu-Ende validiert.
vLLM und SGLang liefern dedizierte Docker-Images mit OpenAI-kompatiblen APIs. Auf Blackwell nutzen Expert-Parallel-Modi das MegaMoE-Backend. StepFun empfiehlt temperature 1.0, top_p 0.95 und top_k 0.
Wie viel kostet die API?
Die StepFun API kostet $1.00 pro 1M Input-Token und $2.70 pro 1M Output-Token. Cache-Treffer kosten $0.10 pro 1M. Die Output-Preise umfassen Reasoning-Token. Die API unterstützt low-, medium- und high-Reasoning-Effort, Tool Calling und JSON-Schema-Output.
Kernaussagen
- 600B MoE, 27B aktiv, 1M Kontext, jetzt offene Gewichte in FP8 und BF16.
- Kleinstes aufgeführtes Self-Host-Setup: 4x B300 GPUs mit FP8.
- Bestes unabhängiges Ergebnis: 88.3% bei AA-LCR Long-Context-Reasoning.
- Schwächster Punkt: 33.3% bei Terminal-Bench 4.0.
- Die API kostet $1.00 rein und $2.70 raus pro 1M Token.
Sehen Sie sich die Modellgewichte auf Hugging Face an, GitHub-Repo, Tech-Blog, BF16-Gewichte, ModelScope und API-Dokumentation. Danke an die Forscher dieses Projekts. Folgt uns gerne auch auf Twitter und vergesst nicht, unserem 150k+ ML SubReddit beizutreten und unseren Newsletterzu abonnieren. Moment! Seid ihr auf Telegram? jetzt könnt ihr uns auch auf Telegram beitreten.
Der Beitrag StepFun Releases Step 5 Preview Open Weights: 600B MoE, 27B Active, 1M Context erschien zuerst auf MarkTechPost.