StepFun ha lanzado Step 5 Preview como pesos abiertos. Los checkpoints FP8 y BF16 ya están disponibles en Hugging Face y ModelScope. Step 5 Preview es un modelo Mixture-of-Experts disperso de StepFun diseñado para trabajo agéntico de largo alcance. Tiene 600B de parámetros totales, 27B activos por token y hasta 1M de tokens de contexto. Para los desarrolladores, es una nueva opción autoalojable para agentes de programación, análisis de documentos y flujos de trabajo financieros.
TL;DR
- Tamaño: 600B en total, 27B activos por token, hasta 1M de tokens de contexto.
- Funciona en: solo GPUs de centro de datos. FP8 necesita 4x B300 u 8x H200. BF16 necesita 8x B300 o 16x H200.
- Rendimiento: cerca de sus pares de pesos abiertos GLM-5.3 y Kimi K3 en programación. Detrás de GPT-6 Astra y Claude Opus 5.
- Mejor resultado: 88.3% en AA-LCR razonamiento de contexto largo (Artificial Analysis).
- Peor resultado: 33.3% en Terminal-Bench 4.0, frente al 41.9% de GLM-5.3.
¿Qué es Step 5 Preview?
Step 5 Preview es el modelo insignia de StepFun para trabajo agéntico. StepFun lo posiciona para ingeniería de software, trabajo de conocimiento profesional y finanzas. El modelo navega por grandes bases de código, coordina cambios en múltiples archivos, ejecuta código e itera sobre los resultados. También analiza documentos largos, gráficos, capturas de pantalla y video para producir informes estructurados.
La API se lanzó el 20 de septiembre. Los pesos llegaron el 14 de octubre.
¿Cómo funciona la arquitectura?
Solo 27B de los 600B parámetros se activan por token. El equipo técnico añade los detalles internos:
- Profundidad: 92 bloques de transformador en un diseño estrecho y profundo.
- Mezcla de atención: atención por ventana deslizante cerrada (gated sliding-window attention) y capas de atención completa, intercaladas 3:1.
- GQA disperso: Las capas de atención completa eligen 4,096 tokens de historial por consulta, puntuados en bloques de 8.
- Decodificación especulativa: una cabecera MTP-3 ofrece aproximadamente un 30% de aceleración de extremo a extremo.
- Entrenamiento: FP8 de precisión mixta, con RL en entornos agénticos verificables a nivel de millones.
¿Cómo rinde Step 5 Preview en los benchmarks?
StepFun realizó sus propias evaluaciones en el Alto configuración de razonamiento. Los rivales en su gráfico corrió a esfuerzo máximo, por lo que la comparación no es equivalente.
Resultados informó en la tarjeta de Hugging Face:
- DeepSWE v1.1: 67.7 (entorno de ejecución de SWE-agent, temperatura 1.0, top_p 0.95)
- Terminal-Bench 4.0: 33.3
- Agents’ Last Exam (ALE-CLI): 29.5
Las cifras independientes provienen de Artificial Analysis vía OpenRouter. El modelo obtiene 43.7 en el Índice de Inteligencia. Logra 88.3% en AA-LCR y 46.5% en Humanity’s Last Exam. GDPval-AA se sitúa en 54.3%.
Vals AI los resultados muestran puntos débiles claros. SRE Bench es 0.4%. El Legal Agent Benchmark de Harvey es 9.2%.
Sobre finanzas, el gráfico de StepFun muestra 66.4% en FrontierFinance. Eso supera a GLM-5.3 y Kimi K3, pero queda por detrás de Claude Opus 5 con un 69.7%.
¿Cómo se compara con otros modelos de pesos abiertos?
| Funcionalidad | Vista previa del Paso 5 | GLM-5.3 | Kimi K3 |
|---|---|---|---|
| Parámetros totales | 600B | 753B (Tamaño de archivo en HF) | 2.8T |
| Parámetros activos | 27B | No revelado | 104B |
| Ventana de contexto | 1M | 1M | 1M |
| Modalidades de entrada | Texto, imagen (la API añade video) | Solo texto | Texto, imagen |
| Formatos de pesos | FP8, BF16 | BF16, FP8 | Pesos MXFP4 |
| Licencia | StepFun Model License 1.0 | Licencia de GLM-5.3 | Kimi K3 License |
| Configuración mínima de autoalojamiento enumerada | 4x B300 (FP8) | No revelado | No revelado |
| DeepSWE v1.1 (informado por StepFun) | 67.7 | 66.9 | 67.5 |
| Terminal-Bench 4.0 (según lo reportado por StepFun) | 33.3 | 41.9 | 12.6 |
| FrontierFinance (reportado por StepFun) | 66.4 | 64.1 | 62.6 |
| Precio de API por 1M de tokens (entrada / salida) | $1.00 / $2.70 | No divulgado | $3.00 / $15.00 |
Las filas de benchmarks provienen del gráfico comparativo de StepFun, transcrito por CellCog y eesel.
¿Qué hardware necesita Step 5 Preview para funcionar?
Este es un modelo de centro de datos. Solo el checkpoint FP8 pesa 650.32 GB. Configuraciones indicadas:
- FP8 en vLLM o SGLang: 4 GPU B300 u 8 GPU H200, cada una en 1 nodo.
- BF16 en vLLM: 1 nodo con 8 GPU B300, o 2 nodos con 16 GPU H200.
- Transformers: solo generación sin conexión. El flujo de trabajo completo de shards BF16 aún no está validado de extremo a extremo.
vLLM y SGLang distribuyen imágenes de Docker dedicadas con APIs compatibles con OpenAI. En Blackwell, los modos de paralelismo de expertos usan el backend MegaMoE. StepFun recomienda temperature 1.0, top_p 0.95 y top_k 0.
¿Cuánto cuesta la API?
La API de StepFun cobra $1.00 por 1M de tokens de entrada y $2.70 por 1M de tokens de salida. Los aciertos de caché cuestan $0.10 por 1M. El precio de salida incluye los tokens de razonamiento. La API admite esfuerzo de razonamiento bajo, medio y alto, llamadas a herramientas y salida con JSON Schema.
Conclusiones clave
- MoE de 600B, 27B activos, contexto de 1M, ahora con pesos abiertos en FP8 y BF16.
- La configuración de autoalojamiento más pequeña indicada: 4x GPU B300 con FP8.
- Mejor puntuación independiente: 88.3% en razonamiento de contexto largo AA-LCR.
- Punto más débil: 33.3% en Terminal-Bench 4.0.
- La API cuesta $1.00 de entrada y $2.70 de salida por 1M de tokens.
Consulte los pesos del modelo en Hugging Face, Repositorio de GitHub, blog tecnológico, pesos BF16, ModelScope y documentación de la API. Todo el mérito es del investigador de este proyecto. Además, no dudes en seguirnos en Twitter y no olvides unirte a nuestro SubReddit de ML con más de 150k y suscribirte a nuestro boletín. ¡Espera! ¿estás en telegram? ahora también puedes unirte a nosotros en telegram.
La entrada StepFun lanza Step 5 Preview con pesos abiertos: MoE de 600B, 27B activos, contexto de 1M apareció primero en MarkTechPost.