Moore Threads completa primero la adaptación Day-0 del gran modelo Step 5 Preview de StepFun

Moore Threads completa primero la adaptación Day-0 del gran modelo Step 5 Preview de StepFun

Base AIbase

La integración del ecosistema entre los grandes modelos y el hardware nacional está acelerando el paso. El 15 de octubre, StepFun lanzó oficialmente como código abierto su nuevo gran modelo Step5Preview. Ese mismo día, Moore Threads anunció oficialmente que su tarjeta de computación inteligente MTT S5000 y la pila de software MUSA correspondiente completaron de inmediato la adaptación Day-0 de dicho modelo, demostrando una altísima eficiencia de respuesta e iteración.

En cuanto a los parámetros técnicos, Step5Preview adopta una avanzada arquitectura MoE dispersa, con una cantidad total de parámetros de 600B y 27B de parámetros activados por token, y soporta de forma nativa ventanas de contexto ultra largas de hasta 1 millón de tokens. Apoyándose en una sólida base de hardware y software, la adaptación de Moore Threads en esta ocasión cubrió en profundidad componentes centrales como la atención híbrida, la inferencia de precisión mixta y la decodificación especulativa.

Esta eficiente colaboración entre ambas partes no solo marca un nuevo nivel en la capacidad del hardware nacional de computación inteligente para respaldar el ecosistema de modelos supergrandes de vanguardia, sino que también proporciona a los desarrolladores una vía de implementación madura y confiable para desplegar y ejecutar grandes modelos complejos de textos largos en plataformas de cómputo nacional.

Este artículo proviene del boletín diario de AIbase

¡Bienvenido a la sección [Boletín de IA]! Aquí tienes tu guía diaria para explorar el mundo de la inteligencia artificial. Cada día te presentamos los temas destacados del ámbito de la IA, con foco en los desarrolladores, ayudándote a comprender las tendencias tecnológicas y conocer aplicaciones innovadoras de productos de IA.