Moore Threads réalise en premier l'adaptation Day-0 du grand modèle Step 5 Preview de StepFun

​Moore Threads réalise en premier l'adaptation Day-0 du grand modèle Step 5 Preview de StepFun

Base AIbase

La fusion de l'écosystème entre les grands modèles et le matériel national appuie sur l'accélérateur. Le 15 octobre, StepFun a officiellement publié en open source son nouveau grand modèle Step5Preview. Le même jour, Moore Threads a officiellement annoncé que sa carte de calcul intelligent MTT S5000 et la pile logicielle MUSA associée avaient achevé dans un premier temps l'adaptation Day-0 de ce modèle, démontrant une efficacité de réponse et d'itération remarquable.

Sur le plan des paramètres techniques, Step5Preview adopte une architecture MoE sparse avancée, avec un nombre total de paramètres atteignant 600B, 27B de paramètres activés par token, et prend en charge nativement une fenêtre de contexte ultra-long allant jusqu'à 100 token, soit 1 million de tokens. S'appuyant sur un puissant support matériel et logiciel sous-jacent, le travail d'adaptation de Moore Threads couvre en profondeur des éléments essentiels tels que l'attention hybride, l'inférence en précision mixte et le décodage spéculatif.

Cette collaboration efficace entre les deux parties marque non seulement une nouvelle étape dans la capacité du matériel national de calcul intelligent à soutenir l'écosystème des très grands modèles de pointe, mais offre également aux développeurs un chemin de déploiement mature et fiable pour exécuter de complexes grands modèles à textes longs sur des plateformes de calcul national.

Cet article provient du journal quotidien d'AIbase

Bienvenue dans la rubrique 【Journal AI】! C'est votre guide quotidien pour explorer le monde de l'intelligence artificielle. Chaque jour, nous vous présentons les actualités phares du domaine de l'IA, avec un focus sur les développeurs, pour vous aider à saisir les tendances technologiques et à découvrir les produits et applications innovants de l'IA.