Moore Threads vollendet als Erster das Day-0-Adapterung des großen Sprachmodells Step 5 Preview von StepFun

Moore Threads vollendet als Erster das Day-0-Adapterung des großen Sprachmodells Step 5 Preview von StepFun

AIbase-Basis

Die ökologische Verschmelzung großer Sprachmodelle mit heimischer Hardware wird auf die Schnelltaste gedrückt. Am 15. Oktober open-sourcete StepFun offiziell sein neues großes Modell Step5Preview. Am selben Tag gab Moore Threads offiziell bekannt, dass die eigene MTT S5000 KI-Rechenkarte sowie der zugehörige MUSA-Softwarestapel das Day-0-Adapterung des Modells umgehend abgeschlossen haben – ein Zeugnis außerordentlich hoher Reaktions- und Iterationseffizienz.

Was die technischen Parameter betrifft, so verwendet Step5Preview eine fortschrittliche sparsame MoE-Architektur mit einer Gesamtzahl von 600B Parametern, wovon pro Token 27B aktiviert werden, und unterstützt nativ ein ultralanges Kontextfenster von bis zu 1 Million Token. Gestützt auf eine leistungsstarke Hardware- und Software-Infrastruktur deckte die Adapterungsarbeit von Moore Threads diesmal zentrale Bereiche wie hybride Aufmerksamkeit, gemischte Präzisionsinferenz sowie speculatives Decoding umfassend ab.

Diese effiziente Zusammenarbeit der beiden Partner markiert nicht nur einen neuen Höhepunkt in der Fähigkeit heimischer KI-Rechenhardware, fortschrittliche Super-Großmodell-Ökosysteme zu unterstützen, sondern bietet auch zahlreichen Entwicklern einen ausgereiften und zuverlässigen Basis-Pfad zur Bereitstellung und zum Betrieb komplexer großer Modelle für lange Texte auf heimischen Rechenplattformen.

Dieser Artikel stammt aus dem AIbase-Tagesbericht

Willkommen in der Rubrik【KI-Tagesbericht】! Hier ist dein täglicher Wegweiser zur Erkundung der Welt der künstlichen Intelligenz. Jeden Tag präsentieren wir dir die wichtigsten Themen aus dem KI-Bereich mit Fokus auf Entwickler, damit du technische Trends erkennen und innovative KI-Produkte und -Anwendungen kennenlernen kannst.