IT之家 berichtet am 6. November, dass am 4. dieses Monats das vollständige Modellgewicht von Kimi K3.1 Pro offiziell bekannt gegeben wurde. Im Agent Arena-Leaderboard, das von Arena betrieben wird, belegt Kimi K3.1 Pro (Max) den ersten Platz in den offenen Gewichtsmodellen und den 13. Platz aller geprüften Modelle. Zudem ist es in den Bereichen Arbeit, Programmierung und Chat sowohl in den offenen Modellen als auch in allen anderen Kategorien an der Spitze.
Moore Thread hat heute offiziell bekanntgegeben, dass Moore Thread auf den AI-Training und -Generierung-Karten MTT S5000 sowie der MUSA-Softwarestack die Anpassung des Kimi-K3.1 Pro-Modells für Day-0 abgeschlossen hat, wodurch die Laden von Modellen, der Start von Diensten sowie die Grundrechenprozesse für Texte und Bilder verbunden werden.
Laut IT Home ist Kimi K3.1 Pro das erste Modell der K3.1-Serie und das am stärksten leistungsfähige Modell mit 3 Billionen Parametern, das 1 Million Kontexte unterstützt. Durch großskalige Post-Training und Verstärkunglern wurde das Modell in Bereichen wie Code-Generierung, 3D-Kreativität, Finanzforschung, Wissensfragen und langfristigen Agentaufgaben deutlich verbessert. In den Benchmarktests für Code und Agent erreicht es die gleiche oder näher an den Spitzenniveauen von geschlossenen Modellen: Der Score bei Terminal-Bench 4.0 liegt bei 65,7 %, bei Kimi Code Bench 3.0 Long-horizon bei 61,2 %, was höher ist als der 55,95 % von K3.
Mole Thread erklärt offiziell, dass es durch den MUSA-Softwarestack eine Migration und Anpassung der wichtigen Schlussfolgerungswege gelungen ist, was die Modellarchitektur und die Berechnungsfunktionen von Kimi K3.1 Pro betrifft. Dadurch kann das Modell stabil auf dem MTT S5000 laufen.
Die MUSA-Softwarestack hat eine hohe Kompatibilität und unterstützt die schnelle Migration neuer Modelle: Die Fähigkeit des MUSA-Softwarestacks zu einer schnellen kompatiblen Migration auf Ebene des Programmiermodells, der Laufzeitinterfaces und der AI-Frameworks ist eine wichtige Grundlage für diese schnelle Anpassung. Das Team nutzt SGLang-MUSA, um die Quellmodelle umzusetzen, und durch die MATE-Operatorbibliothek, Triton-MUSA, TileLang-MUSA sowie den MTCC-Compiler werden die Schlüsselrechnungswege der neuen Architektur migriert und angeschlossen, wodurch die Code-Dateien des Community-Modells in tatsächliche Inferenzdienste auf dem MTT S5000 umgewandelt werden. Der MUSA-Softwarestack umfasst gleichzeitig die Ausführung der Frameworks, die Kompilierung der Operatoren, die Betriebsfunktionen des Geräts und die Kommunikation zwischen mehreren Karten, sodass die Modellanpassung etablierte Schnittstellen wieder verwenden kann und Optimierungen für neue Rechenwege durchgeführt werden.
Einsatz von DSA – Integration von gemischter Aufmerksamkeit und visueller Berechnung: Für das sparsche Aufmerksamkeits-DSA von Kimi-K3.1 Pro hat die MUSA-Softwareplattform die Anpassung der Indexauswahl, der KV-Cache-Layouts sowie der Prefill- und Decode-Berechnungswege durchgeführt. Der Einsatz des MATE-Sparschen Aufmerksamkeitsoperators ermöglicht eine vollständige Ausführungskette in Verbindung mit KDA-Statusverwaltung, cross-layer Residuals und visueller Aufmerksamkeit. Angesichts der von dem Modell verwendeten MXFP4-Experten Gewichte führt das Team die Expertenberechnungen durch Online-Conversion und cross-layer Reuse des FP8-Arbeitsbereichs aus, ohne vorher vollständige offline FP8-Gewichte zu generieren – was die schnelle Implementierung sehr großer Modelle ermöglicht.