Auf dem globalen 1024-Entwickler-Fest am heutigen Nachmittag stellte iFlytek offiziell das große Modell X2.6 von Xunfei Xinghuo vor. Der wichtigste Merkmal dieses Modells ist, dass es zum ersten Mal auf nationaler eigenen Rechenleistung basiert und sowohl Code- als auch Intelligenz-Fähigkeiten nutzt. Der Vorsitzende Liu Qingfeng betonte auf der Pressekonferenz, dass unter den Unternehmen, die große Modelle entwickeln, nur Xinghuo rein auf nationaler eigenen Rechenleistung trainiert, während fast alle anderen auf NVIDIA-Karten laufen. Zudem ist das Modell von iFlytek das kleinste in dieser Gruppe.
Um die Effizienz der inländischen Rechenleistung zu verbessern, stößt Xunfei diesmal direkt auf die Schwächen von inländischen Chips – das Speicherbandbreitenlimit und die geringe Effizienz bei langfristigen Aufgaben durch gemischtes Training. Liu Qingfeng sagte, dass X2.6 als Erstes den Engpass bei der Trainingseffizienz für Langstreckenaufgaben mit inländischen Chips überwunden hat. Dies geschah durch eine Technik für dynamisches Paralleltrainieren von Langstreckenaufgaben, die an die inländische Plattform angepasst ist. Im Bereich der Schlussfolgerungen haben sie zwei Innovationen vorgestellt: Erstens eine verteilte Schlussfolgerungstechnik basierend auf heterogenen inländischen Rechenkapazitäten, die den Bandbreitenengpass verhindert, dass das Training nicht schnell genug erfolgt; zweitens Entwicklungstechniken für inländische Geräte, die es ermöglichen, viele Zwischenergebnisse direkt zu nutzen, anstatt sie neu zu berechnen.
Auch dieses Endgerätsmodell hat einen Schritt nach vorn gemacht. Der öffentlich zugängliche Endgeräts-Massstab von Xinghuo X2.6-4B wurde synchron veröffentlicht, und zum ersten Mal erreicht das Endgerätsmodell eine signifikante Verbesserung in Bezug auf die Fähigkeiten eines Intelligenzmodells – alle Score-Werte sind im Vergleich zu X2.5-4B deutlich höher. Wenn man zurückblickt auf den 1. September, als X2.5-4B öffentlich zugänglich wurde, gehört die Download-Menge bereits zu den vier weltweit führenden Endgerätsmodellen. Die X2.6-Serie ist derzeit auf der offiziellen Website von Xunfei Xinghuo für eine Testphase verfügbar, und es wurde eine kooperative Architektur für die Integration von Endgerät und Cloud eingeführt.
Die Parameter und die Preise werden ebenfalls bekannt gegeben. X2.6 basiert auf dem Training mit inländischer Rechenleistung und verwendet eine MoE-Architektur mit 293B-A30B Parametern. Die Kontextlänge beträgt 1M, die Code und die Fähigkeiten des Agenten sind erstklassig im Industrieumfeld. Es werden professionelle Sicherheitsmaßnahmen bereitgestellt und es ist möglich, Sicherheitsstrategien nach den Aufgabenkontexten anzupassen. Die Zeitlich begrenzten Preise für die Inferenz sind wie folgt: 0,9 Yuan pro Million Tokens für den Eingang, 0,08 Yuan für den Cache-Hit und 3,6 Yuan für das Ausgang. Und das Endside-Modell von X2.6-4B hat sich in Bezug auf Code, Agenten, längeren Text und Mehrsprachigkeit deutlich verbessert. Es wurden drei neue Rechenmodi hinzugefügt, und die Effizienz unter dem selbst entwickelten Rechenrahmen ist besser als bei ollama. Die Rechenpreise sind für eine begrenzte Zeit kostenlos.