Tingyu, geschrieben von Aufeisi
QbitAI | WeChat-Konto QbitAI
Zhipu hat ein neuesGLM-5.3-HighspeedModell veröffentlicht, und zwar direkt in Zcode.
Laut dem Hinweis des Nutzers @leo114119 kann man dieses neue Modell derzeit in Zcode 3.15.1 ausprobieren; Abonnenten erhalten es nach dem Zufallsprinzip.
Die von ihm gezeigte Geschwindigkeit erreichte sogar490 tokens/s。
Ich habe es auch sofort in Zcode ausprobiert und versucht, das Modell manuell hinzuzufügen und umzuschalten.
Aber ich weiß nicht, ob es daran lag, dass Nutzer des Lite-Pakets noch keinen Anspruch darauf haben, oder weil ich noch nicht für den stufenweisen Rollout ausgewählt wurde 😭...
Ich kann im Moment nur sehnsüchtig von außen zuschauen (：з」∠)
GLM-5.3 Highspeed-Version ist da?
Da es sich um ein Hochgeschwindigkeitsmodell handelt, ist natürlich dieGeschwindigkeitdas Wichtigste.
490TPS– diese von einem Nutzer gezeigte Geschwindigkeitszahl ist wirklich erschreckend, nahe an 500TPS.
TPS bezeichnet die Anzahl der pro Sekunde generierten Token. Wird diese Geschwindigkeit kontinuierlich gehalten, dauert die Ausgabe von 10.000 Token allein in der Generierungsphase etwa 20 Sekunden.
Man bedenke: Erst letzten Monat veröffentlichte Zhipu GLM-5.3-FlashX, und dessen Höchstgeschwindigkeit lag bei gerade einmal 200 tokens/s.
Laut den Geschwindigkeitsmessungen von Artificial Analysis liegt die Ausgabegeschwindigkeit von GLM-5.3-Flash auf der Z.ai-API bei etwa 60 tokens/s.
Was ist das denn für ein Geschwindigkeits-Primus bei diesem neuen Modell???
Und der Name GLM-5.3-Highspeed hatte sich zuvor bereits angedeutet.
Der Modellkatalog von Pi hat GLM-5.3-Highspeed bereits aufgenommen.
In diesem Katalog verfügt GLM-5.3-Highspeed über ein Kontextfenster von 100万 Token, die Obergrenze für die maximal generierbaren Token liegt bei 131,072, also etwa 128k; zudem sind drei Stufen der Denkintensitätskonfiguration – low, high und max – unterschieden.
Diese Konfigurationen stimmen jedoch auch mit der Standardversion von GLM-5.3 überein.
Darüber hinaus haben Nutzer auf reddit über dieses neue Modell diskutiert und spekuliert, ob es mit dem anonymen Modell auf OpenCode namensOmen Alphazusammenhängt.
Omen Alpha wurde erst im September auf OpenCode eingeführt und wurde von Nutzern bereits weitgehend als mit GLM zusammenhängend enttarnt.
Ein Netznutzer hat auch getestet, wie gut der Pelikan Fahrrad fährt..
Zusammengefasst heißt das:schnelles Tempo, langes Nachdenken, und die Ergebnisse sind ziemlich gut。
Was das Modell Omen Alpha tatsächlich ist, dazu gibt es ebenfalls unterschiedliche Spekulationen.
Manche sagen, es sei einfach GLM-5.3-Highspeed, andere vermuten GLM-5.3-Omni oder GLM-5.4-Flash.
Zuvor hatte Zhipu bereits eine Highspeed-Version eines Modells vorgestellt.
Im Mai dieses Jahres brachte ZhipuGLM-5.1-highspeedheraus, mit einer Ausgabegeschwindigkeit von 400 tokens/s, was damals im Grunde die Geschwindigkeitsobergrenze der APIs großer Modell-Anbieter weltweit neu definierte.
Wenn das diesmalige GLM-5.3-Highspeed wirklich ein Niveau von 490 TPS erreicht, dann wäre die Geschwindigkeit auch für langlaufende Aufgaben durchaus beeindruckend.
Das neue Modell wird derzeit in Zcode nach und nach per Zufallsauswahl (Gray Release) ausgerollt. Wer davon erfasst wurde, ist herzlich eingeladen, seine praktischen Testerfahrungen zu teilen!!