Tingyu, desde Aofeisi
Quantum Bit | Cuenta oficial QbitAI
Zhipu ha lanzado un nuevoGLM-5.3-Highspeedmodelo, disponible en Zcode.
Según la filtración del internauta @leo114119, este nuevo modelo ya está disponible para probarse en Zcode 3.15.1, asignado aleatoriamente a los usuarios suscritos.
La velocidad que mostró alcanzó incluso490 tokens/s。
También fui de inmediato a Zcode a probarlo, intentando agregar y cambiar manualmente a este modelo.
Pero no sé si fue porque los usuarios del plan Lite aún no tienen derecho a disfrutarlo, o porque no me tocó en el despliegue gradual 😭...
Solo me queda suspirar desde la orilla (：з」∠)
¿Llega la versión de alta velocidad del GLM-5.3?
Siendo un modelo de alta velocidad, lo más digno de atención es, por supuesto, lavelocidad.
490TPS—la cifra de velocidad que mostró este internauta es bastante aterradora, cercana a los 500TPS.
TPS se refiere a la cantidad de tokens generados por segundo. Si se mantiene esta velocidad de forma continua, generar 1万 tokens tomaría unos 20 segundos solo en la fase de generación.
Hay que tener en cuenta que el GLM-5.3-FlashX, lanzado por Zhipu el mes pasado, apenas alcanzaba una velocidad máxima de 200 tokens/s.
Y según las mediciones de velocidad de Artificial Analysis, el GLM-5.3-Flash tiene una velocidad de salida de unos 60 tokens/s en la API de Z.ai.
¿¿¿Qué clase de dios de la velocidad es este nuevo modelo???
Además, el nombre GLM-5.3-Highspeed ya había dado señales anteriormente.
El catálogo de modelos de Pi ya incluye el GLM-5.3-Highspeed.
En ese catálogo, el GLM-5.3-Highspeed tiene una ventana de contexto de 100万 tokens y un límite máximo de generación de 131,072 tokens, unos 128k; además, se divide en tres niveles de configuración de intensidad de razonamiento: low, high y max.
Sin embargo, estas configuraciones son también idénticas a las de la versión normal del GLM-5.3.
Además, algunos internautas ya han discutido este nuevo modelo en reddit, y especulan si está relacionado con el modelo anónimo en OpenCode llamadoOmen Alpha.
Omen Alpha acaba de llegar a OpenCode en septiembre, y básicamente los internautas ya han descubierto que está relacionado con GLM.
También hay internautas que han puesto a prueba el nivel del pelícano pedaleando una bici。。
En resumen, se puede decir que:Es rápido, piensa durante mucho tiempo y los resultados son bastante buenos。
En cuanto a qué modelo es realmente Omen Alpha, también hay opiniones diversas.
Algunos dicen que es GLM-5.3-Highspeed, otros especulan que es GLM-5.3-Omni o GLM-5.4-Flash.
Anteriormente, Zhipu ya había lanzado modelos de versión de alta velocidad.
En mayo de este año, Zhipu lanzóGLM-5.1-highspeed, un modelo con una velocidad de salida de 400 tokens/s, que en su momento prácticamente estableció un nuevo récord en el límite de velocidad de API entre los fabricantes de grandes modelos a nivel mundial.
Si este GLM-5.3-Highspeed realmente alcanza un nivel de 490 TPS, la velocidad sería bastante considerable para tareas de largo alcance.
Actualmente, este nuevo modelo sigue en despliegue aleatorio de grises en Zcode; si a algún internauta le tocó la versión en pruebas, ¡¡bienvenido a compartir tu experiencia de prueba real!!