Artificial Analysis · XActualizado el

Kimi K3 es el modelo más grande que ofrecemos, con un total de 2.8T y 104B parámetros activos. MI355X sirve aproximadamente 8M tokens/s por…

Kimi K3 es el modelo más grande que ofrecemos, con un total de 2.8T y 104B parámetros activos. MI355X genera aproximadamente 8M tokens/s por MW a una velocidad de 50 tokens/s por usuario, lo que corresponde a…

Fuente de la imagen · Artificial Analysis · X

Kimi K3 es el modelo más grande que ofrecemos, con un total de 2.8T y 104B parámetros activos. MI355X genera aproximadamente 8M tokens/s por MW a una tasa de 50 tokens/s por usuario, lo que representa aproximadamente un tercio de B300 (~24M), y utiliza las configuraciones desagregadas multi-nodo de NVIDIA. Su curva es plana, con un pico de aproximadamente 13M a una tasa de 12 tokens/s por usuario, y para un único agente alcanza 152 tokens/s frente a 235 en B300.

Fuente original

Artificial Analysis · X

Notas sobre el contenido

La publicación original y los derechos pertenecen a la fuente.

Traducción automática · Consulte el original