Artificial Analysis · XActualizado el

Kimi K3 es el modelo más grande que presentamos, con 2.8T en total y 104B de parámetros activos. MI355X sirve ~8M tokens/s por MW a 50 tok/s…

Fuente de la imagen · Artificial Analysis · X

Kimi K3 es el modelo más grande que presentamos, con 2.8T en total y 104B de parámetros activos. MI355X sirve ~8M tokens/s por MW a 50 tok/s por usuario, aproximadamente un tercio de B300 (~24M), que utiliza configuraciones disagregadas multinodo de NVIDIA. Su curva es poco pronunciada, con un pico de alrededor de 13M a 12 tok/s por usuario, y para un solo agente alcanza 152 tok/s frente a 235 en B300.

Fuente original

Artificial Analysis · X

Notas sobre el contenido

La publicación original y los derechos pertenecen a la fuente.

Traducción automática · Consulte el original