Artificial Analysis · XMis à jour le

Le Kimi K3 est le modèle le plus grand que nous proposions, avec un total de 2,8T et 104B paramètres actifs. Le MI355X génère environ 8M…

Kimi K3 est le modèle le plus grand que nous présentions, avec un total de 2,8T et 104B de paramètres actifs. MI355X génère environ 8M tokens/s par MW à 50 tokens/s par utilisateur, soit environ un tiers de B300 (~24M)…

Source de l’image · Artificial Analysis · X

Kimi K3 est le modèle le plus grand que nous proposions, avec un total de 2,8T et 104B de paramètres actifs. MI355X génère environ 8M tokens/s par MW à 50 tokens/s par utilisateur, soit environ un tiers de B300 (~24M), qui utilise les configurations dédivisées multi-nœuds de NVIDIA. Sa courbe est peu profonde : elle atteint un pic d’environ 13M à 12 tokens/s par utilisateur, et pour un seul agent, elle atteint 152 tokens/s contre 235 sur B300.

Source originale

Artificial Analysis · X

À propos du contenu

La publication originale et les droits appartiennent à la source.

Traduction automatique · Consultez l’original