Artificial Analysis · XMis à jour le

Kimi K3 est le plus grand modèle que nous présentons, avec 2.8T au total et 104B de paramètres actifs. Le MI355X sert ~8M tokens/s par MW à…

Source de l’image · Artificial Analysis · X

Kimi K3 est le plus grand modèle que nous présentons, avec 2.8T au total et 104B de paramètres actifs. Le MI355X sert ~8M tokens/s par MW à 50 tok/s par utilisateur, soit environ un tiers du B300 (~24M), qui utilise des configurations désagrégées multi-nœuds de NVIDIA. Sa courbe est plate, culminant à environ 13M à 12 tok/s par utilisateur, et pour un agent unique il atteint 152 tok/s contre 235 sur le B300.

Source originale

Artificial Analysis · X

À propos du contenu

La publication originale et les droits appartiennent à la source.

Traduction automatique · Consultez l’original