Artificial Analysis · XAktualisiert

Kimi K3 ist das größte Modell, das wir vorstellen, mit insgesamt 2.8T und 104B aktiven Parametern. Die MI355X liefert ~8M Tokens/s pro MW…

Bildquelle · Artificial Analysis · X

Kimi K3 ist das größte Modell, das wir vorstellen, mit insgesamt 2.8T und 104B aktiven Parametern. Die MI355X liefert ~8M Tokens/s pro MW bei 50 tok/s pro Nutzer, etwa ein Drittel von B300 (~24M), das NVIDIAs Multi-Node-disaggregierte Konfigurationen verwendet. Seine Kurve verläuft flach und erreicht bei 12 tok/s pro Nutzer einen Höhepunkt von etwa 13M; für einen einzelnen Agenten erreicht es 152 tok/s gegenüber 235 auf B300.

Originalquelle

Artificial Analysis · X

Hinweise zum Inhalt

Originalveröffentlichung und Rechte liegen bei der Quelle.

Maschinelle Übersetzung · Original beachten