Kimi K3は、私たちが取り扱う中で最大のモデルであり、総パラメータ数は2.8T、アクティブパラメータ数は104Bです。MI355Xは、1MWあたり約8Mトークン/秒、ユーザーあたり50トークン/秒を実行します…

Kimi K3は、私たちが提供しているモデルの中で最大のもので、総パラメータ数は2.8T、アクティブパラメータ数は104Bです。MI355Xは、1MWあたり約8Mトークン/秒、ユーザーあたり50トークン/秒で動作し、これはB300の約3分の1（約24M）に相当します。B300はNVIDIAのマルチノード分散構成を使用しています。その曲線は浅く、ユーザーあたり12トークン/秒で約13Mにピークが達し、単一エージェントではB300の235に対して152トークン/秒に達します。