Kimi K3は掲載モデルの中で最大のもので、総パラメータ2.8T、アクティブパラメータ104Bです。MI355Xは、ユーザーあたり50 tok/sで約8M tokens/s/MWを提供します。これはB300(約24M、NVIDIAのマルチノード分離構成を使用)の約3分の1です。その曲線は緩やかで、ユーザーあたり12 tok/sで約13Mでピークに達し、単一エージェントでは152 tok/sに達します。B300は235 tok/sです。


Kimi K3は掲載モデルの中で最大のもので、総パラメータ2.8T、アクティブパラメータ104Bです。MI355Xは、ユーザーあたり50 tok/sで約8M tokens/s/MWを提供します。これはB300(約24M、NVIDIAのマルチノード分離構成を使用)の約3分の1です。その曲線は緩やかで、ユーザーあたり12 tok/sで約13Mでピークに達し、単一エージェントでは152 tok/sに達します。B300は235 tok/sです。

原文の公開と権利は出典元に帰属します。
機械翻訳 · 原文をご参照ください