Kimi K3는 우리가 다루는 모델 중 가장 큰 모델로, 총 2.8T 및 104B 활성 파라미터를 가집니다. MI355X는 사용자당 50 tok/s에서 MW당 약 8M tokens/s를 제공하며, 이는 NVIDIA's 멀티노드 분리 구성을 사용하는 B300(약 24M)의 약 3분의 1 수준입니다. MI355X의 곡선은 완만하여 사용자당 12 tok/s에서 약 13M으로 정점을 찍으며, 단일 에이전트의 경우 152 tok/s를 달성하는 반면 B300은 235 tok/s입니다.
