Kimi K3는 우리가 제공하는 가장 큰 모델로, 총 2.8T의 활성 파라미터와 104B가 있습니다. MI355X는 사용자당 50 토크/초의 속도로 MW당 약 8M 티클스/초를 처리하며, 이는 B300(약 24M)의 약 3분의 1에 해당합니다. B300은 NVIDIA의 멀티노드 분리 설정을 사용합니다. 이 모델의 곡선은 얕으며, 사용자당 12 토크/초에서 약 13M에 달하는 최고점을 가집니다. 단일 에이전트의 경우 B300의 235에 비해 152 토크/초에 도달합니다.
