Kimi K3是我们所评测的最大模型，总参数量为2.8T，激活参数为104B。MI355X在每用户50 tok/s下每兆瓦可服务约8M tokens/s，约为B300（约24M）的三分之一，后者采用NVIDIA的多节点分离式配置。其曲线较为平缓，在每用户12 tok/s时峰值约为13M，对于单个智能体，它达到152 tok/s，而B300为235 tok/s。
Kimi K3是我们所评测的最大模型，总参数量为2.8T，激活参数为104B。MI355X在每用户50 tok/s下每兆瓦可服务约8M tokens/s……
Artificial Analysis称Kimi K3为其收录的最大模型，总参数2.8T、激活104B；MI355X每兆瓦约8M tokens/s（50 tok/s每用户），约为B300的三分之一。该数据为第三方测试结果，原文未说明全部基准条件。
Artificial Analysis · X
内容说明
原始发布及相关权利归来源方。
机器翻译 · 请以原文为准