Artificial Analysis · X更新日

NVFP4ウェイトを提供するプレリリース前の@DeepInfraエンドポイントで測定した結果、Nemotron 3.5 Super VLは~630トークン/秒の出力速度に達する。

NVFP4ウェイトを提供するプレリリース前の@DeepInfraエンドポイントで測定したところ、Nemotron 3.5 Super VLは100kトークンを含むプロンプトで~630トークン/秒の出力速度を達成した。これは、このプロンプト長でIntelligence Indexで20以上得点したモデルの中で最も速いものである。これはInkling Smallの約5倍(124トークン/秒)、Nemotron 3…

画像の出典 · Artificial Analysis · X

NVFP4ウェイトを提供するプレリリース@DeepInfraエンドポイントで測定したところ、Nemotron 3.5 Super VLは100kトークンを含むプロンプトで~630トークン/秒の出力速度に達する。これは、このプロンプト長でIntelligence Indexで20以上得点したモデルの中で最も速いものである。

それは~5倍のInkling Small(124トークン/秒)、~2.7倍のNemotron 3 Ultra(235)、そして~4.5倍のNemotron 3 Super(140)です。また、Nemotron 3 Ultraの4.4秒、Inkling Smallの8.5秒に対し、1.8秒で最初のトークンを返します。

原文の出典

Artificial Analysis · X

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください