NVIDIAがNemotron 3.5 SuperとNemotron 3.5 Boltをリリース
モデルページを見るNVIDIAのNemotron 3.5 Super VLは、Artificial Analysis Intelligence Indexで26を獲得し、米国のオープンウェイトモデルの首位に立った
Nemotron 3.5 Super VLは、前身であるNemotron 3 Super(13)の2倍の知能を達成し、かつタスクあたりの出力トークン数を約60%削減してそれを実現した
同モデルは、新しいBoltファミリーの最初のモデルであるNemotron 3.5 Bolt 74B-A9Bと同時に公開された。このモデルはIntelligence Indexで21を獲得している
重要ポイント:
➤ 米国のオープンウェイトモデルの首位: Nemotron 3.5 Super VLは26.5を獲得し、Thinking MachinesのInkling Small(25.7)をわずかに上回り、NVIDIAのNemotron 3 Ultra(23)やMetaのMuse Glimmer(17)を引き離した
➤ BoltはUltraに2ポイント以内に迫る: Nemotron 3.5 Bolt 74B-A9Bは21を獲得し、Nemotron 3 Ultra 550B A55B(23)に1.5ポイント差。総パラメータ数はUltraの約7分の1(74B対550B)、アクティブパラメータ数は6分の1(9B対55B)である
➤ Super 3.5はNVFP4でほぼロスレス: Nemotron 3.5 Super VLはNVFP4でリリースされ、Intelligence IndexにおいてBF16ウェイトと0.1ポイント以内の差に収まり、どのコンポーネントも2.6ポイント以上動いていない
Nemotron 3.5 Super VLの詳細
- コンテキストウィンドウ: 1Mトークン
- モダリティ: ビジョンとテキスト入力、テキスト出力
- パラメータ: 120B / 12B
Nemotron 3.5 Bolt 74B-A9Bの詳細
- コンテキストウィンドウ: 256kトークン
- モダリティ: ビジョンとテキスト入力、テキスト出力
- パラメータ: 74B / 9B
Nemotron 3.5 Super - 米国オープンウェイトのリーダー
Nemotron 3.5 Super VLは、Intelligence Indexで26を獲得し、米国発のオープンウェイトモデルとして最高スコアを記録した。Thinking MachinesのInkling Small(26)をわずかに上回り、NVIDIAの従来のフラッグシップであるNemotron 3 Ultra(23)やMetaのMuse Glimmer(17)を追い抜いた
この前進にもかかわらず、オープンウェイトの知能では、米国は依然としてアラブ首長国連邦(K2 Horizon 375B A23B、31)や中国(MiMo-V2.6-Pro、46)に後れを取っている。
Nemotron 3.5 Super - トークン使用量
Nemotron 3.5 Super VLはIntelligence Indexのタスクあたり46k出力トークンを使用し、これは前世代のNemotron 3 Super(114k)より約60%少なく、K2 Horizon 375B A23B(52k)やMiMo-V2.6-Pro(64k)よりも少ない
トークン効率は明確に向上しているものの、Nemotron 3.5 Superは、Intelligence Index対タスクあたり出力トークン数のフロンティアには依然として及ばない
Nemotron 3.5 Super - 出力速度
NVFP4重みを提供するプレリリース版の@DeepInfraエンドポイントで測定したところ、Nemotron 3.5 Super VLは100kトークンのプロンプトで約630トークン/秒の出力速度に到達した。これは、このプロンプト長で当社が測定したモデルの中で、Intelligence Indexで20以上のスコアを獲得したモデルとして最速である
これはInkling Small(124トークン/秒)の約5倍、Nemotron 3 Ultra(235)の約2.7倍、Nemotron 3 Super(140)の約4.5倍である。また、最初のトークンを1.8秒で返す。これはNemotron 3 Ultraの4.4秒、Inkling Smallの8.5秒に対して速い
Nemotron 3.5 Bolt
Nemotron 3.5 Bolt 74B-A9Bは、NVIDIAの新Boltファミリーの最初のモデルである。Intelligence Indexで21.4を獲得し、100Bパラメータ未満のモデルの中で4位、同クラスの米国モデルの中では1位に位置する
BoltはNemotron 3 Super(12.8)を8.6ポイント上回り、総パラメータ数は39%少ない。Nemotron 3 Ultraと比較すると、AutomationBench-AA(15.5%対3.0%)とAA-Briefcase(912対874 Elo)でリードするが、AA-LCR(70%対79%)とHumanity's Last Exam(25%対28%)では劣る
Nemotron 3.5 Bolt - トークン使用量
Nemotron 3.5 Bolt 74B-A9B は Intelligence Index の各タスクで 82k の出力トークンを使用します。これは Nemotron 3.5 Super VL（46k）の 1.8 倍、Nemotron 3 Ultra（28k）の 2.9 倍にあたりますが、Nemotron 3 Super（114k）よりは依然として 28% 少なくなっています。
