The vLLM Semantic Router チームは、 d3-ultraをリリースしました。Apache-2.0ライセンスの27Bマルチモーダル決定モデルです。d3-ultra決定モデルはテキストを生成しません。入力を1回読み込み、すべての質問に対する各回答の確率を返します。開発者にとっては、1回のオープンウェイト呼び出しでルーティング、分類、視覚的グラウンディング、動画チェックが可能になります。
TL;DR
- サイズ： 26.09Bパラメータ（dense、0.46Bのビジョンエンコーダを含む）；質問あたり131,072トークンのコンテキスト。
- 動作環境： AMD Instinct MI325X 1基でBF16重みを使用してテスト済み；公式な量子化バリアントはまだリストされていません。
- パフォーマンス： チーム独自の非公開テストにおける6つの決定モデルの中で最高のSR-Textスコア。
- 最高： SR-Textのツールと自動化で97.8（偶然補正された精度）。
- 最低： SR-Box（9ドメイン）で54.6%、姉妹モデルのd3-turboを5.0ポイント下回る。
d3-ultraとは何か？
d3-ultraは、vLLM Semantic RouterのSystem One決定モデルで、型付けされた質問に確率で回答します。0.6Bから27Bに及ぶファミリーである Decision 3.00.6Bから27Bにわたるファミリーです。
状態（テキストまたはJSON、および画像や動画）と一連の質問を送信します。 各質問にはタイプがあります：
- Choice： 複数の選択肢から1つを選ぶ。
- Yes / No： yesの確率を返す。
- Score： スケールで評価する。
- Box： 画像内の場所や動画のシーンを特定する。
- トラック: 動画全体を通してターゲットを追跡します。
画像は問題や選択肢の中にも配置できます。クイズでは写真を表示し、その後、4つの版画を解答として提示することができます。
d3-ultraはどのように作用するのですか?
核心となる考え方は 一度述べた. モデルは入力をリクエストごとに1回読み込み、その1回の読み込みだけですべての質問に答えます。
ザ config Qwen3.5アーキテクチャのバックボーンを持ち、64層で構成されていることが示されています。うち48層は線形アテンション層、16層はフルアテンション層です。カードはベースチェックポイントの名前を明示していません。vLLMの レシピ 姉妹モデルのd3はQwen3.8-27Bから訓練されたと述べています。
Box回答は常に、confidenceを伴うちょうど1つのboxを返します。confidenceが0に近い場合、対象が画像内に存在しないことを意味します。131,072トークンを超える質問は次のエラーで失敗します: max_length_exceeded; 何も暗黙的に切り詰められることはありません。
d3-ultraはベンチマークでどのような性能を示しますか?
研究チームはd3-ultraを GLiDE V1.2、d1-ultra、d3-turbo、d3、Jev 1.14と比較し、2つの社内テストで評価しました。
SR-Text は10,411件のテキストリクエストと73,495件の質問を含みます。ほとんどは34の公開ベンチマークから新しい項目でスキルを再現したものです。さらに4,896件の質問は、SQLチェックやチケット振り分けなど43の新しいタスクファミリー由来です。スコアは偶然的一致を補正した値で、0が偶然レベル、100が完璧です。
- d3-ultra: 87.2
- GLiDE V1.2: 85.1
- d1-ultra: 83.4
- d3-turbo: 83.1
- d3: 81.4
- Jev 1.14: 73.1
d3-ultraはアートと人間の嗜好を除くすべての分野で首位です。そこでは、d1-ultraが誤差範囲内でd3-ultraの89.6に対して90.8を記録しています。
SR-Box には、10のドメインにわたる4,984枚の画像上に5,678のBox問題があります。IoU 0.5以上でボックスは正解とみなされます。d3-ultraは10ドメイン全体で58.2%、9ドメインで54.6%を記録します。d3-turboは60.0%と59.6%。Jev 1.14は45.7%と46.9%。チームは、d3-turboは自然画像でより強く、d3-ultraはチャートで首位を保っていると述べています。
レイテンシ: AutoModelを使用した1基のAMD Instinct MI325Xで、写真に関する1つの質問に304 msかかります。255問では2.16 s、追加の質問1件あたり約7.3 msです。
d3-ultraはどうデプロイしますか?
4つの方法があります:
- Transformers:
AutoModel.from_pretrained("vllm-sr/d3-ultra", trust_remote_code=True)次のように使用します:transformers==5.17.0。オプションのflash-linear-attentionパッケージが高速なGPUカーネルを追加します。 - vLLM Semantic Router Engine:
vllm-sr serve -e vllm-sr/d3-ultra、2026年10月25日の PR #5449 2026年10月25日に。 - Free API: カードには、 decision.vllm-sr.ai がd3-ultraを無料のキーで提供していると記載されています。
- デモ: 公式の Hugging Face Space.
d3-ultra vs GLiDE V1.2, d1-ultra, Jev 1.14 and d3-turbo
| 機能 | d3-ultra | d3-turbo | GLiDE V1.2 | d1-ultra | Jev 1.14 |
|---|---|---|---|---|---|
| 開発元 | vLLM Semantic Router | vLLM Semantic Router | Fastino Labs | Liquid AI | TypeSafe |
| パラメータ数 | 26.09B | 26.09B | 26B | 非公開 | 非公開 |
| 質問あたりのコンテキスト | 131,072 | デフォルトで32,768、131,072まで拡張可能 long_context | デフォルトで40,000 | 32,768 | 262,144 |
| 重み / ライセンス | オープン、Apache-2.0 | オープン、Apache-2.0 | オープン、Fastino Community License | ホステッドのみ | ホステッドのみ、プロプライエタリ |
| 入力 | テキスト、JSON、画像、動画 | テキスト、JSON、画像、動画 | テキスト、JSON、画像 | テキスト、画像 | テキスト、画像 |
| ボックス / トラック | ボックス + トラック | ボックス + トラック | なし | なし | ボックスのみ |
| SR-Text(vLLM-SRによる自己申告) | 87.2 | 83.1 | 85.1 | 83.4 | 73.1 |
| SR-Box、10ドメイン | 58.2% | 60.0% | 非対応 | 非対応 | 45.7% |
| 公開インデックススコア | 提出済み、まだボード未掲載 | 70.2 Jev DI(独自推定) | 71.5 Decision Index 0.4.1 | 65 AA Decision Index | 57 AA Decision Index |
| 価格 | 無料API、セルフホスト | 無料API、セルフホスト | $0.04 / M入力 | $0.042 / M入力 | $0.042 / M入力 |
主なポイント
- d3-ultra は、テキストを一切生成しない 27B の Apache-2.0 デシジョンモデルです。
- 入力を1回だけ読み込みます: 写真1枚についての255問に2.16秒かかります。
- チームのSR-Textテストで87.2を記録し、85.1のGLiDE V1.2を上回りました。
- Boxグラウンディングではd3-turboに及ばない：58.2%対60.0%。
- すべてのベンチマーク数値は、非公開のテストセットで自己申告されたものです。
チェックしてみてください: モデルカード、その GitHubリポジトリ, その Decision 3.0 コレクション および Hugging Face Space。また、ぜひ私たちをフォローしてください Twitter そして、私たちの 150k以上のML SubReddit そして登録してください: 当社のニュースレター. 待って!Telegramは使っていますか? Telegram でもご参加いただけるようになりました。
GitHubリポジトリ、またはHugging Faceページ、または製品リリース、またはウェビナーなどのプロモーションについて当社との提携をご希望ですか? 私たちとつながりましょう
この投稿 vLLM Semantic Routerがd3-ultraをリリース：27Bのオープンマルチモーダル意思決定モデル 「最初に掲載されたのは」 MarkTechPost.