Das vLLM Semantic Router -Team hat d3-ultraveröffentlicht, ein multimodales Entscheidungsmodell mit 27B unter Apache-2.0. Das d3-ultra Entscheidungsmodell erzeugt keinen Text. Es liest eine Eingabe einmal und gibt eine Wahrscheinlichkeit für jede Antwort auf jede Frage zurück. Für Entwickler bedeutet das Routing, Klassifizierung, visuelle Verankerung und Video-Prüfungen mit 1 offenen Weight-Aufruf.
TL;DR
- Größe: 26.09B Parameter (dicht, einschließlich eines 0.46B Vision-Encoders); 131,072 Tokens Kontext pro Frage.
- Läuft auf: getestet auf 1 AMD Instinct MI325X mit BF16-Gewichten; es ist noch keine offizielle quantisierte Variante gelistet.
- Leistung: höchster SR-Text-Score der 6 Entscheidungsmodelle im eigenen privaten Test des Teams.
- Beste: 97.8 bei SR-Text Tools und Automatisierung (chance-korrigierte Genauigkeit).
- Schlechteste: 54.6% bei SR-Box (9 Domänen), 5.0 Punkte unter seinem Geschwistermodell d3-turbo.
Was ist d3-ultra?
d3-ultra ist ein System-One-Entscheidungsmodell von vLLM Semantic Router, das getippte Fragen mit Wahrscheinlichkeiten beantwortet. Es ist das neueste Mitglied von Decision 3.0, einer Familie, die von 0.6B bis 27B reicht.
Sie senden einen Zustand (Text oder JSON, plus Bilder oder Videos) und eine Reihe von Fragen. Jede Frage hat einen Typ:
- Choice: wählt 1 von mehreren Optionen.
- Yes / No: gibt die Wahrscheinlichkeit von Yes zurück.
- Score: bewertet auf einer Skala.
- Box: etwas in einem Bild oder einem Videomoment zu lokalisieren.
- Track: ein Ziel über ein ganzes Video hinweg verfolgen.
Bilder können auch innerhalb von Fragen und Optionen platziert werden. Ein Quiz kann ein Foto zeigen und dann 4 Radierungen als Antworten anbieten.
Wie funktioniert d3-ultra?
Die Grundidee ist einmal angeben„. Das Modell liest die Eingabe einmal pro Anfrage und beantwortet alle Fragen aus dieser einzigen Leseoperation."
Die config zeigt einen Backbone der Qwen3.5-Architektur mit 64 Schichten. 48 davon sind Linear-Attention-Schichten und 16 sind Full-Attention-Schichten. Die Karte nennt ihren Basis-Checkpoint nicht. vLLMs Rezept sagt, dass das Schwestermodell d3 aus Qwen3.8-27B trainiert wurde.
Box-Antworten geben immer genau 1 Box mit einer Konfidenz zurück. Eine Konfidenz nahe 0 bedeutet, dass sich das Ziel nicht im Bild befindet. Fragen mit mehr als 131,072 Tokens schlagen fehl mit max_length_exceeded; nichts wird stillschweigend abgeschnitten.
Wie schneidet d3-ultra bei Benchmarks ab?
Das Forschungsteam vergleicht d3-ultra mit GLiDE V1.2, d1-ultra, d3-turbo, d3 und Jev 1.14 bei 2 hausinternen Tests.
SR-Text hat 10,411 Textanfragen mit 73,495 Fragen. Die meisten stellen Fähigkeiten aus 34 öffentlichen Benchmarks mit neuen Elementen nach. Weitere 4,896 Fragen stammen aus 43 neuen Aufgabenfamilien, etwa SQL-Prüfungen und Ticket-Routing. Die Bewertungen werden zufallskorrigiert: 0 entspricht dem Zufallsniveau, 100 ist perfekt.
- d3-ultra: 87.2
- GLiDE V1.2: 85.1
- d1-ultra: 83.4
- d3-turbo: 83.1
- d3: 81.4
- Jev 1.14: 73.1
d3-ultra führt in jedem Bereich außer arts and human taste. Dort erzielt d1-ultra 90.8 gegen 89.6, innerhalb der Fehlermarge.
SR-Box enthält 5,678 Box-Fragen zu 4,984 Bildern in 10 Domänen. Eine Box gilt bei IoU 0.5 oder höher als korrekt. d3-ultra erreicht 58.2 % über 10 Domänen und 54.6 % über 9. d3-turbo erreicht 60.0 % und 59.6 %. Jev 1.14 erreicht 45.7 % und 46.9 %. Das Team sagt, d3-turbo bleibt bei natürlichen Bildern stärker, während d3-ultra bei Diagrammen führt.
Latenz: auf 1 AMD Instinct MI325X mit AutoModel dauert 1 Frage zu einem Foto 304 ms. 255 Fragen dauern 2.16 s, etwa 7.3 ms pro zusätzlicher Frage.
Wie deployt man d3-ultra?
Es gibt 4 Wege:
- Transformers:
AutoModel.from_pretrained("vllm-sr/d3-ultra", trust_remote_code=True)mittransformers==5.17.0. Das optionaleflash-linear-attention-Paket fügt schnelle GPU-Kernels hinzu. - vLLM Semantic Router Engine:
vllm-sr serve -e vllm-sr/d3-ultra, hinzugefügt in PR #5449 am 25. Oktober 2026. - Kostenlose API: auf der Karte steht, dass decision.vllm-sr.ai d3-ultra mit einem kostenlosen Schlüssel bereitstellt.
- Demo: der offizielle Hugging Face Space.
d3-ultra vs GLiDE V1.2, d1-ultra, Jev 1.14 und d3-turbo
| Merkmal | d3-ultra | d3-turbo | GLiDE V1.2 | d1-ultra | Jev 1.14 |
|---|---|---|---|---|---|
| Entwickler | vLLM Semantic Router | vLLM Semantic Router | Fastino Labs | Liquid AI | TypeSafe |
| Parameter | 26.09B | 26.09B | 26B | Nicht offengelegt | Nicht offengelegt |
| Kontext pro Frage | 131,072 | 32,768 Standard; 131,072 mit long_context | 40,000 Standard | 32,768 | 262,144 |
| Gewichte / Lizenz | Open, Apache-2.0 | Open, Apache-2.0 | Open, Fastino Community License | Nur gehostet | Nur gehostet, proprietär |
| Eingaben | Text, JSON, Bilder, Video | Text, JSON, Bilder, Video | Text, JSON, Bilder | Text, Bilder | Text, Bilder |
| Box / Track | Box + Track | Box + Track | Nein | Nein | Nur Box |
| SR-Text (selbst berichtet von vLLM-SR) | 87.2 | 83.1 | 85.1 | 83.4 | 73.1 |
| SR-Box, 10 Domänen | 58.2% | 60.0% | Nicht unterstützt | Nicht unterstützt | 45.7% |
| Öffentlicher Indexwert | Eingereicht, noch nicht auf dem Board | 70.2 Jev DI (eigene Schätzung) | 71.5 Decision Index 0.4.1 | 65 AA Decision Index | 57 AA Decision Index |
| Preis | Kostenlose API, Self-Hosting | Kostenlose API, Self-Hosting | $0.04 / M Eingabe | $0.042 / M Eingabe | $0.042 / M Eingabe |
Die wichtigsten Erkenntnisse
- d3-ultra ist ein 27B Entscheidungsmodell unter Apache-2.0, das niemals Text generiert.
- Es liest die Eingabe nur einmal: 255 Fragen zu 1 Foto dauern 2.16 s.
- Es führt den SR-Text-Test des Teams mit 87.2 an, vor GLiDE V1.2 mit 85.1.
- Es liegt bei Box grounding hinter d3-turbo: 58.2% gegenüber 60.0%.
- Alle Benchmark-Zahlen wurden selbst auf privaten Testsets gemeldet.
Schauen Sie sich die Modellkarte, das GitHub-Repo, die Decision 3.0 Kollektion und den Hugging Face Spacean. Außerdem folgen Sie uns gerne auf Twitter und vergessen Sie nicht, unserem 150k+ML SubReddit beizutreten und unseren Newsletterzu abonnieren. Moment! Sind Sie auf Telegram? jetzt können Sie uns auch auf Telegram beitreten.
Möchten Sie mit uns zusammenarbeiten, um Ihr GitHub-Repo ODER Ihre Hugging Face Seite ODER Ihre Produktveröffentlichung ODER Ihr Webinar usw. zu bewerben? Kontaktieren Sie uns
Der Beitrag vLLM Semantic Router veröffentlicht d3-ultra: Ein offenes multimodales Entscheidungsmodell mit 27B erschien zuerst auf MarkTechPost.