El equipo del vLLM Semantic Router ha lanzado d3-ultra, un modelo de decisión multimodal de 27B parámetros bajo Apache-2.0. El modelo de decisión d3-ultra no genera texto. Lee una entrada una vez y devuelve una probabilidad para cada respuesta a cada pregunta. Para los desarrolladores, esto significa rutas, clasificación, fundamentación visual y verificación de video desde 1 llamada de peso abierto.
TL;DR
- Tamaño: 26.09B parámetros (densos, incluyendo un codificador de visión de 0.46B); 131,072 tokens de contexto por pregunta.
- Funciona en: probado en 1 AMD Instinct MI325X con pesos BF16; aún no se lista una versión cuantizada oficial.
- Rendimiento: la puntuación más alta de SR-Text de los 6 modelos de decisión del equipo en el test privado propio del equipo.
- Mejor: 97.8 en las herramientas y la automatización de SR-Text (precisión corregida por la probabilidad).
- Peor: 54.6% en SR-Box (9 dominios), 5.0 puntos por debajo de su hermano d3-turbo.
¿Qué es d3-ultra?
d3-ultra es un modelo de decisión System One proveniente del Semantic Router de vLLM que responde a preguntas tipadas con probabilidades. Es el miembro más reciente de Decision 3.0, una familia que abarca desde 0.6B hasta 27B.
Envía un estado (texto o JSON, además de imágenes o videos) y un conjunto de preguntas. cada pregunta tiene un tipo:
- Elección: elige 1 de varias opciones.
- Sí / No: devuelve la probabilidad de ser sí.
- Puntuación: una calificación en una escala.
- Caja: localice algo en una imagen o en un momento de un video.
- Seguimiento: seguir un objetivo a lo largo de todo el video.
Las imágenes también pueden estar dentro de preguntas y opciones. Un cuestionario puede mostrar una foto, y luego ofrecer 4 respuestas como alternativas.
¿Cómo funciona d3-ultra?
La idea central es estado una vez. El modelo lee la entrada una vez por solicitud y responde a cada pregunta obtenida en esa única lectura.
El config muestra una estructura de arquitectura Qwen3.5- con 64 capas. 48 son capas de atención lineal y 16 son capas de atención completa. La tarjeta no indica el punto de control base. La receta de vLLM dice que el sibling d3 fue entrenado a partir de Qwen3.8-27B.
Las respuestas de la caja siempre devuelven exactamente 1 caja con una confianza. Una confianza cercana a 0 significa que el objetivo no está en la imagen. Las preguntas que superan las 131,072 tokens fallan con max_length_exceeded; nada se trunca silenciosamente.
¿Cómo se desempeña d3-ultra en las pruebas de rendimiento?
El equipo de investigación compara d3-ultra con GLiDE V1.2, d1-ultra, d3-turbo, d3 y Jev 1.14 en 2 pruebas internas.
SR-Text tiene 10,411 solicitudes de texto y 73,495 preguntas. La mayoría recrean habilidades a partir de 34 puntos de referencia públicos con elementos nuevos. Otras 4,896 preguntas provienen de 43 familias de tareas nuevas, como verificaciones SQL y enrutamiento de tickets. Las puntuaciones están corregidas por la probabilidad: 0 es la probabilidad, 100 es perfecto.
- d3-ultra: 87.2
- GLiDE V1.2: 85.1
- d1-ultra: 83.4
- d3-turbo: 83.1
- d3: 81.4
- Jev 1.14: 73.1
D3-ultra lidera todas las áreas, excepto el arte y el gusto humano. En ese caso, D1-ultra obtiene un 90.8 contra 89.6, dentro del margen de error.
SR-Box tiene 5,678 preguntas en Box y 4,984 imágenes en 10 dominios. Una caja se considera correcta cuando el IoU es 0.5 o superior. Los puntajes de d3-ultra son del 58.2% en 10 dominios y del 54.6% en 9. Los puntajes de d3-turbo son del 60.0% y del 59.6%. Los puntajes de Jev 1.14 son del 45.7% y del 46.9%. El equipo dice que d3-turbo es más fuerte en imágenes naturales, mientras que d3-ultra lidera en gráficos.
Latencia: en 1 AMD Instinct MI325X con AutoModel, 1 pregunta sobre una foto tarda 304 ms. 255 preguntas tardan 2.16 s, aproximadamente 7.3 ms por cada pregunta adicional.
¿Cómo se implementa d3-ultra?
Hay 4 rutas:
- Transformers:
AutoModel.from_pretrained("vllm-sr/d3-ultra", trust_remote_code=True)contransformers==5.17.0. El paquete opcionalflash-linear-attentionañade kernels rápidos para GPU. - Motor de enrutador semántico vLLM:
vllm-sr serve -e vllm-sr/d3-ultra, añadido en PR #5449 el 25 de octubre de 2026. - API gratuita: la tarjeta indica que decision.vllm-sr.ai proporciona d3-ultra, con una clave gratuita.
- Demostración: el espacio de Hugging Face oficial.
d3-ultra contra GLiDE V1.2, d1-ultra, Jev 1.14 y d3-turbo
| Característica | d3-ultra | d3-turbo | GLiDE V1.2 | d1-ultra | Jev 1.14 |
|---|---|---|---|---|---|
| Desarrollador | vLLM Semantic Router | vLLM Semantic Router | Fastino Labs | Liquid AI | TypeSafe |
| Parámetros | 26.09B | 26.09B | 26B | No divulgado | No divulgado |
| Contexto por pregunta | 131,072 | 32,768 por defecto; 131,072 con long_context | 40,000 por defecto | 32,768 | 262,144 |
| Pesos / licencia | Abrir, Apache-2.0 | Abrir, Apache-2.0 | Abrir, Licencia Comunitaria Fastino | Alojado únicamente | Alojado únicamente, propiedad intelectual |
| Entradas | Texto, JSON, imágenes, video | Texto, JSON, imágenes, video | Texto, JSON, imágenes | Texto, imágenes | Texto, imágenes |
| Caja / pista | Caja + pista | Caja + pista | No | No | Caja solo |
| SR-Text (autoinformado por vLLM-SR) | 87.2 | 83.1 | 85.1 | 83.4 | 73.1 |
| SR-Box, 10 dominios | 58.2% | 60.0% | No soportado | No soportado | 45.7% |
| Puntuación de índice público | Presentado, aún no incluido | 70.2 Jev DI (estimación propia) | 71.5 Índice de Decisión 0.4.1 | 65 Índice de Decisión AA | 57 Índice de Decisión AA |
| Precio | API gratuita, autohospedado | API gratuita, autohospedado | $0.04 / M entrada | $0.042 / M entrada | $0.042 / M entrada |
Conclusiones clave
- d3-ultra es un modelo de decisión de 27B Apache-2.0 que nunca genera texto.
- Lee la entrada una vez: 255 preguntas sobre 1 foto tomaron 2.16 s.
- Llega al primer lugar en el test de SR-Text del equipo con un valor de 87.2, por delante de GLiDE V1.2, que tiene un valor de 85.1.
- Su rendimiento supera al de d3-turbo en Box Grounding: 58.2% contra 60.0%.
- Todos los números de referencia se reportan por parte del usuario en conjuntos de prueba privados.
Revisa la tarjeta de modelo, el repositorio de GitHub, la colección Decision 3.0 y el espacio de Hugging Face. También, no dudes en seguirnos en Twitter y, por supuesto, únete a nuestro subreddit de 150k+ ML y suscríbete al newsletter. ¡Espera! ¿Estás en Telegram? Ahora puedes unirte a nosotros en Telegram también.
¿Necesita asociarse con nosotros para promocionar su repositorio de GitHub, su página de Hugging Face, el lanzamiento de un producto o un webinar, etc.? Conéctese con nosotros
El artículo vLLM Semantic Router Releases d3-ultra: Un modelo de decisión multimodal de 27B de memoria abierta apareció primero en MarkTechPost.