Puntos clave
- La startup de IA Inception ha lanzado Mercury 3, un modelo de lenguaje basado en difusión. En lugar de escribir texto palabra por palabra, refina un borrador aproximado de toda la respuesta paso a paso. Inception dice que esto lo hace mucho más rápido que los modelos estándar.
- En las pruebas de referencia internas de Inception, Mercury 3 genera más de 1,000 tokens por segundo en GPU de Nvidia. Supera a rivales como GPT-6 Luna y Claude Haiku 5.5 en ocho de 12 pruebas.
- El modelo puede procesar hasta 1 millón de tokens a la vez y utiliza una API compatible con OpenAI. Inception lo construyó principalmente para aplicaciones en tiempo real donde la velocidad importa, como agentes de IA autónomos, gafas inteligentes y atención al cliente.
Inception dice que su nuevo modelo de lenguaje, Mercury 3, supera a GPT-6 Luna y Claude Haiku 5.5 en una serie de pruebas de referencia mientras funciona entre cuatro y ocho veces más rápido.
En su anuncio, la empresa califica a Mercury 3 como el modelo de lenguaje de difusión más capaz lanzado hasta ahora.
La velocidad proviene de cómo está construido el modelo. Modelos como GPT o Claude escriben una palabra a la vez, por lo que cada palabra nueva debe esperar a la anterior. Los modelos de difusión son mejor conocidos por la generación de imágenes. Primero esbozan una versión aproximada de toda la respuesta y luego la refinan a lo largo de varias pasadas, generando muchas palabras a la vez. El informe técnico de Google sobre DiffusionGemma explica la idea básica.
La ventaja de Mercury 3 es más estrecha de lo que sugiere el anuncio
La propia tabla de pruebas de referencia de Inception cuenta una historia más mixta. Mercury 3 gana ocho de 12 pruebas, con los tres modelos funcionando en configuraciones medias. La brecha es más amplia en el seguimiento de instrucciones. En IFBench, Mercury 3 obtiene 76.84 puntos, 15 más que GPT-6 Luna. También lidera claramente en codificación autónoma en SWE-Bench Atlas con 51.08 puntos, mientras que sus rivales alcanzan 33.33 y 32.26.Anuncio
Claude Haiku 5.5 gana la prueba de codificación más larga DeepSWE. También es mejor para encontrar información en textos largos. GPT-6 Luna se adelanta en dos pruebas de Artificial Analysis. El breve resumen de Inception es más cauteloso, describiendo la calidad de Mercury 3 como igual o mejor.
Según Inception, Mercury 3 genera 1,068 tokens por segundo en GPU de Nvidia. En la comparación de la empresa, Claude Haiku 5.5 logra unos 240 y GPT-6 Luna unos 130. Todavía no existen pruebas independientes.
Inception dice que Mercury 3 tiene más de 40 veces la cantidad de parámetros de Mercury 1 pero funciona igual de rápido. El rendimiento también se ha triplicado desde el pequeño Mercury 1 mini. Inception ve esto como una señal de que los modelos de difusión mejoran de manera confiable a medida que escalan, al igual que los modelos de lenguaje estándar. El número exacto de parámetros sigue sin divulgarse.
Mercury 3 apunta a aplicaciones donde los pequeños retrasos se acumulan
Inception promociona Mercury 3 principalmente para agentes de IA, búsqueda, atención al cliente y tutoría. Los agentes de IA completan tareas en muchos pasos separados y esperan al modelo en cada uno. Esos pequeños retrasos se acumulan rápidamente.Anuncio
Los socios de acceso anticipado comparten sus resultados en el anuncio, y la mayoría también se centra en la velocidad. Octen AI crea funciones de búsqueda para gafas inteligentes. "En gafas inteligentes, una respuesta que tarda cinco segundos se siente rota", dice el fundador Kuan Zou. Dice que la búsqueda en sí tomó solo unos 80 milisegundos, y el modelo de lenguaje era el cuello de botella. Con Mercury 3, la respuesta mediana llegó después de 0.9 segundos. El proceso completo tomó 2.2 segundos.
La empresa de educación General Learning dice que ahora entrega pistas y correcciones a los estudiantes en aproximadamente un segundo. El proveedor de servicio al cliente Lorikeet informa tiempos de respuesta más rápidos junto con mejores resultados. En TinyFish AI, el cofundador Shuhao Zhang dice que a Mercury 3 se le dieron 50 tareas de navegación en sitios web reales. Resolvió 25, superando a GPT-6.1-Sol. Zhang no da una cifra para el modelo de OpenAI.
El bajo precio de lanzamiento de Mercury 3 podría no durar
El precio regular es de $0.20 por millón de tokens de entrada y $0.70 por millón de tokens de salida. Inception está reduciendo los precios a la mitad en el lanzamiento. No ha dicho cuándo termina el descuento. Después de eso, Mercury 3 costaría más en salida que GPT-6 Luna y Claude Haiku 5.5, al menos para entradas más cortas, donde ambos cobran $0.50. Para indicaciones muy largas, sin embargo, ambos rivales cobran mucho más. Mercury 3 puede manejar hasta 1 millón de tokens a la vez.
El modelo está disponible en la plataforma propia de Inception, así como en OpenRouter, Baseten y Vercel. Utiliza la misma API que los modelos de OpenAI, por lo que Inception dice que los desarrolladores pueden cambiar con poco esfuerzo.
En febrero, Inception lanzó Mercury 2, al que llamó el primer modelo de difusión capaz de razonar mediante pasos intermedios antes de responder. Antes de eso, la startup recaudó 50 millones de dólares. Entre sus inversores están NVentures, M12 y Snowflake Ventures, los brazos de capital de riesgo de Nvidia, Microsoft y Snowflake.
Google está trabajando en el mismo enfoque. Su demostración de Gemini Diffusion fue seguida en junio por el modelo abierto DiffusionGemma. Google dice que funciona hasta cuatro veces más rápido que el Gemma 4 estándar, pero ofrece resultados ligeramente peores.
Fuente: Inception Labs / Mercury 3