MarkTechPostPublicación de la fuente

You.com lanza Inference Router: 12 modelos de pesos abiertos con un SLA de disponibilidad del 99.9%

You.com ha lanzado Inference Router, una API gestionada para ejecutar modelos de pesos abiertos en producción. El You.com Inference Router es un servicio compatible con OpenAI que enruta las solicitudes entre 12 modelos en vivo.

You.com ha lanzado Inference Router, una API gestionada para ejecutar modelos de pesos abiertos en producción. El You.com Inference Router es un servicio compatible con OpenAI que enruta las solicitudes entre 12 modelos en vivo. Incluye un SLA de disponibilidad mínima del 99.9% y retención de datos cero (ZDR). Añade alojamiento 100% en EE. UU. y búsqueda web del lado del servidor. Es de pago por uso, sin comisión de plataforma.

TL;DR

  • Tamaño: 12 modelos en vivo, desde GPT-OSS 120B (contexto de 125K) hasta Kimi K3 y Qwen3.8 Max (contexto de 1M). Kimi K3 es un modelo de 2.8T parámetros; Qwen3.8 Max es un MoE de 2.4T.
  • Ejecuta en: Totalmente gestionado. Las solicitudes llegan primero a You.com Inference Direct y luego hacen failover a socios alojados en EE. UU. Sin GPUs que gestionar.
  • Rendimiento: En la ejecución de You.com en LiveNewsBench, los modelos de pesos abiertos más la búsqueda de You.com igualaron a los modelos frontera a menor costo.
  • Mejor: GLM-5.3 con la búsqueda de You.com obtuvo 86.53%, a $0.0485 por pregunta frente a $0.0920 para Claude Sonnet 5.5 (autoinformado).
  • Peor: Los precios por token están cerca del mercado. Kimi K3 cuesta $2.85/$14.25, solo un 5% por debajo de los $3.00/$15.00 de Together AI.

¿Qué es You.com Inference Router?

Es una única API para muchos modelos de pesos abiertos. El endpoint es https://api.you.com, con rutas compatibles con OpenAI y Anthropic. El código SDK existente se traslada cambiando la URL base y la clave.

El equipo de You.com plantea el problema en torno a las migraciones estancadas. Los equipos de desarrollo prueban modelos de pesos abiertos en agregadores y luego se topan con la revisión de seguridad. Los revisores preguntan sobre ZDR, alojamiento en EE. UU., controles de acceso y DPAs. Los proveedores dedicados superan esas barreras, pero normalmente con un gran compromiso. Inference Router apunta a ese vacío.

¿Cómo funcionan el enrutamiento y el failover?

Cada solicitud va primero a You.com Inference Direct, la capacidad de inferencia propia de la empresa. Si está caída o llena, la solicitud hace failover a un socio verificado. La publicación oficial menciona a Parasail, Wafer, Alibaba Cloud, Meta e Inception, con Prime Intellect próximamente. Todos están alojados 100% en EE. UU. y deben cumplir las reglas de ZDR.

El failover no cambia la factura. Cada modelo tiene 1 precio publicado por token. You.com también ofrece límites de gasto por clave de API y vistas de uso diario por modelo, costo y proveedor. Las cuentas funcionan en infraestructura compatible con SOC 2, con un DPA a petición.

¿Qué cubre la retención cero de datos?

La política ZDR establece que los prompts y las salidas se procesan en memoria y no se almacenan. Cubre tanto las llamadas al modelo como las solicitudes de búsqueda web. You.com conserva únicamente metadatos operativos, como recuentos de tokens, marcas de tiempo e IDs de cuenta. Los hashes de prompts, el texto desidentificado y las cachés de prompts en disco están explícitamente excluidos.

¿Qué modelos están disponibles y cuánto cuestan?

La página de modelos enumera 12 modelos activos, todos alojados en EE. UU. Los precios son por 1M de tokens (entrada / salida):

  • Kimi K3 (Moonshot AI): $2.85 / $14.25, contexto de 1M
  • Qwen3.8 Max (Alibaba): $1.85 / $5.55, contexto de 1M
  • GLM 5.3 (Z.ai): $1.35 / $4.25, contexto de 1M
  • DeepSeek V4 Pro: $1.65 / $3.65, contexto de 1M
  • DeepSeek V4.1 Flash: $0.30 / $1.20, contexto de 1M
  • Mercury 3 (Inception): $0.10 / $0.35, contexto de 1M
  • GPT-OSS 120B (OpenAI): $0.097 / $0.73, contexto de 125K

Muse Wonder, Muse Spark 1.3, GLM 5.3 Flash, Qwen3.8 Flash y MiniMax M3 completan la lista.

¿Cómo funciona la búsqueda web integrada?

Los desarrolladores declaran una herramienta web_search o web_extract , y el router ejecuta las búsquedas para el modelo. La documentación muestra hasta 20 resultados por búsqueda y un valor predeterminado de 30 rondas de búsqueda. Las respuestas devuelven un objeto web_results con citas.

La búsqueda se ejecuta en el mismo servidor que el modelo. You.com afirma que las pruebas internas muestran una latencia hasta un 15% menor.

Send request</button> <button class="btn" id="ydcSearch">+ Con web_search</button> <button class="btn" id="ydcFail"> Simular interrupción</button> <span class="status" id="ydcStat">inactivo</span> </div> </div> <div class="grid3"> <div class="stat"><b>≥99.9%</b><span>SLA de disponibilidad con créditos de servicio</span></div> <div class="stat"><b>0%</b><span>Comisión de plataforma (OpenRouter: 5.5%)</span></div> <div class="stat"><b>Hasta 15%</b><span>Menor latencia, búsqueda del lado del servidor (prueba interna)</span></div> </div> <p class="note">Socios de failover nombrados en la publicación de lanzamiento: Parasail, Wafer, Alibaba Cloud, Meta, Inception; Prime Intellect próximamente. El failover nunca cambia el precio.</p> </div> <!-- 1: models --> <div class="pn" data-p="1"> <div class="seg" id="ydcSeg"><button class="on" data-m="in">Entrada $/1M</button><button data-m="out">Salida $/1M</button></div> <div class="rows" id="ydcModels"></div> <p class="note">Precios por 1M de tokens de you.com/product/inference-router/models, verificados el 22 de octubre de 2026. Todos los modelos alojados en EE. UU. con ZDR.</p> </div> <!-- 2: benchmarks --> <div class="pn" data-p="2"> <div class="seg" id="ydcBseg"><button class="on" data-m="acc">Precisión</button><button data-m="cost">Costo por pregunta</button></div> <div class="rows" id="ydcBench"></div> <p class="note">LiveNewsBench, 1,329 preguntas, precios de lista. Las barras de precisión comienzan en 80%. Ejecución propia de You.com de octubre de 2026 usando la evaluación de búsqueda de código abierto de Braintrust (autoinformada). Púrpura = modelo de pesos abiertos + búsqueda de You.com; gris = modelo cerrado con búsqueda integrada.</p> </div> <!-- 3: compare --> <div class="pn" data-p="3"> <div class="tw"><table> <thead><tr><th></th><th>You.com</th><th>OpenRouter</th><th>Together AI</th><th>Fireworks AI</th></tr></thead> <tbody> <tr class="hl"><td>SLA de disponibilidad</td><td>≥99.9%, pago por uso</td><td>No divulgado</td><td>Mejor esfuerzo; 99% con compromiso de PTU</td><td>No divulgado</td></tr> <tr class="hl"><td>ZDR</td><td>Por defecto, modelos + búsqueda</td><td>Sin registro de prompts por defecto</td><td>Desactivado por defecto</td><td>Activado por defecto (modelos abiertos)</td></tr> <tr class="hl"><td>Comisión de plataforma</td><td>0%</td><td>5.5%</td><td>Ninguna indicada</td><td>Ninguna indicada</td></tr> <tr class="hl"><td>Kimi K3 entrada/salida</td><td>$2.85 / $14.25</td><td>Varía según el proveedor</td><td>$3.00 / $15.00</td><td>$3.00 / $15.00 (solo EE. UU. $4.50 / $22.50)</td></tr> <tr class="hl"><td>Alojamiento en EE. UU.</td><td>100% incl. failover</td><td>Varía</td><td>No divulgado</td><td>Nivel EE. UU. con prima</td></tr> </tbody> </table></div> <p class="note">Fuentes: openrouter.ai/docs/faq, together.ai/pricing, docs.together.ai, docs.fireworks.ai/serverless/pricing. Verificado el 22 de octubre de 2026.</p> </div> <!-- 4: quickstart --> <div class="pn" data-p="4"> <div class="steps"><button class="btn" data-s="0">1 · Instalar</button><button class="btn" data-s="1">2 · Cambiar la URL base</button><button class="btn" data-s="2">3 · Añadir búsqueda</button></div> <pre><code id="ydcCode"></code></pre> <p class="stepTxt" id="ydcStep"></p> </div> <div class="ft"><span>Fuentes: publicación de lanzamiento de you.com, página de modelos, documentación · Cifras autoinformadas donde se indica</span><a href="https://www.marktechpost.com" target="_blank" rel="noopener">© Marktechpost</a></div> </div> <script> (function(){ var R=document.getElementById('ydc-ir'); function post(){try{parent.postMessage({ydcH:R.offsetHeight+40},'*')}catch(e){}} R.querySelectorAll('.tab').forEach(function(t){t.onclick=function(){ R.querySelectorAll('.tab').forEach(function(x){x.classList.remove('on')});t.classList.add('on'); R.querySelectorAll('.pn').forEach(function(p){p.classList.toggle('on',p.dataset.p==t.dataset.t)}); if(t.dataset.t=='0')layout(); if(t.dataset.t=='1')drawM(); if(t.dataset.t=='2')drawB(); if(t.dataset.t=='4')step(0); setTimeout(post,60);}}); /* routing */ var F=document.getElementById('ydcFlow'),W=document.getElementById('ydcWires'),ST=document.getElementById('ydcStat'); var N={app:'n-app',r:'n-r',s:'n-s',d:'n-d',p:'n-p'},down=false,busy=false; function el(k){return document.getElementById(N[k])} function layout(){var w=F.clientWidth,h=F.clientHeight,m=w<520; var pos=m?{app:[.5,.07],r:[.5,.38],s:[.5,.66],d:[.22,.93],p:[.78,.93]}:{app:[.1,.5],r:[.42,.5],s:[.42,.12],d:[.82,.25],p:[.82,.78]}; for(var k in pos){var e=el(k);e.style.left=(pos[k][0]*w-e.offsetWidth/2)+'px';e.style.top=(pos[k][1]*h-e.offsetHeight/2)+'px'} wires();} function c(k){var e=el(k);return[e.offsetLeft+e.offsetWidth/2,e.offsetTop+e.offsetHeight/2]} function wires(){W.querySelectorAll('path').forEach(function(p){p.remove()}); [['app','r'],['r','s'],['r','d'],['r','p']].forEach(function(pr){var a=c(pr[0]),b=c(pr[1]),p=document.createElementNS('http://www.w3.org/2000/svg','path'); p.setAttribute('d','M'+a[0]+' '+a[1]+' L'+b[0]+' '+b[1]);p.setAttribute('class','w');p.id='w-'+pr[0]+pr[1];W.appendChild(p)})} function clear(){R.querySelectorAll('.node').forEach(function(n){n.classList.remove('hot','fo')});W. querySelectorAll('.w').forEach(function(w){w.classList.remove('act')})} function hot(k,cls){el(k).classList.add(cls||'hot')} function wire(id){var w=document.getElementById('w-'+id);if(w)w.classList.add('act')} function run(search){if(busy)return;busy=true;clear();var t=0,seq=[]; seq.push(function(){hot('app');wire('appr');ST.textContent='request → router'}); seq.push(function(){hot('r')}); if(search)seq.push(function(){wire('rs');hot('s');ST.textContent='web_search runs server-side'}); if(!down)seq.push(function(){wire('rd');hot('d');ST.textContent='served by Inference Direct · ZDR'}); else{seq.push(function(){ST.textContent='Inference Direct unavailable…'}); seq.push(function(){wire('rp');hot('p','fo');ST.textContent='auto-failover to US partner · same price'})} seq.push(function(){busy=false}); seq.forEach(function(f){setTimeout(f,t);t+=650})} document.getElementById('ydcSend').onclick=function(){run(false)}; document.getElementById('ydcSearch').onclick=function(){run(true)}; document.getElementById('ydcFail').onclick=function(){down=!down;el('d').classList.toggle('down',down);this.textContent=down?'✓ Restaurar capacidad':' Simular caída';ST.textContent=down?'Inference Direct: caída':'Inference Direct: operativo'}; window.addEventListener('resize',function(){layout();post()}); /* modelos */ var M=[['Kimi K3','Moonshot AI · 1M',2.85,14.25],['Muse Wonder','Meta · 1M',4.00,20.00],['Qwen3.8 Max','Alibaba · 1M',1.85,5.55],['DeepSeek V4 Pro','DeepSeek · 1M',1.65,3.65],['GLM 5.3','Z.ai · 1M',1.35,4.25],['Muse Spark 1.3','Meta · 1M',1.25,4.25],['DeepSeek V4.1 Flash','DeepSeek · 1M',0.30,1.20],['MiniMax M3','MiniMax · 512K',0.29,1.16],['GLM 5.3 Flash','Z.ai · 1M',0.14,0.48],['Qwen3.8 Flash','Alibaba · 1M',0.14,0.43],['Mercury 3','Inception · 1M',0.10,0.35],['GPT-OSS 120B','OpenAI · 125K',0.097,0.73]]; var mode='in',MB=document.getElementById('ydcModels'); function drawM(){var i=mode=='in'?2:3,mx=Math.max.apply(null,M.map(function(r){return r[i]})); var s=M.slice(). sort(function(a,b){return b[i]-a[i]}); MB.innerHTML=s.map(function(r){return '<div class="row"><div class="nm">'+r[0]+'<small>'+r[1]+'</small></div><div class="bar"><i data-w="'+(r[i]/mx*100)+'"></i></div><div class="val">$'+r[i].toFixed(r[i]<0.1?3:2)+'</div></div>'}).join(''); requestAnimationFrame(function(){MB.querySelectorAll('i').forEach(function(x){x.style.width=x.dataset.w+'%'})});post()} R.querySelectorAll('#ydcSeg button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#ydcSeg button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');mode=b.dataset.m;drawM()}}); /* benchmark */ var B=[['GPT-6.1 Sol','built-in search',86.53,0.0591,0],['GLM-5.3','+ You.com search',86.53,0.0485,1],['Claude Sonnet 5.5','built-in search',86.38,0.0920,0],['DeepSeek V4.1 Flash','+ You.com search',84.12,0.0215,1]]; var bm='acc',BB=document.getElementById('ydcBench'); function drawB(){BB.innerHTML=B.map(function(r){var v=bm=='acc'?r[2]:r[3],w=bm=='acc'?(r[2]-80)/(90-80)*100:r[3]/0.0920*100; return '<div class="row"><div class="nm">'+r[0]+'<small>'+r[1]+'</small></div><div class="bar"><i class="'+(r[4]?'':'alt')+'" data-w="'+w+'"></i></div><div class="val">'+(bm=='acc'?v.toFixed(2)+'%':'$'+v.toFixed(4))+'</div></div>'}).join(''); requestAnimationFrame(function(){BB.querySelectorAll('i').forEach(function(x){x.style.width=x.dataset.w+'%'})});post()} R.querySelectorAll('#ydcBseg button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#ydcBseg button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');bm=b.dataset.m;drawB()}}); /* inicio rápido */ var CODE=[ '<span class="c"># Usa el SDK estándar de OpenAI</span>\npip install openai', '<span class="k">from</span> openai <span class="k">import</span> OpenAI\n\nclient = OpenAI(\n<span class="hlline"> base_url=<span class="s">"https://api.you.com/v1"</span>, <span class="c"># la única línea que cambias</span></span>\n api_key=<span class="s">"YDC_API_KEY"</span>,\n)\n\nresp = client.chat.completions.create(\n model=<span class="s">"kimi-k3"</span>,\n messages=[{<span class="s">"role"</span>: <span class="s">"user"</span>, <span class="s">"content"</span>: <span class="s">"Hello"</span>}],\n)', 'resp = client.chat.completions.create(\n model=<span class="s">"kimi-k3"</span>,\n messages=[{<span class="s">"role"</span>: <span class="s">"user"</span>,\n <span class="s">"content"</span>: <span class="s">"What changed in the latest Python release?"</span>}],\n<span class="hlline"> tools=[{<span class="s">"type"</span>: <span class="s">"web_search"</span>, <span class="s">"freshness"</span>: <span class="s">"month"</span>, <span class="s">"count"</span>: 5}],</span>\n)\n<span class="c"># la respuesta + las citas regresan en resp.web_results</span>']; var TXT=['Inference Router habla los formatos de API de OpenAI y Anthropic, por lo que los SDK existentes funcionan.','Cambia la URL base y la clave. Tu código existente compatible con OpenAI ahora se ejecuta en Inference Router.','Declara una herramienta web_search y el router ejecuta las búsquedas del lado del servidor, devolviendo las fuentes en web_results.']; function step(i){document.getElementById('ydcCode').innerHTML=CODE[i];document.getElementById('ydcStep').textContent=TXT[i]; R.querySelectorAll('.steps .btn').forEach(function(b){b.style.borderColor=b.dataset.s==i?'#7b6cff':''});post()} R.querySelectorAll('.steps .btn').forEach(function(b){b.onclick=function(){step(+b.dataset.s)}}); layout();setTimeout(function(){layout();post()},300);window.addEventListener('load',post);post(); })(); </script> </body></html> ">

¿Qué muestran los benchmarks?

You.com informa de una ejecución de LiveNewsBench con 1,329 preguntas, utilizando la eval de búsqueda de código abierto de Braintrust. Estos números son autoinformados:

ConfiguraciónPrecisiónCosto medio por pregunta
GPT-6.1 Sol, búsqueda integrada86.53%$0.0591
GLM-5.3 + búsqueda de You.com86.53%$0.0485
Claude Sonnet 5.5, búsqueda integrada86.38%$0.0920
DeepSeek V4.1 Flash + búsqueda de You.com84.12%$0.0215

DeepSeek V4.1 Flash cuesta alrededor de un 77% menos por pregunta que Claude Sonnet 5.5. Queda 2.26 puntos por detrás.

El propio estudio de agosto de Braintrust utilizó modelos más antiguos. Allí, DeepSeek V4 Flash con la búsqueda de You.com alcanzó un 80.66% a $0.0163 por pregunta. Claude Sonnet 5 con búsqueda integrada obtuvo un 78.78% a $0.1148.

You.com también cita un trabajo conjunto con NVIDIA y CoreWeave. El post-entrenamiento de Nemotron 3.5 Lightning con la búsqueda de You.com en el bucle elevó BrowseComp del 36.97% al 45.45%. Las llamadas a herramientas cayeron un 30%.

¿Cómo se compara con OpenRouter, Together AI y Fireworks AI?

MétricasYou.com Inference RouterOpenRouterTogether AI (serverless)Fireworks AI (serverless)
ModeloCapacidad propia primero, conmutación por error a sociosAgregador entre proveedores externosNube de inferencia propiaNube de inferencia propia
SLA de disponibilidadAl menos 99.9%, con créditos, en pago por usoNo divulgado; alternativa automáticaMejor esfuerzo; SLA de 99% de solicitudes solo con rendimiento aprovisionado (mínimo de 1 mes)No divulgado
Cero retención de datosPredeterminado, modelos y búsqueda webSin registro de prompts por defecto; las políticas del proveedor varíanDesactivado por defecto; el administrador lo activaActivado por defecto para modelos abiertos
Alojamiento en EE. UU.100%, incluido el failoverVaría según el proveedorNo divulgado para serverlessNivel solo en EE. UU. con prima
Tarifa de plataforma0%5.5% en compras de créditos (mínimo $0.80)Ninguno listadoNinguno listado
Kimi K3 (entrada / salida por 1M)$2.85 / $14.25$0.238 / $16 hasta $4.50 / $22.50, según el proveedor$3.00 / $15.00$3.00 / $15.00; solo EE. UU. $4.50 / $22.50
DeepSeek V4.1 Flash (entrada / salida por 1M)$0.30 / $1.20No verificado$0.30 / $1.20$0.30 / $1.20; solo EE. UU. $0.45 / $1.80
Búsqueda web del lado del servidorSí, mismo servidor que el modeloHerramienta de servidor, búsqueda de tercerosNo divulgadoProveedores de búsqueda de terceros

La mayor ventaja de precio es frente al nivel solo de EE. UU. de Fireworks. Allí, You.com es aproximadamente 37% más barato en la entrada de Kimi K3.

Conclusiones clave

  • 12 modelos de pesos abiertos detrás de 1 URL base compatible con OpenAI.
  • Al menos 99.9% de SLA de tiempo de actividad en pago por uso, con créditos.
  • ZDR cubre tanto las llamadas al modelo como la búsqueda web.
  • 0% de tarifa de plataforma frente al 5.5% de OpenRouter.
  • Los precios de tokens están cerca del mercado; el valor está en las garantías.


Echa un vistazo a la publicación de lanzamiento, explora la lista de modelos y consulta la documentación para desarrolladores. Todo el mérito es del investigador de este proyecto. Además, no dudes en seguirnos en Twitter y no olvides unirte a nuestro 150k+ML SubReddit y suscribirte a nuestro boletín. ¡Espera! ¿estás en telegram? ahora también puedes unirte a nosotros en telegram.

¿Necesitas asociarte con nosotros para promocionar tu repositorio de GitHub, tu página de Hugging Face, el lanzamiento de un producto, un webinar, etc.? Conéctate con nosotros

La publicación You.com Lanza Inference Router: 12 Modelos Open-Weight Con un SLA de Disponibilidad del 99.9% apareció primero en MarkTechPost.

Fuente original

MarkTechPost

Notas sobre el contenido

La publicación original y los derechos pertenecen a la fuente.

Traducción automática · Consulte el original