Hugging Face ha lanzado Carbon-X, un modelo de lenguaje de ADN abierto con 14.8B de parámetros. Carbon-X es un modelo decoder-only de Hugging Face Bio. Lee ADN sin procesar en un chat y responde en inglés. Predice si las mutaciones son benignas o patógenas, señala regiones regulatorias, clasifica organismos y predice las siguientes bases. Los pesos se publican bajo Apache 2.0, por lo que los laboratorios pueden mantener sus secuencias sensibles en sus propias GPU. Hugging Face lo construyó junto con Zhongguancun Academy y TIGEM / University of Naples Federico II.
TL;DR
- Tamaño: 14.8B de parámetros (denso, sin MoE), contexto de 40,960 tokens.
- Funciona en: 1 x GPU de 80 GB en bfloat16 mediante vLLM o Transformers. GGUF oficial: Q8_0 pesa 15.8 GB, Q4_K_M pesa 9.6 GB.
- Rendimiento: 66.7% de promedio en 5 benchmarks de ADN, el mejor de todos los modelos abiertos probados (autoinformado).
- Mejor resultado: 74.9% en BioReason Coding, por delante de todos los modelos probados, abiertos o cerrados.
- Peor resultado: 29.8% en las preguntas de sitios de empalme de GenomeQA.
¿Qué es Carbon-X y cómo funciona?
Carbon-X parte de Qwen3-14B. El ADN y el texto comparten 1 flujo de tokens en 1 decoder. No hay un codificador de ADN separado, a diferencia de trabajos anteriores como BioReason.
La pieza estructural clave es un tokenizador híbrido. Conserva el vocabulario BPE de Qwen3 para el texto y añade 5,515 tokens de ADN. Estos incluyen 4,096 6-meros sin superposición, 1,364 tokens de cola y 3 marcadores. Un token de ADN cubre 6 pares de bases. Las secuencias de ADN de 6 o más bases A/C/G/T se etiquetan automáticamente.
La columna vertebral es una pila estándar de Qwen3. Tiene 40 capas, tamaño oculto 5120 y GQA con 8 cabezas KV.
¿Cómo se entrenó Carbon-X?
El entrenamiento se realizó en cuatro etapas, según la ficha del modelo:
- Calentamiento de embeddings: unos 10B de tokens con el transformer congelado, de modo que solo aprenden los nuevos embeddings de ADN.
- Entrenamiento intermedio: 302B de tokens a una longitud de secuencia de 8,192. La mezcla es 55% de ADN sin procesar, 20% de inglés, 15% de texto de biología y 10% de datos de instrucciones.
- SFT: 3 épocas sobre 20 subconjuntos de datos, con respuestas verificadas por verificadores deterministas construidos con expertos del dominio.
- RL: GRPO asíncrono con recompensas verificables a lo largo de 2 rondas, usando TRL y vLLM.
Según la publicación de lanzamiento, la tasa de aprendizaje fue el ajuste más difícil. Tasas altas aprendían ADN pero olvidaban el inglés. Una tasa más baja, un modelo de 14B y una ejecución larga resolvieron el compromiso. RL aplicado directamente a Qwen3-14B nunca superó la línea base del 50% de azar en FrontierVEP.
¿Cómo rinde Carbon-X en los benchmarks de ADN?
Todas las puntuaciones son autoinformadas por Hugging Face. Carbon-X se ejecutó con el pensamiento desactivado. Los competidores se ejecutaron con su mejor esfuerzo de razonamiento.
| Benchmark | Carbon-X | GPT-6.1 Sol (Max) | Opus 5.5 (Max) | Kimi K3 (Low) |
|---|---|---|---|---|
| BioReason Coding | 74.9 | 71.0 | 70.3 | 53.9 |
| BioReason Non-SNV | 85.1 | 91.7 | 94.8 | 65.3 |
| GenomeQA | 63.6 | 67.2 | 62.2 | 52.0 |
| NextBase | 39.4 | 32.9 | 1.1 | 30.6 |
| FrontierVEP | 70.4 | 74.9 | 76.2 | 50.1 |
| Promedio | 66.7 | 67.5 | 60.9 | 50.4 |
Carbon-X se sitúa 27 puntos por encima de Qwen3-14B y 0.8 puntos por debajo de GPT-6.1 Sol. Lidera en efectos de variantes de codificación y predicción de la siguiente base. Los modelos frontera siguen ganando en variantes complejas y variantes de una sola base.
Las negativas moldean estas cifras. En NextBase, Opus 5.5 cae de 17.7% con esfuerzo bajo a 1.1% con esfuerzo máximo a medida que aumentan las negativas. Gemini 4 Argon baja de 58% a 38% en FrontierVEP a medida que aumenta el esfuerzo.
Carbon-X también conserva habilidades generales: 79.3% de precisión estricta a nivel de prompt en IFEval.
Tokenize</button><button class="btn gh" id="cx-rst">Restablecer</button></div> <p class="note">5,515 tokens de ADN añadidos: 4,096 hexámeros, 1,364 tokens finales y 3 marcadores (<dna>, </dna>, <oov>). Contexto: 40,960 tokens.</p> </div> <div class="pnl" data-i="1"> <p class="lead">Construido a partir de <b>Qwen3-14B</b> en 4 etapas. Haga clic en una etapa.</p> <div class="flow" id="cx-flow"> <div class="st on" data-s="0"><div class="n">01</div><div class="t1">Warmup</div><div class="t2">~10B tokens</div></div> <div class="st" data-s="1"><div class="n">02</div><div class="t1">Mid-training</div><div class="t2">302B tokens</div></div> <div class="st" data-s="2"><div class="n">03</div><div class="t1">SFT</div><div class="t2">3 épocas</div></div> <div class="st" data-s="3"><div class="n">04</div><div class="t1">RL</div><div class="t2">GRPO asíncrono</div></div> </div> <div class="box det" id="cx-det"></div> </div> <div class="pnl" data-i="2"> <p class="lead">Carbon-X con el pensamiento desactivado frente a rivales en su mejor esfuerzo de razonamiento.</p> <div class="bsel" id="cx-bsel"></div> <div id="cx-bars"></div> <p class="note" id="cx-bnote"></p> </div> <div class="pnl" data-i="3"> <p class="lead">Precio basado en el rendimiento medido en una <b>H200 a $5/hora</b>.</p> <div class="grid2"> <div class="box"><div class="big" id="cx-c1">$0</div><div class="cap">Costo estimado para puntuar 2.4M de variantes de ClinVar de significado incierto con Carbon-X.</div></div> <div class="box"><div class="big" style="color:#a7adbb!important">$32K a $4M</div><div class="cap">El mismo trabajo en los modelos frontera que Hugging Face evaluó, según modelo y esfuerzo.</div></div> <div class="box"><div class="big" id="cx-c2">0x</div><div class="cap">Menor costo de inferencia por problema que GPT-6.1 Sol (ficha técnica: alrededor de 1/1,800).</div></div> <div class="box"><div class="big" id="cx-c3">+0.0</div><div class="cap">Puntos ganados por Kimi K3 al consultar a Carbon-X como subagente (49.4% a 60.5%).</div></div> </div> </div> <div class="pnl" data-i="4"> <p class="lead">No validado clínicamente. Toque una tarjeta para ver los detalles.</p> <div class="lim"> <div class="box"><div class="h">Sitios de splicing <em>29.8%</em></div><div class="b">La tarea más débil de GenomeQA. Las marcas de histonas también están bajas, con 34.6%.</div></div> <div class="box"><div class="h">Operaciones exactas <em>!</em></div><div class="b">Puede contar mal las bases o confundir coordenadas en secuencias largas. Use código para contar y editar.</div></div> <div class="box"><div class="h">Alucinación <em>!</em></div><div class="b">Puede inventar la identidad de una secuencia sin contexto. Proporcione gen, cadena y anotaciones.</div></div> <div class="box"><div class="h">Generación larga <em>!</em></div><div class="b">La calidad se degrada en la generación de ADN largo. La ficha técnica indica que no fue entrenado para diseñar secuencias nuevas.</div></div> </div> </div> <div class="ft"><span>Fuentes: ficha técnica del modelo HuggingFaceBio/Carbon-X y blog de lanzamiento</span><span class="mtp">© Marktechpost</span></div> </div> <script> (function(){ var R=document.getElementById('mtp-cx'); function post(){try{parent.postMessage({mtpcx:1,h:R.offsetHeight+40},'*')}catch(e){}} var tabs=R.querySelectorAll('.tab'),pn=R.querySelectorAll('.pnl'); tabs.forEach(function(t){t.onclick=function(){tabs.forEach(function(x){x.classList.remove('on')});pn.forEach(function(x){x.classList.remove('on')});t.classList.add('on');var p=R.querySelector('.pnl[data-i="'+t.dataset.p+'"]');p.classList.add('on');if(t.dataset.p==='2')drawBars(cur);if(t.dataset.p==='3')countUp();setTimeout(post,60)}}); // tokenizador var TOK=[['Describe','t'],['esta','t'],['secuencia','t'],[':','t'],['<dna>','m'],['ACGTAC','d'],['GATTCA','d'],['TATAAA','d'],['</dna>','m']]; var box=document.getElementById('cx-toks'),timer=[]; function build(){box.innerHTML='';TOK.forEach(function(k){var s=document.createElement('span');s.className='tk '+k[1];s.textContent=k[0];box.appendChild(s)})} build(); document.getElementById('cx-tok').onclick=function(){timer.forEach(clearTimeout);build();var el=box.children;for(var i=0;i<el.length;i++)(function(i){timer.push(setTimeout(function(){el[i].classList.add('show')},120*i+40))})(i)}; document.getElementById('cx-rst').onclick=function(){timer.forEach(clearTimeout);build()}; // entrenamiento var ST=[ {h:'Calentamiento de los embeddings',p:'Los nuevos tokens de ADN reciben embeddings aleatorios. Unos 10B tokens entrenan solo esos embeddings, con el cuerpo del transformer congelado.',mix:null}, {h:'Entrenamiento intermedio: 302B tokens',p:'Longitud de secuencia 8,192, LR coseno de 5e-5 a 5e-6. Un LR más bajo, un modelo de 14B y una ejecución larga mantuvieron el inglés mientras se aprendía ADN.',mix:[[55,'#ffb84d','ADN crudo 55%'],[20,'#7cc4ff','Inglés 20%'],[15,'#FF9D00','Texto de biología 15%'],[10,'#FFD21E','Instrucción 10%']]}, {h:'Ajuste fino supervisado',p:'3 épocas sobre 20 subconjuntos del conjunto de datos. El razonamiento sobre efectos de variantes es aproximadamente el 30% de la mezcla. Las respuestas fueron verificadas por verificadores deterministas construidos junto a expertos del dominio.',mix:null}, {h:'Aprendizaje por refuerzo',p:'GRPO asíncrono con recompensas verificadas por código, 2 rondas, 16 muestras por indicación. El RL solo sobre Qwen3-14B nunca superó la línea base del 50% de azar en FrontierVEP.',mix:null}]; var det=document.getElementById('cx-det'),sts=R.querySelectorAll('.st'); function showSt(i){sts.forEach(function(s){s.classList.toggle('on',s.dataset.s==i)});var s=ST[i],h='<div style="font-weight:700;font-size:15px;color:#FFD21E">'+s.h+'</div><div class="cap" style="font-size:13px">'+s.p+'</div>'; if(s.mix){h+='<div class="mix">'+s.mix.map(function(m){return '<i style="background:'+m[1]+'" data-w="'+m[0]+'"></i>'}).join('')+'</div><div class="leg">'+s.mix.map(function(m){return '<span style="--c:'+m[1]+'">'+m[2]+'</span>'}).join('')+'</div>'} det.innerHTML=h;if(s.mix)setTimeout(function(){det.querySelectorAll('.mix i').forEach(function(x){x.style.width=x.dataset.w+'%'})},40);setTimeout(post,60)} sts.forEach(function(s){s.onclick=function(){showSt(+s.dataset.s)}});showSt(0); // puntos de referencia var M=['Carbon-X','GPT-6.1 Sol (Max)','Opus 5.5 (Max)','Gemini 4 Argon (Low)','Kimi K3 (Low)','DeepSeek V4.1 Flash (Low)','GLM-5.3 (Low)']; var B={'Promedio':[66.7,67.5,60.9,49.8,50.4,47.1,39.8],'BioReason Coding':[74.9,71.0,70.3,6.5,53.9,51.4,52.1],'BioReason Non-SNV':[85.1,91.7,94.8,90.3,65.3,55.9,60.1],'GenomeQA':[63.6,67.2,62.2,63.1,52.0,49.7,44.6],'NextBase':[39.4,32.9,1.1,31.2,30.6,27.2,9.7],'FrontierVEP':[70.4,74.9,76.2,58.0,50.1,51.3,32.7]}; var N={'Promedio':'Carbon-X queda 0.8 puntos por detrás de GPT-6.1 Sol y se sitúa 27 puntos por encima de Qwen3-14B.','BioReason Coding':'Efectos de variantes codificantes, 1,018 variantes. Carbon-X supera a todos los modelos probados.','BioReason Non-SNV':'Inserciones, deleciones y otros cambios no SNV, 873 variantes. Opus 5.5 lidera.','GenomeQA':'2,600 preguntas de opción múltiple en 6 tareas. GPT-6.1 Sol lidera.','NextBase':'Predicción de la siguiente base, 600 secuencias. Carbon-X lidera; Opus 5.5 colapsa a medida que aumentan los rechazos.','FrontierVEP':'Variantes de una sola base con contexto de hasta 8,192 bases, 1,000 variantes. Opus 5.5 lidera.'}; var cur='Promedio',bs=document.getElementById('cx-bsel'),bars=document.getElementById('cx-bars'); Object.keys(B).forEach(function(k){var b=document.createElement('button');b.textContent=k;if(k===cur)b.className='on';b.onclick=function(){bs.querySelectorAll('button').forEach(function(x){x.className=''});b.className='on';cur=k;drawBars(k)};bs.appendChild(b)}); function drawBars(k){var v=B[k];bars.innerHTML=M.map(function(m,i){var me=i===0?' me':'';return '<div class="bar"><div class="nm'+me+'" title="'+m+'">'+m+'</div><div class="tr"><div class="fl'+me+'" data-w="'+v[i]+'"></div></div><div class="v">'+v[i].toFixed(1)+'</div></div>'}).join(''); setTimeout(function(){bars.querySelectorAll('.fl').forEach(function(f){f.style.width=f.dataset.w+'%'})},40);document.getElementById('cx-bnote').textContent=N[k];setTimeout(post,60)} drawBars(cur); // costo function anim(el,to,fmt){var t0=null;function f(ts){if(!t0)t0=ts;var p=Math.min(1,(ts-t0)/1000),e=1-Math.pow(1-p,3);el.textContent=fmt(to*e);if(p<1)requestAnimationFrame(f)}requestAnimationFrame(f)} function countUp(){anim(document.getElementById('cx-c1'),300,function(x){return '$'+Math.round(x)});anim(document.getElementById('cx-c2'),1800,function(x){return '~'+Math.round(x).toLocaleString('en-US')+'x'});anim(document.getElementById('cx-c3'),11.1,function(x){return '+'+x.toFixed(1)})} // límites R.querySelectorAll('.lim .box').forEach(function(b){b.onclick=function(){b.classList.toggle('open');setTimeout(post,380)}}); window.addEventListener('load',post);window.addEventListener('resize',post);setTimeout(post,300); })(); </script> </body></html> " style="width:100%;height:600px;border:0;display:block;background:transparent;" loading="lazy">¿Cuánto cuesta ejecutar Carbon-X?
Hugging Face fija el precio de Carbon-X según el rendimiento medido en un H200 a 5 dólares por hora. Sobre esa base, informa de aproximadamente 1/1,800 del coste de inferencia de GPT-6.1 Sol por problema. Puntuar los 2.4 millones de variantes de significado incierto de ClinVar costaría unos 300 dólares. El mismo trabajo cuesta entre 32,000 y 4 millones de dólares en modelos frontera.
Carbon-X también funciona como sub-agente. El índice de ADN de Kimi K3 subió de 49.4% a 60.5% cuando consultó a Carbon-X.
¿Cómo se despliega Carbon-X?
- vLLM:
vllm serve HuggingFaceBio/Carbon-X --trust-remote-codeen 1 x 80 GB de GPU. - Transformers: v5 o posterior, con
trust_remote_code=Truepara el tokenizador de ADN. - llama.cpp: el repositorio oficial Carbon-X-GGUF necesita llama.cpp b11742 o más reciente. Las compilaciones antiguas tokenizan el ADN incorrectamente.
- Agentes: el repositorio incluye una herramienta estilo OpenAI, un agente Inspect y una
carbon-dnahabilidad para agentes de programación.
Mantén enable_thinking=False. El modelo fue post-entrenado y evaluado de esa manera.
¿Cómo se compara Carbon-X con otros modelos de ADN y generales?
| Característica | Carbon-X | Qwen3-14B | GPT-6.1 Sol | Evo 2 40B |
|---|---|---|---|---|
| Desarrollador | Hugging Face + socios | Alibaba Qwen | OpenAI | Arc Institute |
| Parámetros | 14.8B | 14.8B | No revelado | 40B |
| Contexto | 40,960 tokens | 32,768 nativos, 131,072 con YaRN | No revelado | Hasta 1M de longitud de secuencia |
| Entrada | ADN + inglés | Texto | Texto (uso general) | Solo ADN |
| Respuestas en inglés | Sí | Sí | Sí | No |
| Licencia | Apache 2.0 | Apache 2.0 | Propietaria, solo API | Apache 2.0 |
| Promedio de ADN (eval de HF) | 66.7% | ~40.0% | 67.5% (Máx) | No evaluado |
| BioReason Coding | 74.9% | No revelado | 71.0% | No evaluado |
| Precio | Pesos abiertos | Pesos abiertos | $2 / $10 por 1M de tokens de entrada / salida | Pesos abiertos |
Conclusiones clave
- Carbon-X es un modelo abierto de 14.8B que lee ADN y responde en inglés.
- Promedia 66.7% en 5 benchmarks de ADN, 0.8 puntos detrás de GPT-6.1 Sol.
- Supera a todos los modelos probados en BioReason Coding (74.9%) y NextBase (39.4%).
- Funciona en 1 GPU de 80 GB, o en un GGUF Q8_0 de 15.8 GB.
- La precisión en sitios de empalme es del 29.8%, y no está validado clínicamente.
Consulta el model card, blog de lanzamiento, Pesos GGUF y repositorio de GitHub. Además, no dudes en seguirnos en Twitter y no olvides unirte a nuestro 150k+ML SubReddit y suscribirte a nuestro Newsletter. ¡Espera! ¿estás en telegram? ahora también puedes unirte a nosotros en telegram.
¿Necesitas asociarte con nosotros para promocionar tu Repositorio de GitHub O Página de Hugging Face O Lanzamiento de Producto O Webinar, etc.? Conéctate con nosotros
La entrada Hugging Face Lanza Carbon-X, un Modelo de Lenguaje de ADN Abierto de 14B que Une el ADN y el Lenguaje Natural por Primera Vez apareció primero en MarkTechPost.