Nous Research ha lanzado Arete-27B, un fine-tune supervisado del Qwen3.8-27Bde Alibaba. Arete-27B es un modelo de pesos abiertos de 27B que elimina el encuadre estatal chino de las respuestas de Qwen. En la propia evaluación de Nous con 803 prompts, las respuestas que contenían propaganda cayeron del 22% al 0.9%. Los desarrolladores obtienen habilidades agénticas de nivel Qwen sin respuestas alineadas con el Estado. Los pesos, la evaluación y los datos de entrenamiento son todos públicos.
TL;DR
- Tamaño: 27B parámetros densos (todos activos). Entrenado con contexto de 64k. El Qwen3.8-27B base admite 262,144 tokens de forma nativa.
- Funciona en: Los pesos BF16 ocupan 53.81 GB. Una cuantización comunitaria Q4_K_M ocupa 17.20 GB, dimensionada para GPUs de consumo de 24 GB.
- Rendimiento: Capacidad sin cambios en los benchmarks que Nous ejecutó; el encuadre político ahora coincide con los modelos occidentales.
- Lo mejor: Tasa de propaganda de 0.9%, frente al 22% del Qwen3.8-27B base.
- Lo peor: Puntuación de hechos de 2.98 sobre 5; 216 de las 803 respuestas siguen puntuando 0.
¿Qué es Arete-27B?
Arete-27B es Qwen3.8-27B después de solo ajuste fino supervisado. Nous no usó RL, ni optimización de preferencias, ni cambios de arquitectura. La licencia es Apache 2.0, igual que la del modelo base.
El equipo de Nous afirma que observó rechazos, evasivas y respuestas con encuadre del PCC en temas sensibles en el modelo base. Elegió Qwen3.8-27B porque era el modelo local más capaz y mostraba el comportamiento objetivo.
¿Cómo se entrenó Arete-27B?
El profesor fue Inkling, un modelo abierto de Thinking Machines. Nous eligió un profesor abierto para evitar restricciones de términos de uso en la destilación. Rechazó Nemotron 3 Ultra tras encontrar un historial dudoso en temas de China.
El entrenamiento cubrió unos 52.8 millones de tokens con contexto de 64k, sin empaquetado de secuencias. La ejecución tomó 2 epochs y 1,202 pasos con tamaño de lote 48. Usó AdamW, una tasa de aprendizaje pico de 1e-5 y paralelismo de tensores 4.
Todos los pesos del modelo de lenguaje fueron entrenados. El codificador de visión permaneció congelado, ya que los datos son solo de texto. La cabeza de predicción multi-token fue desactivada.
El conjunto arete-data-pairs liberado contiene 34,878 prompts en 7 temas. Cada prompt tiene tanto una respuesta en Inkling como una respuesta de Qwen. Las 29,236 respuestas aceptadas del profesor forman la división SFT.
¿Cómo funciona el eval de propaganda?
El conjunto Propaganda_Eval tiene 803 prompts en 7 categorías de valores. Estas incluyen libertad de expresión, ideología estatal, privacidad de datos y democracia. Cada prompt lleva de 2 a 4 hechos requeridos de una fuente citada.
Un juez Grok 4.7 califica dos cosas por separado:
- Media de hechos (0 a 5): cuántos hechos requeridos enuncia la respuesta. Un hecho opuesto puntúa 0.
- Cualquier propaganda: proporción de respuestas que adoptan la versión del Estado como propia.
El juez debe citar la frase exacta para señalar propaganda. Nous eliminó cada prompt de entrenamiento que se superponía con el eval. El eval tiene licencia MIT e incluye scripts de calificación.
¿Qué muestran los benchmarks?
En la página de model card, Arete-27B elevó la media de hechos de 2.32 a 2.98. La propaganda cayó de 22% a 0.9%. Las respuestas con puntuación 0 bajaron de 359 a 216 de 803.
El mayor cambio se produjo en libertad de expresión. La puntuación de hechos subió de 0.89 a 2.44, y la propaganda cayó de 60% a 1%.
La capacidad se mantuvo en las pruebas de Nous. Hermes Bench pasó de 65.77% a 65.60%, lo que Nous llama ruido. Terminal-Bench-2.1 subió de 67% a 70% en el harness de Nous. Nous no se atribuye el mérito de esa ganancia.
¿Cómo se compara Arete-27B?
| Métricas | Arete-27B | Qwen3.8-27B | Muse Glimmer 30B | Gemma 4 31B |
|---|---|---|---|---|
| Desarrollador | Nous Research | Alibaba Qwen | Meta | Google DeepMind |
| Parámetros | 27B densos | 27B LM, denso | 29.6B incl. visión, denso | 30.7B, denso |
| Contexto | No divulgado (entrenado a 64k) | 262,144 nativo, hasta 1M | 131,072+ | 256K |
| Licencia | Apache 2.0 | Apache 2.0 | Apache 2.0 | Apache 2.0 |
| Entrada | Texto, imagen (codificador congelado) | Texto, imagen, video | Texto, imagen | Texto, imagen |
| Huella en 4 bits | 17.20 GB Q4_K_M (comunidad) | No divulgado | Menos de 20 GB, objetivo de 24 GB de VRAM | No divulgado |
| Media de hechos, evaluación de Nous | 2.98 | 2.32 | 3.02 | 2.58 |
| Cualquier propaganda, Nous eval | 0.9% | 22% | 0.5% | 0.5% |
| Terminal-Bench 2.1 | 70% (harness de Nous) | 67% harness de Nous; 73.0 oficial | 51.7 (Meta, terminus2) | No divulgado por Google |
| GPQA Diamond | No divulgado | 89.2 | 83.5 | 84.3 |
Nota: Arete y Qwen se ejecutaron a temperatura 0 en el eval de Nous. Muse Glimmer y Gemma se ejecutaron a 0.6. Las cifras de Terminal-Bench provienen de diferentes harnesses.
¿Cómo pueden los desarrolladores ejecutarlo?
Los pesos se distribuyen en BF16 en Hugging Face. Aún ningún proveedor de inferencia alojada ofrece el modelo. Las cuantizaciones GGUF de la comunidad se ejecutan en llama.cpp, LM Studio y Ollama, desde 8.64 GB hasta 53.81 GB. La compilación GGUF también incluye el proyector de imágenes.
Conclusiones clave
- Arete-27B reduce las respuestas propagandísticas de Qwen3.8-27B del 22% al 0.9%.
- La corrección requirió solo 52.8M de tokens de SFT sencillo, sin RL.
- Hermes Bench se mantuvo en 65.60% frente al 65.77% de la base.
- La memoria de hechos subió a 2.98 de 5 pero todavía queda por detrás de sus pares.
- Los pesos, los datos de evaluación y de entrenamiento están abiertos bajo Apache 2.0 y MIT.
Echa un vistazo al pesos del modelo, blog técnico, conjunto de evaluación y datos de entrenamiento. Además, no dudes en seguirnos en Twitter y no olvides unirte a nuestro SubReddit de ML de más de 150k y Suscríbete a nuestro Boletín. ¡Espera! ¿estás en telegram? ahora también puedes unirte a nosotros en telegram.
¿Necesitas asociarte con nosotros para promocionar tu Repositorio de GitHub O Página de Hugging Face O Lanzamiento de Producto O Webinar, etc.? Conéctate con nosotros
La entrada Nous Research Lanza Arete-27B que Reduce la Propaganda de Qwen3.8-27B del 22% al 0.9% apareció primero en MarkTechPost.