La herramienta de código abierto para ejecutar grandes modelos de IA en local, Strata, presenta una importante actualización con su versión beta 0.2.0. Como una potente herramienta de código abierto dedicada a permitir que los ordenadores domésticos comunes ejecuten con fluidez grandes modelos de lenguaje como Qwen3.8-Flash-Next y Qwen3.6-35B-A3B, Strata no solo lanza en esta actualización una nueva interfaz gráfica independiente, sino que además reduce considerablemente el umbral de hardware para el despliegue local.
En cuanto a los requisitos de configuración de hardware, la nueva versión optimiza profundamente el uso combinado de la memoria RAM y la memoria de vídeo (RAM + VRAM). Con un total mínimo de solo 27.6 GB entre RAM y VRAM ya se pueden ejecutar con fluidez grandes modelos en local. Esto significa que si el usuario dispone de una tarjeta gráfica con 12 GB de VRAM, combinada con 20 GB de memoria del sistema, ya cumple los requisitos mínimos de despliegue. En los niveles de recomendación concretos de modelos, el nivel recomendado IQ2_XS, que antes requería una configuración de 48 GB, baja a 40 GB, mientras que el nivel de alta calidad recomendado IQ3_XXS, que antes requería 64 GB, baja considerablemente a 48 GB, con una reducción general de los requisitos de hardware de entre 8 GB y 16 GB.
Además de la reducción del umbral de hardware, Strata 0.2.0 también logra una aceleración de hardware integral en el rendimiento de inferencia. Entre ellas:
Bando NVIDIA: las tarjetas gráficas de la serie RTX 30 mejoran la velocidad de generación de texto hasta en un 13 % aproximadamente (en pruebas reales, la RTX 3060 mejora un 10.2 % y la RTX A4000 un 13 %);
Bando AMD: las tarjetas gráficas de la serie RX 9000 casi duplican la velocidad de procesamiento de prompts en algunos modelos;
Bando Intel: la tarjeta gráfica Arc A750 también logra una mejora destacada de aproximadamente el 42 % en la velocidad de procesamiento de prompts.
En cuanto a la experiencia de interacción y la expansión del ecosistema, Strata 0.2.0 se libera de la complejidad de las anteriores implementaciones dependientes de la compilación por línea de comandos, ofrece soporte completo para las plataformas Windows, macOS y Linux, y añade una interfaz gráfica nativa en chino junto con una guía de instalación inteligente. Aún más destacable es que la nueva interfaz gráfica integra de forma profunda un Agente de programación con IA, con soporte para lectura y modificación de archivos, búsquedas en línea y ejecución automatizada de tareas; al mismo tiempo, activa por defecto la función de comprensión de imágenes para tarjetas gráficas NVIDIA y AMD, y optimiza el mecanismo de descarga de modelos con descargas simultáneas multiproceso y reanudación desde el punto de interrupción.