Ese mismo día, DeepSeek anunció oficialmente que, tras haber lanzado sucesivamente una serie de grandes modelos, la herramienta de compilación TileLang y una biblioteca de operadores de inferencia, dará un paso más al liberar íntegramente su framework interno de inferencia, DeepInfer. Lo que esta empresa quiere completar es un eslabón que ha permanecido mucho tiempo fuera de los focos: el framework de inferencia.
Según la definición de DeepSeek, el límite de capacidad de un modelo lo determina el propio modelo, pero "cómo suministrar a un costo razonable modelos de escala masiva" depende de esta capa de arquitectura intermedia. El entrenamiento hace que el modelo aprenda; es la inferencia la que lo pone al servicio de las personas. Cuando una cantidad masiva de usuarios hace llamadas simultáneamente, el framework de inferencia se encarga de coordinar y planificar complejos clústeres de potencia de cómputo, y su eficiencia afecta directamente el gasto en cómputo y el consumo eléctrico de los servicios de IA: no atrae tanto la atención como los pesos del modelo, pero es la compuerta clave para llevar la capacidad del laboratorio a la realidad.
El código abierto no solo entrega código: también debe abaratar el precio de usar la IA
La intención de DeepSeek es clara: compartir su experiencia interna de despliegue para ayudar a desarrolladores y organizaciones empresariales a optimizar el rendimiento y la latencia de la inferencia a gran escala, y así construir de manera más eficiente despliegues privados o en la nube pública, reduciendo el costo de cómputo y el consumo eléctrico. En una frase: hacer que la inteligencia llegue a más personas a un precio más bajo y hacer realidad la "verdadera democratización de los grandes modelos".
Este framework no se queda en palabras. Basándose en DeepInfer, DeepSeek ya ha puesto en marcha oficialmente un servicio de inferencia a gran escala de alto rendimiento y baja latencia para DeepSeek V4.1 Flash; en el futuro, el código de inferencia de los nuevos modelos y las optimizaciones posteriores también se actualizarán continuamente aquí. Según la lista de capacidades publicada, DeepInfer integra operadores de alto rendimiento y un motor de inferencia profundamente optimizado, admite características como inferencia distribuida, decodificación especulativa, SWA Bounded Replay y salida estructurada, y es compatible simultáneamente con las dos grandes plataformas: Nvidia y Huawei Ascend. En el contexto actual, en el que el control de exportaciones impulsa la sustitución por tecnología nacional, esta adaptación "doble pila" resulta especialmente útil para los desarrolladores chinos.
Junto con el framework también se libera deepseek-recipe, un componente de producción de codificación y decodificación de tokens cuya lógica de procesamiento está completamente alineada con la API oficial de DeepSeek, garantizando que la experiencia de la comunidad sea idéntica al despliegue oficial. Los dos códigos ya están alojados respectivamente en GitHub, en deepseek-ai/DeepInfer y deepseek-ai/deepseek-recipe.
De los modelos a la biblioteca de operadores y ahora al framework de inferencia, DeepSeek está trasladando todo su oficio de "construir modelos" a la comunidad de código abierto. Cuando el costo del cómputo se ha convertido en el mayor obstáculo para la difusión de la IA, entregar el núcleo de eficiencia quizás mueva el ecosistema más que simplemente publicar unos pesos, porque quien ayude a la industria a extraer mayor producción de cada kilovatio-hora y de cada tarjeta, será quien posea la verdadera baza en la narrativa de la democratización.