La competencia entre los grandes modelos nacionales se extiende desde la capa de modelos hacia la capa de cómputo: por más potente que sea un modelo, en última instancia debe ejecutarse en el chip mediante operadores. Con el mismo modelo y el mismo chip, cambiar a un conjunto de operadores superiores a veces genera mejoras de rendimiento de varios múltiplos. La eficiencia de los operadores determina qué tan rápido puede funcionar la misma GPU, y también determina el precio de cada token.
DeepSeek recientemente abrió por completo su framework de inferencia DeepInfer. Tras los pesos del modelo y las bibliotecas de operadores como FlashMLA y DeepGEMM, han abierto la cadena de ejecución del modelo. Entre ellos, FlashMLA cuenta con una versión ajustada línea por línea a mano por ingenieros en el chip, con un rendimiento de operadores que alcanzó más del 90% del límite del hardware, que es el máximo logro que la artesanía humana ha alcanzado hasta ahora en algunos chips.
Y ese límite fue superado por la IA esa misma semana. Se informa que, al 22 de octubre, ForgeKernel, cuyos operadores fueron escritos completamente por IA y sin ajuste manual línea por línea, encabezó simultáneamente dos rankings de evaluación de operadores: el primer lugar en la colección SOL-ExecBench FlashInfer-Bench, terreno local de NVIDIA, y el primer lugar en el ranking de hardware CANNBench A3 mantenido por el repositorio oficial de CANN de Ascend, con una aceleración de referencia de 1.835×, superando al segundo puesto por un 25%. Más allá de las posiciones, la capacidad de la IA para optimizar operadores de forma autónoma no debe subestimarse: en los operadores de DeepSeek v4.1 Flash, ForgeKernel también logró superar el rendimiento de la versión de NVIDIA publicada por DeepSeek mediante una iteración con IA desde 0.
Este es el relevo de la evolución de la inteligencia. Tanto el espíritu open source de DeepSeek como la feroz competencia en los rankings de optimización de operadores apuntan finalmente a la misma dirección: hacer que la inteligencia nacional funcione más rápido en cada chip.
NVIDIA SOL-ExecBench FlashInfer-Bench
Ascend CANNBench A3 ranking de hardware