La concurrence entre grands modèles nationaux s'étend désormais de la couche des modèles à celle de la puissance de calcul : aussi puissant soit un modèle, il finit toujours par s'exécuter sur une puce via des opérateurs. Pour un même modèle et une même puce, remplacer un jeu d'opérateurs par un jeu supérieur peut parfois apporter un gain de performance de plusieurs fois. L'efficacité des opérateurs détermine la vitesse à laquelle une même carte graphique peut fonctionner, et donc le prix de chaque token.
DeepSeek a récemment rendu son framework d'inférence DeepInfer entièrement open source. Après les poids des modèles et les bibliothèques d'opérateurs comme FlashMLA et DeepGEMM, ils ont ouvert la chaîne d'exécution des modèles. Parmi eux, FlashMLA, dans une version ajustée à la main ligne par ligne par des ingénieurs directement sur la puce, atteint une performance supérieure à 90 % de la limite matérielle — c'est le record que le savoir-faire humain a actuellement atteint sur certaines puces.
Et cette limite a été battue par l'IA la même semaine. Selon les informations, au 22 octobre, ForgeKernel, entièrement écrit par l'IA sans optimisation manuelle ligne par ligne, a simultanément atteint la première place de deux classements d'évaluation d'opérateurs : premier de la collection SOL-ExecBench FlashInfer-Bench, terrain privilégié de NVIDIA, et premier du classement matériel CANNBench A3 maintenu par le dépôt officiel Ascend CANN, avec un ratio d'accélération de référence de 1.835×, devançant le second de 25 %. Au-delà des classements, la capacité de l'IA à optimiser elle-même les opérateurs ne doit pas être sous-estimée : sur les opérateurs de DeepSeek v4.1 Flash, ForgeKernel a également surpassé en performance la version NVIDIA open source de DeepSeek, grâce à une itération par IA à partir de 0.
C'est le relais de l'évolution de l'intelligence. Qu'il s'agisse de l'esprit open source de DeepSeek ou de la concurrence acharnée des classements d'optimisation d'opérateurs, tout converge vers la même direction : permettre à l'intelligence nationale de fonctionner plus vite sur chaque puce.
NVIDIA SOL-ExecBench FlashInfer-Bench
Classement matériel Ascend CANNBench A3