DeepSeek a annoncé ce jour qu'après avoir successivement livré une série de grands modèles, l'outil de compilation TileLang et une bibliothèque d'opérateurs d'inférence, il allait plus loin en rendant intégralement open source son framework d'inférence interne DeepInfer. Ce que l'entreprise veut combler, c'est un maillon longtemps resté hors des projecteurs : le framework d'inférence.
Selon la définition de DeepSeek, le plafond de capacité d'un modèle est déterminé par le modèle lui-même, mais « comment fournir un modèle à très grande échelle à un coût raisonnable » relève de cette couche d'architecture intermédiaire. L'entraînement permet au modèle d'apprendre, mais c'est l'inférence qui le rend utile. Lorsque des masses d'utilisateurs l'appellent simultanément, le framework d'inférence est chargé d'orchestrer et de coordonner d'imposants clusters de puissance de calcul, et son efficacité influence directement les coûts en calcul et en électricité des services d'IA — il n'attire pas l'attention comme les poids d'un modèle, mais constitue le passage obligé pour transférer les capacités du laboratoire dans la réalité.
L'open source ne se limite pas au code : il faut aussi faire baisser le prix de l'IA
L'intention de DeepSeek est claire : partager son expérience de déploiement interne pour aider les développeurs et les organisations d'entreprise à optimiser le débit et la latence de l'inférence à grande échelle, afin de construire plus efficacement des déploiements privés ou sur cloud public, de réduire les coûts de calcul et la consommation d'électricité. En une phrase : rendre l'intelligence accessible à plus de personnes à moindre coût et concrétiser « la véritable démocratisation des grands modèles ».
Ce framework n'est pas qu'un discours. Sur la base de DeepInfer, DeepSeek a officiellement déjà mis en service un service d'inférence à haut débit et faible latence pour DeepSeek V4.1 Flash ; à l'avenir, le code d'inférence des nouveaux modèles et les optimisations ultérieures continueront d'être mis à jour ici. D'après la liste des capacités publiée, DeepInfer intègre des opérateurs haute performance et un moteur d'inférence profondément optimisé, prend en charge l'inférence distribuée, le décodage spéculatif, SWA Bounded Replay, la sortie structurée et d'autres fonctionnalités, et est compatible à la fois avec les plateformes NVIDIA et Huawei Ascend — dans le contexte actuel où les contrôles à l'exportation poussent à la substitution nationale, cette adaptation « bi-pile » est particulièrement concrète pour les développeurs chinois.
Open source en même temps que le framework, le composant deepseek-recipe, un encodeur-décodeur de Token de niveau production, dont la logique de traitement est entièrement alignée avec l'API officielle de DeepSeek, garantissant que l'expérience offerte à la communauté est identique au déploiement officiel. Les deux codes sont hébergés respectivement sur GitHub dans deepseek-ai/DeepInfer et deepseek-ai/deepseek-recipe.
Des modèles à la bibliothèque d'opérateurs en passant par le framework d'inférence, DeepSeek transfère tout le savoir-faire de « la fabrication de modèles » vers la communauté open source. Alors que le coût du calcul est devenu le principal obstacle à la démocratisation de l'IA, livrer le cœur d'efficacité pourrait faire bouger l'écosystème davantage que la simple publication de quelques poids — car celui qui aide l'industrie à tirer un rendement supérieur de chaque kilowattheure et de chaque carte détient le véritable atout du récit de la démocratisation.