DeepSeek a annoncé officiellement le 20 octobre qu’après avoir rendu open source une série de grands modèles, l’outil de compilation TileLang et la bibliothèque d’opérateurs de raisonnement, elle a décidé de faire un pas de plus : elle a rendu entièrement open source son cadre de raisonnement interne DeepInfer.
Cette entreprise a révélé une couche intermédiaire longtemps ignorée par le public : la limite de capacité des grands modèles est déterminée par le modèle lui-même, mais la manière de maintenir des services de modèles ultra-grands à un coût raisonnable dépend vraiment du cadre de raisonnement. L’entraînement permet au modèle de « apprendre », tandis que la raisonnement permet au modèle de « être utilisé par les humains ». Face aux nombreux appels des utilisateurs actuels, le cadre de raisonnement est chargé de coordonner et de gérer les grands clusters de puissance informatique ; son efficacité détermine directement le coût en puissance informatique et la consommation d’énergie des services IA.
DeepSeek souhaite, en partageant ses expériences internes de déploiement, aider les développeurs et les organisations à optimiser la capacité d’écoulement et le temps de réponse des raisonnements à grande échelle, afin de construire plus efficacement des déploiements en cloud privé ou public. Cela permettra de réduire les coûts de calcul et l’énergie consommée, permettant aux intelligences de toucher un public plus large à un prix inférieur, et réaliser ainsi ce que DeepSeek appelle « l’accès universel aux grandes modèles de données ».
Basé sur DeepInfer, l’équipe officielle de DeepSeek a déjà mis en œuvre le service d’inférence à grande échelle à haut débit et à faible latence DeepSeek V4.1Flash ; par la suite, les codes d’inférence des nouveaux modèles et les améliorations ultérieures seront continuellement mis à jour dans ce cadre.
En particulier, le cadre de raisonnement DeepInfer intègre des opérateurs performants et un moteur de raisonnement optimisé en profondeur, permettant des capacités telles que la raisonnement distribué, le décodage hypothétique, le SWA Bounded Replay et l’affichage structuré. Il est également compatible avec les deux plateformes NVIDIA et Huawei Ascend. Parallèlement, le composant de codage et de décodage deepseek-recipe est également open source – un module de codage et de décodage de tokens de niveau produit, qui correspond complètement à la logique de traitement de l’API officielle de DeepSeek, garantissant ainsi une expérience API et une déploiement officiel identiques pour la communauté. Pour ceux qui souhaitent établir eux-mêmes un service de raisonnement, cela signifie qu’ils n’ont pas besoin de commencer à zéro ; ils peuvent se baser directement sur l’expérience de déploiement de DeepSeek.