IT之家 – Selon une annonce du 20 octobre, DeepSeek a officiellement annoncé que, sur la base de l’ouverture d’une série de modèles de grande taille, de outils de compilation TileLang et de bibliothèques d’opérateurs de raisonnement, il a décidé de rendre le cadre de raisonnement interne DeepInfer entièrement ouvert au public.
DeepSeek a déclaré officiellement que les limites des capacités des grands modèles sont définies par le modèle lui-même, mais la manière de fournir des services de modèles ultra-grands à un coût raisonnable dépend également d’un intermédiaire longtemps inconnu du public : le framework de raisonnement.
L’entraînement permet au modèle d’acquérir des connaissances, tandis que la raisonnement en fait un outil utile pour les humains. Face aux nombreux appels des utilisateurs actuels, le cadre de raisonnement est chargé de gérer de grandes infrastructures de calcul, et son efficacité détermine directement les coûts de calcul et la consommation d’énergie des services AI.
DeepSeek espère, en partageant ses expériences de déploiement internes, aider les développeurs et les organisations d’entreprise à optimiser le rendement et les latences du raisonnement à grande échelle, afin de construire efficacement des déploiements en cloud privé et public, réduire les coûts de puissance et l’énergie consommée, et permettre aux intelligences de toucher un plus large public à un prix inférieur, garantissant une véritable accessibilité des grands modèles de données.
Basé sur DeepInfer, DeepSeek a officiellement mis en place un service de raisonnement à grande échelle DeepSeek V4.1 Flash, caractérisé par un haut débit et une faible latence. À l’avenir, les codes de raisonnement des nouveaux modèles de DeepSeek ainsi que leurs améliorations ultérieures seront également mis à jour continuellement sur cette plateforme.
Framework de raisonnement DeepInfer : Intègre des opérateurs performants et un moteur de raisonnement optimisé en profondeur, permettant des capacités telles que la raisonnement distribué, le décodage hypothétique, le SWA Bounded Replay et l’affichage structuré, et étant compatible avec les plateformes NVIDIA et Huawei Ascend.
deepseek-recipe composant de codage et décodage : composant de codage et décodage de niveau produit ouvert, synchronisé avec le traitement des données de l’API officielle de DeepSeek, pour garantir à la communauté une expérience API identique à celle déployée officiellement.
L’adresse ouverte de IT Home est la suivante :
DeepInfer : https://github.com/deepseek-ai/DeepInfer
deepseek-recipe : https://github.com/deepseek-ai/deepseek-recipe
Avis public : Le texte contient des liens de redirection vers l’extérieur (y compris mais sans s’y limiter à des hyperliens, des codes QR, des mots de passe, etc.), destinés à transmettre plus d’informations, à gagner du temps lors de la sélection, et les résultats sont uniquement indicatifs. Tous les articles de IT Home contenant des liens externes respectent cette déclaration.