Le 6 novembre, la cérémonie de remise du 26e Prix chinois des brevets s’est tenue à Wuxi. Le brevet présenté par Alibaba Cloud, intitulé « Méthode et dispositif de traitement des demandes utilisateur », a reçu le prix d’or des brevets chinois. C’est la seule entreprise cloud à obtenir ce prix cette année. Cette technologie brevetée permet de percevoir en temps réel les changements dans les besoins en puissance de calcul, en particulier face aux fluctuations importantes dans l’époque d’Internet et d’IA. Elle assure une allocation dynamique et flexible de la puissance de calcul intelligente à grande échelle, avec une fourniture sécurisée – capable de supporter les pics et de récupérer les creux, ainsi que des isolations de sécurité pour plusieurs locataires.
Le Prix des brevets chinois est élu conjointement par l’Office national de la propriété intellectuelle et l’Organisation mondiale de la propriété intellectuelle. C’est la plus haute distinction dans le domaine des brevets en Chine. Chaque édition nationale ne distingue pas plus de 30 médailles d’or pour les brevets inventifs, ce qui constitue une certification autoritaire nationale concernant l’innovation des entreprises et la valeur industrielle des brevets. Actuellement, Alibaba Cloud dispose de plus de dix mille brevets répartis dans plus de dix pays et régions, en s’occupant des domaines technologiques clés tels que le cloud computing, l’intelligence artificielle, les grandes modèles et les puces.
Résoudre les trois grands problèmes de la planification de la puissance de calcul intelligente à grande échelle dans l’ère de l’IA
Les clusters de puissance intelligente à très grande échelle dans l’ère de l’IA sont confrontés à des marées de demande intenses : les flux imprévus, les pics d’entraînement et les pics de raisonnement se superposent, mettant en épreuve les limites de la flexibilité de la puissance de calcul. Entre les pics et les creux, la demande en puissance de calcul peut varier de cent fois – si on utilise une configuration à pic, de nombreuses ressources restent inutilisées en conditions normales ; si on utilise une configuration quotidienne, l’arrivée du pic entraîne un risque de capacité insuffisante et de instabilité du service. Par conséquent, l’unification élastique de la puissance de calcul hétérogène, la réponse instantanée aux charges dynamiques, et l’isolation sécurisée dans un environnement multi-tenants constituent les trois défis majeurs pour les capacités de calcul de très grande taille à l’ère de l’IA.
L'invention centrale de cette brevet de Alibaba Cloud est une nouvelle manière de traiter les demandes utilisateur. Les solutions traditionnelles dépendent de l’attribution préalable des ressources et attendent passivement les requêtes, entraînant un écart entre la répartition des ressources et la charge réelle sur le long terme ; tandis que la méthode proposée par ce brevet permet de percevoir en temps réel les changements de besoins, en correspondant intelligemment les requêtes avec les capacités de calcul hétérogènes de base, afin que chaque demande obtienne une réponse en capacité de calcul adaptée et rapide.
En particulier, le système perçoit en temps réel les fluctuations de la charge de travail entre les demandes des utilisateurs et la puissance de calcul abondante, et distribue dynamiquement la puissance de calcul là où elle est le plus nécessaire. En période de pic de charge, il augmente automatiquement la capacité ; en période de faible charge, il la réduit automatiquement. Ainsi, la puissance de calcul est fournie selon les besoins, comme l’eau ou l’électricité, à utiliser à volonté, afin que chaque ressource soit utilisée au mieux. La stratégie d’étalement préalable et l’amélioration de l’efficacité du planification permettent également le démarrage des applications en quelques secondes, et la réponse en millisecondes pour les grands modèles de raisonnement devient réalité. En même temps, les données des différentes applications sont traitées et stockées dans des environnements de fonctionnement indépendants, isolées l’une de l’autre sans interférence. Cela permet non seulement d’améliorer l’efficacité de l’utilisation des ressources, mais aussi de créer une barrière de protection end-to-end pour la sécurité des données.
La capacité de calcul flexible fournit de manière plus efficace les services aux milliers d'industries de l'ère de l'IA
Grâce à l’accumulation de compétences en matière de planification de puissance de calcul élastique et autres technologies, Alibaba Cloud a continuellement développé une série de produits couvrant le calcul général, l’entraînement et la prédiction de modèles, ainsi que le fonctionnement d’agents intelligents. Des produits tels que les instances de super-nœuds Lingjun Zhenwu, les agents Sandbox pour agents intelligents, le stack AI Serving Stack pour services de conteneurs, et le cache distribué Fluid ont été lancés progressivement, et sont largement utilisés dans tous les domaines de l’ère de l’IA.
Par exemple, MiniMax utilise l’Agent Sandbox d’Alibaba Cloud pour lancer cinq mille sandboxes en 10 secondes, ce qui réduit le coût total de possession de 25 % ; Kimi de Moon’s Dark Side permet une expansion élastique de dizaines de milliers de sandboxes par minute, et le temps de démarrage est réduit de 50 %, afin de garantir une réponse stable aux activités grâce à une offre élastique ; Step Star combine l’Agent Sandbox et Alibaba Cloud ACK, permettant à des millions de sandboxes de fonctionner de manière stable et compressant le cycle d’évaluation du modèle de la période hebdomadaire à la période quotidienne. Tianqian Youwuyou AI Recruiting Assistant utilise Agent Sandbox pour gérer des milliers de requêtes pulsantes via le sommeil hiérarchisé, et permet la restauration des données de session ; Kingsoft Office, grâce à Agent Sandbox et à l’infrastructure cloud native d’Alibaba Cloud, obtient un environnement de sandbox en quelques millisecondes par le biais d’une piscine de préchauffage, combinée à une planification à marée et à une sauvegarde des services dans plusieurs clusters, afin de garantir une expérience de utilisateur, les coûts et la continuité du service.
Le inventeur breveté et responsable de la recherche et développement des conteneurs et des sandboxes d’Alibaba Cloud, Yi Li, a déclaré : « Le cloud computing est devenu une force productive essentielle, au même rang que l’électricité et l’eau. De l’ère mobile internet à l’ère de l’IA, Alibaba Cloud se concentre toujours sur la perception en temps réel des charges, l’allocation uniforme de capacités hétérogènes et l’isolation sécurisée dans un environnement multi-tenancy. Cela permet à la puissance computationnelle de circuler selon les besoins et de s’adapter précisément, abaissant les barrières liées à l’entraînement et à la raisonnement des grandes modèles de données ainsi qu’à l’exécution des agents intelligents, promouvant ainsi l’implémentation à grande échelle des applications intelligentes. »