IT之家 Information sur place du 29 octobre : XHEART Xinxin Hangtu a officiellement lancé aujourd'hui la puce pour grands modèles X7 Ultra, avec pour concept central « le grand modèle définit la puce », concevant l'architecture de la puce à partir des besoins réels des modèles produits en série,une puissance de calcul pour grands modèles atteignant 700 TOPS。
Li Zonglin, PDG de XHEART Xinxin Hangtu, estime queà mesure que la conduite intelligente passe de plusieurs petits modèles à des modèles de bout en bout de grande envergure, la manière de concevoir les puces doit également évoluer. C'est pourquoi, dès la création de XHEART en 2023, il a été décidé de partir des besoins en modèles des applications réelles pour déduire l'architecture de la puce, réorganiser le calcul, le stockage et la circulation des données, et réserver de l'espace pour l'évolution future des modèles.
Selon les informations, la puce pour grands modèles X7 Ultra de Xinxin Hangtu dispose d'une puissance de calcul pour grands modèles de 700 TOPS,un alignement mesuré de 99.99% sur les modèles produits en série。
Cette puce est conçue spécialement pour les grands modèles, avec une architecture NPU à très grands cœurs : l'échange de données intra-cœur, comparé à l'échange inter-cœurs, offreune vitesse d'interconnexion améliorée d'un ordre de grandeur en TB/s. De plus,l'architecture de cache multiniveau de la puce prend en charge les caractéristiques de grande capacité et de haute concurrence, réduisant la latence et la consommation d'énergie lors de l'inférence。
Le X7 Ultra de Xinxin Hangtu intègre un moteur d'accélération d'opérateurs dédié aux grands modèles de haute précision, optimisé au niveau matériel pour une série d'opérateurs clés des grands modèles Transformer tels que Layernorm, Softmax et Transpose,prenant en charge nativement les calculs vectoriels haute précision FP16/FP32, garantissant la précision des modèles.
Le déverrouillage du parallélisme matériel du NPU de cette puce permet de libérer pleinement le potentiel d'inférence des grands modèles,un taux d'utilisation du calcul atteignant 98.7%. Comparé aux produits phares du secteur, sa consommation de bande passante mémoire est réduite de 80%,une efficacité énergétique améliorée de 100%。
Le X7 Ultra de Xinxin Hangtu inaugure également en Chine la production en série d'un CPU automobile Armv9,avec une performance améliorée de 20% et une efficacité énergétique améliorée de 10%. De plus, l'architecture de grand cluster améliore également la collaboration multicœur et les performances d'accès mémoire L3,avec l'intégration d'un nouveau moteur de traitement vectoriel SVE2, offrant de meilleures performances DSP que la génération précédente NEON.
IT之家 présente ci-dessous un aperçu en une image des points forts clés de la puce pour grands modèles de conduite intelligente X7 Ultra de Xinxin Hangtu :