AIbasePublication de la source

Le grand modèle intégré terminal-cloud iFlytek Spark X2.6 est publié, franchissant pour la première fois, sur une puissance de calcul…

Lors du Global 1024 Developer Festival cet après-midi, iFlytek a officiellement dévoilé le grand modèle intégré terminal-cloud Spark X2.6. Son étiquette la plus marquante est la suivante : pour la première fois, sur une puissance de calcul entièrement nationale, il a conquis à la fois les capacités de code et d'agents intelligents.

Lors du Global 1024 Developer Festival cet après-midi, iFlytek a officiellement dévoilé le grand modèle intégré terminal-cloud Spark X2.6. Son étiquette la plus marquante est la suivante : pour la première fois, sur une puissance de calcul entièrement nationale, il a conquis à la fois les capacités de code et d'agents intelligents. Le président Liu Qingfeng a souligné lors de la conférence que, parmi les entreprises développant actuellement de grands modèles, Spark est la seule à être entraînée exclusivement sur une puissance de calcul entièrement nationale, les autres tournant presque toutes sur des cartes NVIDIA, et le modèle d'iFlytek est en outre le plus petit d'entre eux.

Pour rendre efficace l'exploitation de la puissance de calcul nationale, iFlytek s'est cette fois heurté de front au point faible des puces nationales : une bande passante mémoire limitée, qui empêche d'atteindre un bon rendement lors de l'entraînement mixte sur des tâches longues. Liu Qingfeng a déclaré que X2.6 a été le premier à briser le goulot d'étranglement de l'efficacité d'entraînement des tâches longues sur les puces nationales, grâce à un ensemble de technologies d'entraînement parallèle dynamique pour tâches longues adaptées aux plateformes nationales ; côté inférence, ils ont apporté deux innovations : premièrement, une technologie d'inférence distribuée fondée sur la puissance de calcul hétérogène nationale, spécifiquement conçue contre le goulot d'étranglement de bande passante qui empêche un entraînement rapide, et deuxièmement, une technologie de développement fondée sur les équipements nationaux, permettant de réutiliser directement de nombreux résultats intermédiaires sans devoir les recalculer depuis le début.

Le côté terminal a également franchi un pas. Le grand modèle open source pour terminaux Spark X2.6-4B a été publié simultanément, permettant pour la première fois à un modèle terminal de réaliser un bond en capacités d'agent intelligent, avec des scores de benchmark nettement améliorés par rapport au X2.5-4B. Depuis son ouverture open source le 9月1日, le X2.5-4B s'est hissé dans le top quatre mondial des modèles terminaux en nombre de téléchargements. La série X2.6 est actuellement disponible en essai sur le site officiel d'iFlytek Spark, avec en première mondiale l'architecture collaborative intégrée terminal-cloud du grand modèle Spark.

Les paramètres et les tarifs ont également été annoncés. X2.6, entraîné sur puissance de calcul nationale, adopte une architecture MoE de 293B-A30B paramètres, avec une longueur de contexte portée à 1M, des capacités de code et d'agents intelligents de premier ordre dans le secteur, une protection de sécurité professionnelle et la prise en charge de stratégies de sécurité personnalisables selon les scénarios de tâches. Tarification limitée de l'inférence : entrée 0,9 yuan par million de tokens, cache touché 0,08 yuan, sortie 3,6 yuan. Quant au modèle terminal X2.6-4B, il améliore considérablement les capacités en code, agents intelligents, textes longs et multilinguisme, ajoute trois modes d'inférence, offre une meilleure efficacité que ollama sous son cadre d'inférence propriétaire, et sa tarification d'inférence est gratuite pour une durée limitée.

Source originale

AIbase

À propos du contenu

La publication originale et les droits appartiennent à la source.

Traduction automatique · Consultez l’original