AIbaseMis à jour le

L'outil open source Strata 0.2 sort en grande pompe : le seuil matériel descend encore de 16 GB, pour faire tourner localement et sans…

L'outil open source d'exécution de grands modèles IA locaux Strata publie la version bêta 0.2.0, qui ajoute une interface graphique autonome et continue d'abaisser le seuil matériel du déploiement local. La nouvelle…

L'outil open source d'exécution de grands modèles IA locaux Strata livre une mise à jour majeure avec sa version bêta 0.2.0. En tant qu'outil open source dédié à faire tourner sans à-coups sur des ordinateurs domestiques ordinaires de grands modèles de langage tels que Qwen3.8-Flash-Next et Qwen3.6-35B-A3B, Strata introduit dans cette mise à niveau non seulement une toute nouvelle interface graphique autonome, mais abaisse encore considérablement le seuil matériel du déploiement local.

En ce qui concerne la configuration matérielle requise, la nouvelle version optimise en profondeur l'occupation combinée de la mémoire vive et de la mémoire vidéo (RAM + VRAM). 27.6 GB au total entre RAM et VRAM suffisent au minimum pour faire tourner sans à-coups de grands modèles locaux. Cela signifie qu'un utilisateur disposant d'une carte graphique avec 12 GB de mémoire vidéo, associée à 20 GB de mémoire système, satisfait à la configuration minimale de déploiement. Dans les niveaux de recommandation de modèles, le niveau recommandé IQ2_XS, qui exigeait 48 GB, descend à 40 GB, tandis que le niveau de haute qualité recommandé IQ3_XXS, qui exigeait 64 GB, chute nettement à 48 GB, soit une réduction des exigences matérielles de 8 GB à 16 GB selon les cas.

Au-delà de la baisse du seuil matériel, Strata 0.2.0 réalise également une accélération matérielle globale des performances d'inférence, dont notamment :

Côté NVIDIA : la vitesse de génération de texte des cartes graphiques des séries RTX30 augmente jusqu'à environ 13 % (tests réels : RTX3060 en hausse de 10.2 %, RTX A4000 en hausse de 13 %) ;

Côté AMD : la vitesse de traitement des prompts des cartes graphiques des séries RX9000 est presque doublée sur certains modèles ;

Côté Intel : la carte graphique Arc A750 obtient également une amélioration significative d'environ 42 % de la vitesse de traitement des prompts.

En matière d'expérience d'interaction et d'extension de l'écosystème, Strata 0.2.0 se débarrasse de la complexité et des lourdeurs de la compilation et du déploiement en ligne de commande d'autrefois, prend pleinement en charge les plateformes Windows, macOS et Linux, et ajoute une interface graphique native en chinois ainsi qu'un guide d'installation intelligent. Plus remarquable encore, la nouvelle interface graphique intègre en profondeur un Agent de programmation IA, prenant en charge la lecture et la modification de fichiers, la recherche en ligne et l'exécution automatisée de tâches ; en outre, la fonction de compréhension d'images est activée par défaut pour les cartes graphiques NVIDIA et AMD, et le mécanisme de téléchargement des modèles a été optimisé avec téléchargement concurrent multithread et reprise après interruption.


Source originale

AIbase

À propos du contenu

La publication originale et les droits appartiennent à la source.

Traduction automatique · Consultez l’original